La intel·ligència artificial ja reprodueix la desigualtat de gènere al món digital

Un 80% de les aplicacions en intel·ligència artificial estan fetes per homes. Això està provocant que aquesta tecnologia ja estigui reproduint, en el món digital, la desigualtat entre homes i dones del món real. Per evitar-ho, la Unesco ha creat una plataforma d'expertes que promou la igualtat de gènere en les eines d'intel·ligència artificial.

L'empresa Amazon es va veure obligada a retirar la seva eina de selecció de personal --basada en intel·ligència artificial-- perquè es va demostrar que no comptava amb els currículums de les dones candidates. La copresidenta de la plataforma Dones per a una Intel·ligència Artificial Ètica de la Unesco, Gabriela Ramos. Ho explica:

"Quan Amazon va desenvolupar una eina de reclutament, utilitzant Linkedin i intentant establir els criteris que defineixen una persona exitosa, resulta que no només no incloïa dones, sinó que directament les discriminava."

Un altre exemple: alguns diagnòstics mèdics es basen únicament en proves recollides en homes, cosa que provoca resultats que no tenen en compte les especificitats de la salut femenina.

Les dones, infrarepresentades en el disseny de la IA

En un moment en què la tecnologia digital està transformant la nostra vida quotidiana, les dones estan infrarepresentades tant en la investigació, com en el disseny d'aquestes tecnologies. Per això, la Unesco està decidida a revertir aquesta tendència, com assegura Gabriela Ramos, amb dones que assessorin els països on el grup treballa.

"A través de l'enfocament de gènere tindrem tecnologies més inclusives."

Aquesta plataforma està formada per disset expertes del món acadèmic, la societat civil, el sector privat i organismes reguladors. L'objectiu és assessorar governs i empreses d'arreu del món. Compartiran investigacions i bones pràctiques per aconseguir algoritmes i dades no discriminatòries.

Exemples de bones pràctiques

L'equip de treball que desenvolupa un programari d'intel·ligència artificial ha de ser divers: format per dones i homes, i persones de diferents cultures i orígens. Cal avaluar l'eina abans de comercialitzar-la per comprovar que compleix criteris d'igualtat i de respecte als drets humans.

"No es pot llançar al mercat una tecnologia que no ha estat provada en tots els seus àmbits. És com la medicina. Imagina't que a les farmacèutiques se'ls permetés llançar un medicament al mercat sense tenir cap avaluació del seu impacte. És el mateix amb aquestes tecnologies i no està passant."

Ara el repte d'aquest grup d'expertes de l'agència de les Nacions Unides és que els estats d'arreu del món regulin aquesta tecnologia i legislin per preservar la igualtat.