Menors que creen imatges falses de noies despullades amb IA: què hi pot fer la llei?

Ja són 11 les denúncies que analitza la Policia Nacional sobre la creació amb intel·ligència artificial de falsos nus d'adolescents i la posterior publicació a les xarxes socials. Els fets han succeït a Almendralejo, Badajoz, on diverses mares han denunciat la difusió de fotografies sexuals de les seves filles, elaborades amb aquesta tecnologia.

El cas l'ha fet públic a través d'Instagram la ginecòloga i divulgadora Miriam Al Adib, que aquest diumenge explicava com ho ha viscut la seva filla, una de les víctimes:

"Quan arribo a casa, una de les meves filles, amb un gran disgust, m'explica que han agafat una foto seva i amb una aplicació han fet com si estigués nua. Això l'hi han fet a la meva filla i, pel que sembla, a desenes més de nenes."

Accions que ja investiga la Policia Nacional, en les quals hi ha diversos menors identificats com a presumptes autors. Tot i això, aquests fets posen de manifest la preocupació sobre una tecnologia incipient, que evidencia la necessitat d'una regulació europea més estricta. I que, a més a més, tingui en compte la perspectiva de gènere, tal com reclama Laia Serra, advocada en violències digitals:

"Aquesta regulació sobre la intel·ligència artificial no ha tingut en compte tota una sèrie d'impactes socials importants. I és evident que les violències sexuals que incorpora la IA estan a l'ordre del dia."

I és que és fàcil trobar aplicacions que --sense filtres, controls ni restriccions-- ofereixen transformar la foto d'una persona vestida i mostrar-la despullada. Pàgines web orientades a un públic masculí, on es donen consells i mostren exemples per aconseguir una imatge molt realista.

En aquest sentit, el resultat és tan pròxim a la realitat que costa discernir entre el que és veritat i el que no, tal com denuncia Ana Vargas, mare d'una de les menors afectades:

"Se li veu la cara, és reconeixible. Sembla tan real, que jo la vaig haver de mirar dos cops per dir si era veritat o mentida."

Segons els experts, aquest ús de la IA suposa un risc per a la intimitat i l'honor dels menors. A més a més de l'impacte que tenen en funció del gènere, tal com exposa Serra:

"L'important són els impactes d'aquestes violències que tenen un efecte devastador, precisament per aquest rol de gènere, perquè per tots i totes és sabut que la difusió d'imatges d'un home o una dona crea uns efectes socials molt diferents."

"El 96% de les imatges creades amb IA estan relacionades amb la pornografia"

Els advocats experts en protecció de dades Eduard Blasi i Elena Gil alerten en una entrevista a l'agència EFE que "el 96% de les imatges" creades amb IA estan relacionades amb la pornografia.

Així mateix, subratllen la dificultat de perseguir aquest tipus d'actes en un context en què "cada vegada hi ha més aplicacions gratuïtes" i "qualsevol pot crear imatges artificials a cop de clic".

Gil també destaca la "petjada digital" que persegueix la víctima i que és "gairebé impossible d'eliminar del tot".

A més, Isabel Winkels, la vicedegana del Col·legi d'Advocats de Madrid i experta en dret de família, subratlla la "manca de conscienciació absoluta" sobre l'"ús abusiu i sense control" dels dispositius i l'accés a internet dels menors.
 

Conseqüències penals i multes elevades

Amb independència de com es desenvolupi la investigació a Almendralejo, els advocats consultats adverteixen que, en el cas que es consideri creació de pornografia infantil, el Codi Penal ho castiga amb fins a 5 anys de presó. Caldrà veure, però, l'encaix que té en el Codi Penal aquesta tipologia d'actes en els quals s'utilitza una tecnologia tan nova com la intel·ligència artificial.

D'altra banda, Winkels subratlla que la distribució d'imatges falses de contingut sexual pot suposar una intromissió a la intimitat de les víctimes. I, per tant, un possible delicte que es podria agreujar en funció del nivell de difusió.

En aquest sentit, els experts també apunten la possibilitat d'acudir a la via civil per danys a l'honor i a la intimitat de les víctimes, i recorden que l'Agència Estatal de Protecció de Dades (AEPD) preveu multes elevades per vulneració de la normativa, "que poden rondar els 10.000 euros".