Intel·ligència artificial per crear pornografia infantil: "Els pitjors malsons s'han complert"

"Els pitjors malsons s'han fet realitat." Així de contundent s'ha mostrat Susie Hargreaves OBE, directora executiva de la Internet Watch Foundation, després de veure els resultats de l'últim estudi de l'organització.

L'informe conclou que els pedòfils ja utilitzen la intel·ligència artificial indiscriminadament per generar imatges d'abusos sexuals de nens i nenes i les comparteixen a la internet fosca.

Amb unes instruccions senzilles, creen imatges d'abús sexual "que són molt difícils de diferenciar de les reals". A més, apunten que aquesta tècnica també s'estan manipulant imatges de nens i nenes famosos per convertir-les en contingut d'aquest tipus. És el que feia també el menor detingut aquest dimarts a Súria. 
 

Una pràctica a l'alça a la internet fosca

Des que els sistemes de generació d'imatge van combinar-se amb la intel·ligència artificial, molts experts i entitats han advertit dels perills potencials que suposen si s'utilitzen indegudament. L'estudi de la IWF s'ha centrat a investigar i registrar quines imatges es podien trobar en un únic lloc web d'abús infantil de la dark web, la internet fosca, generades amb IA.

Els dotze investigadors que van monitorar l'activitat de la web durant un mes han trobat un total d'11.108 imatges sospitoses d'infringir algun delicte relacionat amb l'abús sexual infantil. D'aquestes, han descobert que gairebé 3.000 eren il·legals segons la llei del Regne Unit sobre l'abús infantil. Una de cada cinc, 564, es classifiquen com a categoria A, que és el tipus més greu.

Més de la meitat de les imatges analitzades, 1.372, representen nens en edats compreses entre els set i els deu anys, mentre que 143 són de nens de tres a sis anys, i dues de nadons menors de dos anys. I, fins i tot, han trobat fitxers model que servien perquè altres pedòfils en poguessin generar més.

Els investigadors conclouen que hi ha una nova manera de fer per part dels pedòfils, que agafen fotos de nens i nenes d'internet i utilitzen la IA per recrear situacions d'abús sexual infantil.

Actors infantils o artistes adultes convertides en nenes 

A més, apunten que algunes d'aquestes fotografies són imatges manipulades d'actors infantils per convertir-les en contingut sexual i imatges de cantants i estrelles de cinema, la majoria dones, editades amb IA per convertir-los en nens i nenes i recrear situacions d'abús.

Després d'obtenir els resultats de l'estudi, l'organització benèfica ha anunciat que portarà aquest tema a la cimera d'IA del govern del Regne Unit, que se celebra la setmana vinent a Bletchley Park.

"Els nostres pitjors malsons s'han fet realitat, hem de controlar ja ara aquesta amenaça", afirma la directora executiva de l'IWF, Susie Hargreaves OBE, que explica que ja van alertar a principis d'any que això podia succeir.

"Ja vam advertir a principis d'any que les imatges d'IA podrien convertir-se en imatges molt difícilment distingibles de les reals, i que podríem començar a veure moltes més imatges d'aquest tipus a internet. Ara ja estem en aquest punt."

La IWF alerta que "les imatges normalitzen el comportament dels depredadors" i asseguren que poden convertir-se en un problema policial, ja que les autoritats podrien trobar-se amb imatges generades amb IA sense saber-ho i intentar localitzar nens que no existeixen.