25 detinguts d'una xarxa internacional de distribució d'imatges d'abús infantil generades amb IA

L'Europol ha detingut 25 membres d'una organització criminal dedicada distribuir imatges d'abusos a menors generades per intel·ligència artificial. Es tracta d'una operació internacional liderada per l'Europol i amb la col·laboració de la Policia Nacional contra l'explotació sexual infantil. Dues de les detencions s'han fet a Espanya, concretament a Barcelona i Madrid.

La investigació ha permès fer 33 entrades i escorcolls en domicilis de diversos països, quatre dels quals a Espanya, a les províncies de Madrid, Barcelona, Jaén i Màlaga. 

En aquests operatius s'han intervingut 173 dispositius electrònics, dels quals vuit eren a Espanya i contenien 16.800 arxius relacionats amb aquest tipus de delicte.

Operació pionera contra el material d'abús sexual infantil generat per IA

Aquesta operació és una de les primeres a escala mundial centrada en el material d'abús sexual infantil generat íntegrament per intel·ligència artificial (CSAM). 

El desenvolupament d'aquests models d'IA ha complicat la identificació de continguts il·legals, ja que les imatges creades s'assemblen cada cop més a fotografies reals, fet que dificulta la detecció per part de les autoritats.

L'origen de la investigació es remunta al 2024 amb la detenció d'un ciutadà danès que dirigia una plataforma en línia per a la distribució d'aquest tipus de contingut. Aquest era el nexe on els usuaris podien accedir a les imatges fent prèviament un pagament simbòlic en línia. 

La plataforma generava i distribuïa el material de manera automatitzada, eliminant la necessitat de contacte directe amb les víctimes.

Durant el transcurs de la investigació, l'Europol i el Grup de Treball Conjunt d'Acció contra la Ciberdelinqüència (J-CAT) han coordinat les accions i han facilitat l'intercanvi d'informació, aportant intel·ligència i anàlisis operatives que han estat claus per al desenllaç de l'operació.
 

Mesures preventives

La proliferació de contingut autogenerat per IA ha incrementat el volum de material il·legal, i dificulta la tasca de les autoritats per identificar i protegir les víctimes, tal com detalla l'informe de la Policia Nacional:  

"L'explotació sexual infantil en línia continua sent una de les majors amenaces del delicte cibernètic a la Unió Europea i una de les principals prioritats de les autoritats que s'enfronten a un volum cada vegada més gran d'aquesta mena de contingut il·legal."

Encara que en aquest cas no hi ha víctimes reals representades, les autoritats alerten que aquest tipus de contingut contribueix a la cosificació i sexualització de menors, cosa que perpetua un entorn de risc per a infants i adolescents.

En resposta a aquest problema, l'Europol i els seus socis internacionals llançaran els pròxims dies una campanya en línia per conscienciar sobre les conseqüències legals i ètiques de crear i distribuir material d'aquesta mena:

"S'utilitzaran missatges en línia per arribar als compradors de contingut il·legal, així com trucades telefòniques i missatges a les xarxes socials".

Aquesta operació internacional subratlla la necessitat d'un enfocament global i coordinat per combatre l'explotació sexual infantil, i reafirma la urgència d'abordar tant la persecució dels delinqüents com la prevenció a través de l'educació i la conscienciació ciutadana.