La Unesco alerta que la IA pot tergiversar la història de l'Holocaust

La intel·ligència artificial podria generar un augment de la negació de l'Holocaust. Així ho assenyala un informe de la Unesco que s'ha fet públic aquest dimarts.

Aquest document --elaborat conjuntament amb el Congrés Jueu Mundial-- alerta de la possibilitat de fabricar afirmacions falses i enganyoses, sigui per defectes en els programes o perquè els grups d'odi i els negacionistes se n'aprofiten per generar continguts que qüestionin, per exemple, els assassinats comesos pels nazis.

La distorsió de relat descrita per la Unesco pot afectar aplicacions tan populars com ChatGPT o Bard de Google. Per fer-hi front, aquesta agència de l'ONU demana a les empreses tecnològiques revisar la manera com s'entrena aquestes eines i que incorporin protocols ètics en el seu disseny.

Una altra història

L'estudi recorda que, per ser capaç de generar contingut, la intel·ligència artificial beu de moltes fonts d'informació i que algunes de les dades que extreu d'internet poden donar lloc a interpretacions errònies o esbiaixades. Això pot reforçar els prejudicis sobre determinats fets, com passa --diuen-- especialment amb l'Holocaust.

Una de les màximes preocupacions en aquest terreny són les anomenades falsificacions profundes i el perill potencial que representen.

Un exemple és el fet que el ChatGPT va produir, el febrer passat, imatges de nazis negres; o l'existència d'una aplicació que permet xatejar amb alts càrrecs nazis --incloent-hi Adolf Hitler o Joseph Goebbels-- i falsejar la història de manera convincent, com assenyala Mykola Makhortykh, coautor de l'estudi, en declaracions a Catalunya Ràdio:

"El que és realment problemàtic d'aquest ús de la tecnologia és que no es desenvolupa de manera responsable. Això acaba generant molts problemes, que arriben al punt que pots tenir una conversa amb Hitler on li sents dir que, realment, no volia cometre l'Holocaust."

També hi ha exemples en el sentit contrari, que intenten afegir espectacularitat a la història inventant, directament, alguns fets. És el cas d'alguns falsos testimonis que asseguren que els nazis van practicar un "Holocaust per ofegament", un concepte completament generat per la IA que difon que les forces de Hitler ofegaven els jueus a les aigües del mar o dels llacs. Una pràctica que, segons totes les fonts historiogràfiques fiables, no s'ha donat mai.

A més, segons assenyala la Unesco, aquestes eines tendeixen a simplificar excessivament la història. Si busquem fotografies sobre l'Holocaust als principals motors de cerca d'internet, per exemple, en un 60 o 80% dels casos ens prioritzaran fotografies d'un sol lloc: el camp d'extermini d'Auschwitz. 

I això, quan es tracta de temes especialment difícils i controvertits, pot tenir conseqüències greus, com assenyala Audrey Azoulay, directora general d'aquesta organització:

"Si permetem que els fets horribles de l'Holocaust es dilueixin, distorsionin o falsifiquin mitjançant l'ús irresponsable de la IA, correm el risc de la propagació explosiva de l'antisemitisme i la disminució gradual de la nostra comprensió sobre les causes i les conseqüències d'aquestes atrocitats."

Per tot plegat, Azoulay subratlla que "implementar les seves recomanacions sobre l'ètica de la IA és urgent perquè les generacions més joves creixin amb fets, no amb invents".

I és que aquesta és una situació que afecta, especialment, la gent més jove. Es calcula que el 80% dels usuaris que tenen entre 10 i 24 anys fan servir eines d'intel·ligència artificial diversos cops al dia amb finalitats educatives o d'entreteniment. Un sector de la població a qui es dirigeix, especialment, el portaveu de la Unesco, Karel Fracapane, també en declaracions a Catalunya Ràdio.

"Com que les fonts no són segures, la IA tendeix a produir una idea molt limitada de la història. Això, òbviament, no es correspon amb el que volem que faci avui en dia la gent jove, que és tenir un pensament crític."

Per ara --diu--, les recomanacions de la Unesco en aquest sentit només s'han integrat en la legislació d'una cinquantena de països.  
 

Quan la IA també ens ajuda

L'altra cara de la moneda, però, són els efectes positius que pot tenir l'ús de la intel·ligència artificial en la recuperació i el manteniment d'aquesta memòria històrica. Una exposició de fa uns anys als Estats Units, per exemple, mostrava un vídeo educatiu sobre l'Holocaust generat artificialment.

La IA també està ajudant a completar el cens de víctimes de l'extermini nazi, creuant dades i registres a gran velocitat i amb fiabilitat. Investigadors israelians, per exemple, l'estan fent servir per trobar víctimes fins ara anònimes. El sistema està en fase de proves, però sembla que ja està donant bons resultats: ja han descobert més d'un miler de noms de persones que, fins ara, no figuraven en cap llistat.