Els efectes nocius de Grok, la intel·ligència artificial gratuïta d'X sense límits ni control

La imatge de Messi i Maradona sostenint la copa del món de futbol junts és falsa. Qualsevol persona que consulti l'hemeroteca ho pot saber. Quan l'Argentina, amb Messi al capdavant, va guanyar el Mundial a Qatar, el 2022, feia dos anys que Maradona havia mort. Però a primer cop d'ull podria passar fàcilment com a certa.

És un exemple del que pot fer Grok, la nova intel·ligència artificial d'Elon Musk.

Fins fa un mes Grok era d'accés restringit, però ara està oberta a tothom. S'hi pot accedir a través d'X, l'antic Twitter, i fer-la servir és completament gratuït. Es tracta d'un xatbot, com ChatGPT, és a dir que funciona amb ordres i instruccions de text, el que en IA s'anomena "prompt". 

Sense límits ni restriccions

Grok permet inventar qualsevol situació que puguem expressar amb paraules. L'única limitació és temporal: deu peticions cada dues hores. Per cada "prompt" genera quatre imatges en pocs segons. 

És ràpida i especialment efectiva creant imatges fotorealistes, explica Frederic Guerrero-Solé, professor de Comunicació a la UPF. 

"És un model particularment bo en la creació d'imatges que fa difícil diferenciar entre el que és una fotografia, o basat en la realitat, o el que és purament sintètic."

Però a diferència d'altres eines, com Midjourney, Stable Diffusion o Dall-E, Grok no té restriccions establertes a l'hora de generar imatges. O més aviat, són unes normes que només sap Grok i que, de tant en tant, no permet visualitzar el resultat de la petició.

Per això és una eina que genera dubtes legals i ètics, sobretot pel que fa al respecte a la privacitat i la dignitat de les persones, en especial per a les que tenen projecció pública.

"Imatges falses i muntatges fotogràfics sempre han existit. El que passa és que ara són molt més realistes, és molt més ràpid fer-ne i arriben on fins ara no podien arribar", explica el col·lectiu United Unknown, que es dedica a fer muntatges i campanyes amb intel·ligència artificial.

"Nosaltres només treballem amb personatges polítics i ens emparem en el dret a la paròdia. Però Grok permet molts més usos, també de maliciosos o desinformació."

El potencial per a la desinformació

Darrere de United Unknown hi ha un grup de creadors de vídeos i imatges d'humor que des del 2010 fa activisme visual i sàtira política. El context i el to de les seves creacions fan que inconfusiblement es reconeguin com a falses.

Són seus, per exemple, els vídeos "Casa reial en flames", una recreació de la pel·lícula homònima però interpretada pels membres de la casa reial, o "La màgia del Nadal 2024", en què diferents polítics com Sánchez i Feijóo, Isabel Díaz Ayuso i Yolanda Díaz o Carles Puigdemont i Oriol Junqueras, vestits amb jerseis de llana amb motius nadalencs, s'abracen fraternalment al caliu d'una llar de foc.   

United Unknown treballa amb diferents models d'IA. Ha provat Grok i considera que es pot convertir en una arma ideològica: "La ultradreta, que és la gran especialista en les notícies falses, té ara unes eines per treballar brutals. Això és el que ens preocupa a nosaltres, més enllà dels usuaris que puguin fer mems."

"El problema és quan s'utilitza d'una manera maliciosa per generar desinformació"

"Evidentment, nosaltres tenim límits interns sobre el que fem i no farem res que atempti contra la integritat d'una persona i tampoc ho farem amb una persona que no és un personatge públic", argumenten.

De moment, Grok ha afavorit l'aparició d'una onada d'imatges en què se sexualitza cantants i polítiques, com Taylor Swift o Kamala Harris, o es creen imatges racistes d'esportistes, com Lamine Yamal, recreant estereotips xenòfobs.

Grok permet compartir fàcilment a la xarxa X les imatges que crea, cosa que ha omplert aquesta xarxa social d'imatges degradants.

Les imatges falses generades per aquesta IA únicament estan identificades amb una marca d'aigua de Grok en una cantonada. Eliminar-la és ben fàcil: "És una marca tan petita que només que retallis una miqueta la imatge, una cosa que sap fer tothom, ja la treus." 

De qui és responsabilitat?

Detectar si una imatge és real o està creada amb intel·ligència artificial és cada cop més difícil. "L'any passat ja vam dir en una xerrada que d'aquí a poc seria impossible distingir entre un vídeo que sigui de veritat o un de generat amb IA. I ja som quasi en aquest punt", diu United Unknown.

"Fins ara a la intel·ligència artificial li costava dibuixar les mans de les persones, per exemple. A vegades pintava mans de sis dits. Però això a poc a poc està canviant", explica el col·lectiu.

"Realment, no et sabria dir en què et pots fixar per detectar si una imatge és veritat o és mentida."

"Evoluciona tan de pressa que realment, quan veus alguna cosa que pots detectar, al cap d'uns mesos o setmanes això ja desapareix", afegeixen. 

De fet, arran dels incendis a Califòrnia, es van viralitzar diverses imatges amb el cartell de Hollywood cremant-se que els usuaris donaven com a certes. Totes eren falses. Les flames no van arribar mai al cartell. Però el seu impacte i la seva versemblança van fer que una d'aquestes creacions acabés en un informatiu d'un mitjà llatinoamericà.  

I un altre exemple. El president de Colòmbia, Gustavo Petro, s'ha cregut una imatge on apareix Javier Milei, el president de l'Argentina, fent un petó a la bandera dels Estats Units sota l'atenta mirada de Trump.

La va arribar a tuitejar, però ara ja l'ha esborrada. En realitat, és una imatge generada amb Grok.

Sigui per un atac a l'honor o per desinformació, a qui s'ha de demanar comptes per aquestes imatges és una altra de les incògnites que es posen sobre la taula arran de l'eina Grok.

"La gran pregunta és a qui denunciem."

"Denunciem la companyia que ha fet l'entrenament del model? Denunciem l'eina que permet fer aquesta imatge? Denunciem l'usuari, perquè ha creat un 'prompt' amb aquest contingut?" La qüestió de la responsabilitat encara és molt poc clara, apunta Frederic Guerrero-Solé, professor de Comunicació a la UPF. 

De la desinformació a la desconnexió

Els experts alerten que l'impacte de la IA no és només el risc d'un augment de la desinformació, sinó que ja s'està veient un altre efecte secundari menys cridaner però igualment nociu: la desafecció o desconnexió de la societat respecte de la informació. 

"Les audiències estan deixant d'exposar-se a les notícies perquè se senten insegures en relació a la veracitat dels continguts. És una tendència que hem anat observant els últims anys i és molt més aguda en les generacions més joves."

Una tendència a la desconnexió que --avisen els experts-- pot posar en risc la democràcia.