El papa "trendy" o Trump arrestat: el nou repte de les fotos falses fetes amb IA

El món de les notícies falses, la desinformació, la infoxicació i la tempesta de continguts ha sumat als últims dies una nova eina per aportar soroll als continguts que consumim cada dia: imatges hiperrealistes generades per intel·ligència artificial.

En dues setmanes, noms com Midjourney, Stable Diffusion o Dall·E 2 s'han fet (més) populars i molts usuaris han començat a experimentar i a produir imatges artístiques o realistes per entretenir-se.

El problema és que aquestes eines, com tantes altres, ofereixen la possibilitat de fer-les servir per generar imatges falses que ens facin creure coses que mai no han passat. 

L'última imatge generada per IA que ha fet fortuna és la del papa Francesc amb un abric de plomes de Balenciaga.

Aquesta imatge la va generar un usuari de Reddit amb Midjourney, l'eina de generació d'imatges de Discord (una xarxa social molt utilitzada per gamers, que la fan servir per xatejar mentre juguen). 

Unes altres imatges falses generades amb IA que han fet la volta al món són les de l'expresident Donald Trump barallant-se amb la policia de Nova York perquè no el detinguessin.

Aquesta imatge en concret va ser creada pel periodista Elliot Higgins, de Bellingcat, també amb Midjourney.

Com funcionen aquestes eines?

Per generar aquesta mena d'imatges no cal ser un programador expert. N'hi ha prou de registrar-se a Dall·E o Midjourney (a Stable Diffusion ni cal) i començar a potinejar.

El funcionament és tan senzill com escriure la descripció de la imatge que vols obtenir i clicar intro: hiperrealistic photo of Leo Messi with the RCD Espanyol jersey o hiperrealistic photo of the president of Catalonia jumping from a plane from below with the parachute open. 

Les opcions són tantes com et permeti la imaginació. No hi ha cap altre límit.   

Són indetectables les imatges fetes amb IA?

Ara per ara, la majoria d'imatges generades amb IA pel públic general tenen errors en el fons, en els petits detalls, a les mans de les persones que apareixen o a les expressions de la cara. 

Per exemple, a la imatge de Trump amb la policia, hi ha persones amb quatre dits i mans amb formes estranyes com han mostrat els companys de VerificaRTVE. 

Tot i això, segons Nico Roig, responsable de disseny per ordinador a Metropolitana (una agència de publicitat especialitzada a fer campanyes amb imatges generades per ordinador) en les feines més precises i professionals els problemes d'aquesta mena ja són molt limitats:

"Ara els problemes són amb els reflexos dels ulls, que són difícils de fer quadrar i que siguin com han de ser en cada ull, tenint en compte l'angle i la inclinació correcta. També costa perfeccionar la trama i la textura de la pell."

Tot i així, Josep Maria Ganyet, enginyer informàtic expert en IA i CEO de l'empresa Mortensen, creu que resoldre aquests defectes és qüestió de temps:

"Ja ara es pot fer qualsevol cosa. Les imatges ben treballades ja són indistingibles. És més, qualsevol creació és molt superior a la mitjana humana."

La fi del Photoshop?

Abans que aquest nou fenomen impactés arreu del món, la manipulació d'imatges per generar contingut fals passava pel clàssic Photoshop, el programa més conegut per editar i manipular fotografies. 

Tot i així, res fa pensar que la nova tecnologia substitueixi aquesta eina, sinó que més aviat acabaran sent dues eines complementàries, tant per la generació de contingut legítim com per crear imatges falses creades amb una intenció denunciable. 

Un exemple de la vigència del Photoshop és la imatge d'Isabel Díaz Ayuso amb un escot fals que ha circulat els darrers dies entre els seus partidaris. 

Així doncs, les imatges generades per intel·ligència artificial han irromput a les nostres vides i ja no marxaran. S'afegiran a l'onada infinita d'impactes visuals que rebem cada dia.

Potser ja és l'hora d'anar tenint clar que no tot el que veuen els nostres ulls és cert. 

Aturar l'IA durant sis mesos

El potencial disruptor d'aquestes noves eines, igual que dels models de processament de llenguatge com el Chat GPT, és tan gran que un miler d'experts en IA han signat una carta oberta demanant que s'aturi com a mínim sis mesos l'avenç en aquest camp. L'objectiu seria frenar fins que estiguem convençuts que els riscos que suposen aquestes tecnologies són assumibles.

Un dels signants, el català Ramon López de Mántaras, professor d'investigació del CSIC i director de l'Institut d'investigació en Intel·ligència Artificial, explicava donava alguns arguments al Popap de Catalunya Ràdio: 

"Què serà d'una societat en què sigui indistingible el que és real i el que es fals? La invasió que hi pot haver dedesinformació a nivell de text, imatge i vídeo pot causar un daltabaix brutal en la societat."

De Mántaras avisa també del potencial nociu que aquestes tecnologies estiguin en mans d'uns pocs: 

"El problema és aquesta concentració de poder en mans de poques corporacions, poques persones, i el mal que estan fent en l'ecosistema d'informació i en el natural. Perquè la quantitat d'energia que cal per entrenar aquests models és brutal."

Si la carta no aconsegueix el seu propòsit, els propers mesos seran tot un experiment global sobre l'abast i la capacitat d'aquesta tecnologia per influir en el nostre dia a dia.