Primer pas de la UE per regular la intel·ligència artificial: "Hem de reaccionar ràpidament"

"Tothom ha d'estar preocupat, però preocupació no ha de voler dir pànic". La frase és tranquil·litzadora i inquietant a parts iguals, perquè la intel·ligència artificial impressiona tant com neguiteja. Ens la va dir Dragos Tudorache, un eurodiputat romanès i ponent de la Llei sobre Intel·ligència Artificial que està ultimant el Parlament Europeu. Si com es preveu s'aprova al ple del mes de juny serà la primera regulació a tot el món en aquesta qüestió. 

De fet, aquest dijous el Parlament Europeu ja ha fet el primer pas cap a l'aprovació de la llei donant llum verda a negociar amb els vint-i-set la regulació de la intel·ligència artificial. 

Seria, doncs, una llei pionera, però a la velocitat acceleradíssima a què avancen les prestacions que ofereixen, per exemple, aplicacions com ChatGPT, pot semblar que la llei faci salat, que no hagi previst les noves funcionalitats revolucionàries que puguin aparèixer en molt poc temps. Podria pensar-se que la llei corre el risc de néixer gairebé obsoleta.

"Arriba just a temps", diu Tudorache que també admet que "tenim el deure de moure'ns tan ràpid com puguem", però apunta que l'esperit de la llei no és el de regular la tecnologia en si mateixa perquè "la tecnologia és "innocent i neutral; el risc és l'ús que se'n fa". Aquesta aproximació és el que segons el ponent de la llei ha d'assegurar que el text sigui vàlid en el temps. 

Els riscos d'allò desconegut

Quan ChatGPT va aparèixer a finals del 2022 era percebut com un processador de llenguatge "innocent", insisteix Tudorache quan parla de la tecnologia en si mateixa. El mateix ponent de la Llei d'Intel·ligència Artificial explica que al principi dels treballs en comissió molts deien que amb l'objectiu tan aparentment inofensiu de processar el llenguatge no tenia per què ser regulat i, fins i tot, que "s'hauria d'excloure ChatGPT de la Llei d'intel·ligència artificial".

Però altres deien que aquests models són molt potents i versàtils i es poden utilitzar de moltes maneres diferents. "Això va fer créixer les preocupacions", subratlla. I així és com es va decidir atendre l'especificitat de ChatGPT abans que el seu nom s'escampés per mitjans de tot el món. 

El primer risc que identifica Tudorache és sobre el contingut que produeix l'eina. "Si aquesta tecnologia no es supervisa el món digital quedarà abocat a la no verificació. Per això és molt seriós posar normes". I afegeix l'eurodiputat: "és una tecnologia tan potent que si cau en males mans pot provocar resultats molt dolents".

En aquest punt continuava la frase del principi, que cal estar preocupat però no tenir pànic. Tudorache diu: "No hem de pensar que s'acaba la humanitat ni res per l'estil. No estem en aquest punt, però hem de regular per mitigar que hi puguem arribar".

Regular, per exemple, sobre els drets d'autor. La llei que treballa l'eurocambra obliga els desenvolupadors de ChatGPT a documentar les fonts de les seves informacions i ser transparents amb l'ús de materials registrats amb drets d'autor.

Un altre risc són els biaixos de la informació que genera ChatGPT i posar normes per evitar-los és un dels reptes que es plantegen els experts i els reguladors.

"Si es tracta de generar informació, la pregunta és com es fa això i si les informacions són correctes".

La qüestió la planteja un responsable d'un altre organisme europeu que ha vist com la preocupació per ChatGPT és creixent al conjunt de la Unió Europea. Gwendald Le Grand és subdirector de l'Organisme Europeu de Protecció de Dades (EPBD, per les sigles en anglès).  Avisa que cal garantir que aquest tipus d'aplicacions estan compromeses amb la Regulació General de Protecció de Dades i han de saber que els ciutadans tenen drets com el d'estar informat que es fa amb les seves dades, de saber com es processen o el dret a verificar la informació.

Le Grand també avisa que al capdavall, darrere el desenvolupament tecnològic hi ha humans i, de nou, els seus biaixos "comporten un risc de discriminació que pot ser reproduït a la intel·ligència artificial", és a dir, que "la intel·ligència artificial no és necessàriament objectiva".

Els dubtes que es plantegen han arribat a diferents governs. L'italià, l'espanyol o l'alemany entre d'altres, han fet sonar algunes alarmes davant la sospita de falta de garanties de ChatGPT a l'hora d'obtenir les dades, processar la informació i subministrar resultats correctes. 

"Són preocupacions sobre la transparència i la informació proporcionada pels usuaris sobre com funciona el sistema", explica Gwendald Le Grand. I davant aquestes preocupacions l'EPBD ha creat un grup de treball amb presència de representants de les 27 agències de protecció de dades dels estats membres de la UE. 

"És un fòrum on intercanviem opinions per assegurar que la Regulació General de Protecció de Dades és congruent a tots els estats membres", i és que la competència en protecció de dades és nacional i davant fenòmens com Chat GPT.

Alineació dels òrgans reguladors

Que cada cop hi hagi més governs europeus preocupats pels riscos de ChatGPT és una bona notícia perquè hauria de conjurar tothom a caminar cap a una regulació efectiva. Però cal tenir en compte que la tecnologia és global i que per molt bé que ho vulguin fer uns, a l'altra punta del món, d'altres poden conduir en la direcció contrària.

No sembla que això passi en el cas dels Estats Units, on també s'està avançant a estructurar un marc regulador alineat amb el de la Unió Europea. 

El Parlament Europeu ha fet una crida a l'acció a través d'una carta dirigida a la presidenta de la Comissió Europea, Ursula Von der Leyen, i al president dels Estats Units, Joe Biden. Els demanen que no desatenguin la necessitat de fer bé les coses i, sobretot, "la necessitat d'ampliar la conversa", i per això el debat sobre ChatGPT ja ha trucat a la porta del G7. Però què passa quan mirem cap a la Xina?

"Pensem que no es pot ignorar l'elefant a la sala, que és la Xina. Encara que no estiguin alineats hem de tenir converses amb ells", reconeix Dragos Tudoroche.

L'aparició de ChatGPT com un emblema de la intel·ligència artificial revela que no és només una solució tecnològica fascinant, impressionant i fins i tot increïble, sinó que també és una via oberta a la desinformació, a la manipulació i a la desestabilització. Una amenaça per a la intel·ligència natural.