Europa pacta la primera llei d'intel·ligència artificial del món

Faltava poc per a la mitjanit quan les institucions de la Unió Europea han anunciat un acord per a una llei d'intel·ligència artificial, que permet o prohibeix l'ús de la tecnologia en funció del risc que suposa per a les persones. A més, pretén impulsar la indústria europea davant de gegants com la Xina o els Estats Units.

L'acord, provisional, entre els estats membres i el Parlament Europeu, arriba després de 36 hores de negociacions que van començar aquest dijous. Unes negociacions "apassionades", segons fonts coneixedores del procés de debat i converses posteriors que ha permès assolir l'acord.

Ara, el text l'hauran de ratificar cadascuna de les dues parts, el Parlament Europeu i el Consell de la UE, on estan representats els governs dels estats membres.

El comissari europeu del Mercat Interior i Serveis, Thierry Breton, ha anunciat el pacte, passats dos quarts de dotze de la nit, d'una manera molt gràfica, exclamant "Acord!" a X / Twitter.

Deal!#AIAct pic.twitter.com/UwNoqmEHt5

— Thierry Breton (@ThierryBreton) December 8, 2023

Més tard, en roda de premsa, Breton ha valorat que "Europa s'ha posicionat com a pionera, comprenent la importància del seu paper com a establidora de l'estàndard global". 

"Aquest és, sí, un dia històric", ha reblat. 

Des de la presidència espanyola del Consell Europeu, la secretària d'estat de Digitalització i intel·ligència artificial, Carme Artigas, ha remarcat que s'ha aconseguit "una fita important, que els ciutadans podem decidir què es pot fer i què no amb la intel·ligència artificial".

La presidenta de la Comissió Europea, Ursula von der Leyen, ha celebrat l'acord i ha qualificat la llei de "pionera al món" i de "marc legal únic" per aconseguir un "desenvolupament fiable de la intel·ligència artificial" i per garantir "la seguretat i els drets fonamentals de les persones i les empreses".  

The 🇪🇺 AI Act is a global first.

A unique legal framework for the development of AI you can trust.

And for the safety and fundamental rights of people and businesses.

A commitment we took in our political guidelines - and we delivered.

I welcome today's political agreement.

— Ursula von der Leyen (@vonderleyen) December 8, 2023

Von der Leyen també ha remarcat que aquesta llei suposa el compliment d'un compromís adquirit. Un compromís que es remunta a l'any 2021, quan encara no existia ChatGPT, per exemple, però que no ha acabat materialitzant-se fins a finals del 2023.
 

La identificació biomètrica, punt clau

Un dels punts sensibles de la negociació ha estat l'ús que les forces de l'ordre puguin fer de les càmeres d'identificació biomètrica amb l'objectiu de garantir la seguretat nacional i prevenir delictes com el terrorisme o la protecció d'infraestructures.

La norma prohibeix les càmeres de reconeixement facial en espais públics, però els governs han pressionat per permetre-les en casos concrets, sempre amb autorització judicial prèvia.

En canvi, el Parlament Europeu va arribar a les negociacions amb una clara intenció de prohibir les càmeres d'intel·ligència artificial, tot i que el ponent de la llei, l'eurodiputat socialdemòcrata Brando Benifei, s'havia mostrat obert a permetre algunes excepcions si anaven acompanyades de fortes salvaguardes per als drets humans.

"Ha estat llarg i intens, però l'esforç ha valgut la pena", ha valorat Benifei, que ha remarcat "la resiliència del Parlament Europeu" en el procés negociador i ha assegurat que l'Eurocambra "continuarà vigilant de prop, per garantir el suport a les noves idees de negoci i normes efectives per als models més potents".
 

Com regular els models fundacionals de l'IA

L'altre gran assumpte que ha centrat les negociacions és la regulació dels models fundacionals d'intel·ligència artificial, sistemes en què es basen programes amb ChatGPT, de l'empresa OpenAI, o Bard, de Google.

Inicialment, aquesta llei no estava pensada per regular aquest tipus de sistemes, perquè quan Brussel·les la va proposar, l'abril del 2021, encara no s'havien popularitzat. Les institucions comunitàries, però, han vist la necessitat de legislar-los des de l'esclat de ChatGPT l'any passat.

Han estat unes negociacions "apassionades", perquè l'objectiu de la llei és regular l'ús d'una tecnologia amb grans possibilitats per a la societat, que genera dubtes i preguntes que els desenvolupadors de la intel·ligència artificial encara no saben respondre, segons fonts coneixedores dels debats.

Amb l'aprovació de la norma, la presidència espanyola del Consell de la UE ha aconseguit un dels principals objectius del semestre.

Decepció de la indústria i dels defensors dels drets

L'alegria expressada pels responsables polítics europeus no es correspon amb les reaccions a l'acord que ja es coneixen de la indústria de tecnologia digital i dels defensors dels drets digitals. 

A la indústria no li ha agradat la regulació dels models fundacionals, mentre que als defensors dels drets digitals els ha decebut la regulació de la identificació biomètrica.

"Tenim un acord, però a quin cost?", ha valorat Cecilia Bonefeld-Dahl, directora general de DigitalEuropa, la principal associació de la indústria de tecnologia digital, que aplega unes 45.000 empreses.

"Donàvem plenament suport a un enfocament basat en el risc dels usos concrets de la intel·ligència artificial, no de la tecnologia en si, però l'intent d'última hora de regular els models fundacionals ha capgirat tot això", ha declarat.

"És difícil emocionar-se amb una llei que, per primera vegada a la Unió Europea, fa passos per legalitzar el reconeixement facial en viu", ha lamentat Ella Jakubowska, assessora del grup European Digital Rights, defensor dels drets digitals i la llibertat online. 

"Mentre el Parlament ha lluitat durament per limitar els danys, el paquet general sobre vigilància i perfils biomètrics és, en el millor dels casos, tebi", ha afegit encara.