Què es podrà fer i què no amb la llei d'intel·ligència artificial de la Unió Europea

"Hem assolit una fita important, que els ciutadans podem decidir què es pot fer i què no amb la intel·ligència artificial."

Així definia la llei d'intel·ligència artificial acordada aquest divendres per la UE la secretària d'estat de Digitalització i Intel·ligència Artificial, Carme Artigas. Una llei pionera al món que, essencialment, estableix prohibicions i obligacions per a la IA en funció dels seus riscos potencials i del nivell d'impacte del seu ús. És per això que:

Queda prohibit

► els sistemes d'identificació biomètrica --com les càmeres de reconeixement facial--, que utilitzen característiques sensibles com les idees polítiques, les creences religioses, l'orientació sexual o la raça

► l'extracció no selectiva d'imatges, d'internet o enregistrades per càmeres de seguretat, per crear bases de dades de reconeixement facial

► el reconeixement d'emocions en el lloc de treball i en institucions educatives

► l'establiment d'una puntuació social a partir del comportament social o les característiques personals

► els sistemes d'IA que manipulen el comportament humà per esquivar la lliure voluntat

► la utilització d'IA per explotar les vulnerabilitats de les persones, a causa de l'edat, d'una discapacitat o de la situació econòmica o social

Identificació biomètrica: excepcions

Els sistemes d'identificació biomètrica han estat un dels cavalls de batalla de la negociació de la llei que, al final, estableix un seguit d'excepcions per al seu ús en espais públics per part de les forces de seguretat.

S'haurà de fer prèvia autorització judicial i només per perseguir els delictes detallats per la llei.

Així, es podrà fer un ús "posterior i remot" de les imatges captades amb aquests sistemes, només per a la recerca d'una persona condemnada per un delicte greu o sospitosa d'haver-lo comès.

Pel que fa a l'ús "en temps real" de la identificació biomètrica, queda sotmès a unes condicions molt estrictes, i limitat en el temps i l'espai, per als següents objectius:

⇒ cerca de víctimes de segrestos, tràfic o explotació sexual

⇒ prevenció d'una amenaça terrorista específica

⇒ localització o identificació d'una persona sospitosa d'haver comès delictes inclosos en la regulació (com terrorisme, tràfic de persones, explotació sexual, segrest, violació, assalt armat, participació en una organització criminal o delicte mediambiental)

Durant la negociació, aquesta llista de delictes ha estat objecte d'un estira-i-arronsa entre els estats membres, que volien ampliar-la, i el Parlament, que volia limitar-la al màxim i protegir els drets fonamentals.

Obligacions per als sistemes d'alt risc

Entre d'altres, la llei inclou l'avaluació obligatòria de l'impacte sobre els drets fonamentals dels sistemes d'IA que siguin classificats com d'alt risc. Són aquells que es consideri que presenten un risc potencial significatiu per a la salut, la seguretat, els drets fonamentals, el medi ambient, la democràcia i l'estat de dret.

A partir d'aquí, els ciutadans tindran dret a presentar queixes sobre sistemes d'IA i rebre explicacions sobre decisions basades en sistemes d'IA d'alt risc que afectin els seus drets.

Obligacions per als sistemes i models d'IA generativa

La llei estableix obligacions per als sistemes d'intel·ligència artificial generativa i els models que hi estan basats, com ChatGPT, participada per Microsoft, o Bard, propietat de Google.

Han de complir amb uns criteris de transparència que inclouen l'elaboració de documentació tècnica, el compliment de la llei de drets d'autor de la UE i la difusió de resums detallats sobre el contingut utilitzat per a la formació del model.

Hauran d'especificar, per exemple, si un text, una fotografia o una música s'han generat amb IA i garantir que les fonts utilitzades respecten els drets d'autor.

A més, si aquests models compleixen determinats criteris que fa considerar-los IA generativa d'alt impacte i risc sistèmic, hauran de dur a terme avaluacions i proves i també informar la Comissió Europea sobre incidents greus, garantir la ciberseguretat i donar dades sobre la seva eficiència energètica.

Sancions

La llei acordada pel Parlament Europeu i el Consell Europeu també preveu sancions per incompliment.

En funció de la infracció comesa i del volum de l'empresa, les multes van des dels 7,5 milions d'euros o l'1,5% de la facturació global, fins als 35 milions d'euros o el 7% de la facturació global.

Suport a la innovació i a les pimes

A banda d'establir garanties per a un ús segur de la IA, la llei també té l'objectiu d'impulsar les empreses europees, especialment les petites i mitjanes empreses, perquè puguin desenvolupar solucions a partir d'IA sense la pressió dels gegants del sector.

Creació de l'Oficina Europea d'Intel·ligència Artificial

Assessorada per un grup de científics i d'organitzacions de la societat civil, serà l'encarregada de coordinar l'ús de la tecnologia per part dels estats membres.

Entrada en vigor

La llei es preveu que estarà plenament vigent el 2026, però tindrà una aplicació gradual, fins aleshores.

Així, l'Oficina Europea d'IA es crearà de manera immediata, la prohibició dels sistemes d'IA no permesos arribarà d'aquí sis mesos i els requisits per als sistemes i models d'IA generativa estaran vigents d'aquí 12 mesos.

Abans, però, el text acordat aquest divendres ha de ser aprovat tant pel Parlament Europeu com pel Consell Europeu, la institució que reuneix els estats membres, un procés en el qual podria tenir alguna modificació.

La llei d'intel·ligència artificial de la Unió Europea és la primera del món i podria establir els estàndards i servir de model per regular aquesta tecnologia d'ara endavant.