Què regula la primera llei d'intel·ligència artificial, aprovada pel Parlament Europeu

Nou pas endavant per a l'anomenada AiAct, la llei europea que busca garantir que la intel·ligència artificial sigui fiable, segura, respecti els drets fonamentals i, al mateix temps, incentivi la innovació. 

El Parlament Europeu ha votat aquest dimecres l'acord aconseguit amb els estats membres el passat mes de desembre, i que estableix obligacions per a la intel·ligència artificial en funció del risc potencial de les diferents eines d'IA.

L'AiAct serà la primera llei d'intel·ligència artificial del món. Ara haurà de ser ratificada pel Consell de la Unió Europea i es preveu que la seva entrada en vigor serà l'any 2026.

De totes maneres, però, fins aleshores tindrà una aplicació gradual. Al cap de sis mesos de completar-se la votació al Consell, s'haurà de fer efectiva la prohibició dels sistemes d'intel·ligència artificial no permesos.

Els requisits i models pels sistemes d'intel·ligència artificial generativa, als 12 mesos. I l'Oficina Europea d'Intel·ligència Artificial s'ha de crear de manera immediata.

Com explicava en aquest article Simona Levy, fundadora de Xnet, l'AiAct és un inici: "allò que haurem de prestar esforç i atenció serà que les institucions ho implementin amb efectivitat i no de la manera agònica amb què estan implementant el Reglament General de Protecció de Dades".

De moment, aquests són els principals punts que regula l'AiAct:
 

Sistemes d'identificació biomètrica, regulats en certs supòsits

Els sistemes d'identificació biomètrica, és a dir, eines com el reconeixement facial, de veu, l'empremta digital o l'iris dels ulls, han estat un dels cavalls de batalla de la negociació de la llei. 

L'acord que s'ha portat aquest dimecres a votació inclou salvaguardes i excepcions per l'ús d'aquests sistemes. I els condiciona a una autorització judicial prèvia, per a una llista concreta de delictes i per un temps i espai determinats. 

Així, per a la vigilància en temps real, se'n permetrà l'ús en les següents cerques selectives:

• Víctimes de segrest, tràfic o explotació sexual
   
• Prevenció d'una amenaça terrorista específica i present
   
• Localització o identificació d'una persona sospitosa d'haver comès algun d'aquests delictes: terrorisme, tràfic de persones, explotació sexual, assassinat, segrest, violació, robatori a mà armada, participació en una organització criminal o delictes mediambientals.

I per a la vigilància feta a posteriori, els sistemes d'identificació biomètrica també queden limitats estrictament a la cerca d'una persona condemnada o sospitosa d'haver comès un delicte greu. 

Tot i aquestes limitacions, veus expertes han alertat els darrers mesos que es queden curtes. Albert Sabater, director de l'Observatori d'Ètica en intel·ligència artificial de Catalunya, per exemple, argumenta que "la línia entre l'ús i l'abús és molt fina, perquè per cercar la persona potencialment relacionada amb una activitat criminal, ens han d'investigar a tots".

Durant la negociació de l'acord, aquesta llista de delictes va ser objecte d'un estira-i-arronsa entre els estats membres, que volien ampliar-la, i el Parlament, que volia limitar-la al màxim i protegir els drets fonamentals.

Aplicacions d'intel·ligència artificial que queden prohibides

Queden estrictament prohibits els sistemes de categorització biomètrica que processin dades sensibles com les creences polítiques, religioses, filosòfiques, l'orientació sexual o la raça. 

Tampoc es podran desenvolupar eines que puntuïn o classifiquin socialment les persones en funció dels comportaments que tinguin o de les característiques personals. 

No es podran fer servir aplicacions que siguin capaces de reconèixer emocions dels treballadors en entorns de feina o en institucions educatives. 

Prohibeix l'extracció no selectiva d'imatges a través dels sistemes de reconeixement facial, amb imatges obtingudes a Internet o amb càmeres de seguretat. 

I també queden prohibits els sistemes d'intel·ligència artificial que manipulin el comportament humà per esquivar la lliure voluntat o les eines que s'aprofitin de certes vulnerabilitats de les persones, com poden ser l'edat, una discapacitat o la situació econòmica o social.
 

Vigilància per a la intel·ligència artificial generativa

Els darrers mesos, eines d'intel·ligència artificial generativa com ChatGPT o l'última, Sora, capaç de generar vídeos amb resultats finals impactants, han enlluernat milions d'usuaris arreu del món. 

La nova llei recull tota una sèrie d'obligacions per aquestes aplicacions que, sobretot, hauran de complir amb uns mínims de transparència: elaboració de documentació tècnica, compliment de la llei de drets d'autor de la UE o explicació sobre el contingut utilitzat per a l'elaboració de l'eina. 

Així, per exemple, hauran d'especificar si un text, una fotografia o una música s'han generat amb IA i garantir que les fonts utilitzades respecten els drets d'autor.

Les companyies, a la vegada, hauran de reportar a la Comissió Europea sobre incidències greus, garantir la ciberseguretat i informar sobre l'eficiència energètica. 

Obligacions per als sistemes d'alt risc

Entre d'altres, la llei inclou l'avaluació obligatòria de l'impacte sobre els drets fonamentals dels sistemes d'IA que siguin classificats com d'alt risc. Són aquells que es consideri que presenten un risc potencial significatiu per a la salut, la seguretat, els drets fonamentals, el medi ambient, la democràcia i l'estat de dret.

A partir d'aquí, els ciutadans tindran dret a presentar queixes sobre sistemes d'IA i rebre explicacions sobre decisions basades en sistemes d'IA d'alt risc que afectin els seus drets.
 

Sancions

En funció de la infracció comesa i del volum de l'empresa, les multes oscil·len des dels 7,5 milions d'euros o l'1,5% de la facturació global, fins als 35 milions d'euros o el 7% de la facturació global.
 

Suport a la innovació i a les pimes

A banda d'establir garanties per a un ús segur de la IA, la llei també té com a objectiu impulsar les empreses europees, especialment les petites i mitjanes empreses, perquè puguin desenvolupar solucions a partir d'IA sense la pressió dels gegants del sector.

També es crearà l'Oficina Europea d'intel·ligència artificial que assessorada per un grup de científics i d'organitzacions de la societat civil, serà l'encarregada de coordinar l'ús de la tecnologia per part dels estats membres.