Claus de la primera llei d'intel·ligència artificial al món, aprovada al Parlament Europeu

El Parlament Europeu ha aprovat aquest dimecres la primera llei d'intel·ligència artificial del món, que ara debatran els 27 estats membres per tancar el text definitiu. Ha rebut 499 vots a favor, 28 en contra i 93 abstencions.

La llei d'IA identifica els riscos de fer un mal ús de la tecnologia i regula això, l'aplicació, no pas la tecnologia en si. Per fer-ho estableix obligacions per a proveïdors i usuaris segons el nivell de risc, que pot ser inacceptable, alt o il·limitat.
 

Què prohibeix la llei de l'IA?

En la primera carpeta, la de riscos inacceptables, s'inclouen pràctiques com l'ús de sistemes d'identificació biomètrica remota i en temps real en espais públics. És a dir, identificar les persones a través de càmeres de reconeixement facial, per exemple.

Ara bé, es permetrà a posteriori, revisant imatges gravades, sempre que ho autoritzi una ordre judicial.

Aquest ha estat el punt que més debat ha generat. Una esmena del grup del PP reclamava que es permetés el reconeixement facial també en directe, però en casos excepcionals com la lluita contra el terrorisme. Finalment ha estat rebutjada.

També queda prohibit el "social scoring", que consisteix a classificar les persones a partir del seu comportament o característiques personals.

Això inclou sistemes policials predictius --basats en l'elaboració de perfils, la ubicació o l'historial delictiu--; els sistemes de reconeixement d'emocions emprats per les forces de seguretat, la gestió de fronteres, els llocs de treball o les institucions d'ensenyament; i el rastreig indiscriminat d'imatges facials tretes d'Internet o de circuits tancats de televisió per crear bases de dades de reconeixement facial.

Què es consideren pràctiques d'alt risc?

En una altra carpeta, la llei estableix el que considera pràctiques d'alt risc. No estan prohibides, però requereixen una supervisió humana, amb proves rigoroses i la documentació que acrediti la qualitat de les dades.

Aquí s'hi inclouen sistemes d'IA utilitzats, per exemple, els sistemes de recomanació utilitzats per les xarxes socials.

També hi entren aplicacions que permetin establir patrons a l'hora de contractar o promocionar personal, o, en l'àmbit bancari o al sector de les assegurances, els programaris d'IA que permeten avaluar la solvència dels possibles clients o classificar-los en funció de la seva qualificació creditícia.

La nova llei inclou excepcions per promoure la investigació. Parla d'uns "espais controlats de proves", en què les empreses poden provar la intel·ligència artificial sota la supervisió de les autoritats públiques abans de sortir al mercat.
 

Què passa amb el ChatGPT?

La llei estableix que els proveïdors de models fundacionals --que són els que s'entrenen amb moltíssimes dades per generar patrons-- hauran d'avaluar els riscos per a la salut, els drets fonamentals o la democràcia que puguin generar per mitigar-los.

A més, obliga els sistemes d'IA generativa, com ChatGPT, a identificar el contingut com a generat per IA i estar dissenyats de manera que no puguin generar contingut il·legal. A més, han de publicar les dades protegides per drets d'autor que hagin utilitzat.

Aquests proveïdors, a més, han de registrar els seus models a la UE abans de comercialitzar-los en territori europeu..
 

Quan entrarà en vigor?

Ara, el text es traslladarà al Consell Europeu i els representants dels 27 governs de la Unió Europea el tornaran a debatre i, si cal, proposaran més esmenes. S'espera que l'aprovació definitiva sigui a finals d'any i que pugui entrar en vigor el 2026, a tot estirar.