El creador de ChatGPT admet que cal regular la IA: "Si va malament, pot anar força malament"

En els darrers mesos, ChatGPT ha revolucionat la manera com ens relacionem amb la intel·ligència artificial. Des que es va estrenar l'eina al novembre de l'any passat, ChatGPT ha multiplicat l'interès per la intel·ligència artificial capaç de generar textos, imatges, sons i vídeos. Però també ha fet aflorar la por davant de possibles abusos que posin en perill drets fonamentals.

El bot de conversa desenvolupat per Open AI ha arribat aquest dimarts al Congrés dels Estats Units. El director executiu i cofundador d'Open AI, Sam Altman, ha comparegut davant d'un subcomitè del Senat, on ha demanat que es reguli el desenvolupament i els usos de la intel·ligència artificial.

Per Altman, aquesta regulació és "crucial" per "limitar" els riscos que presenta aquesta tecnologia. Quan fa una setmana que el Parlament Europeu va fer el primer pas per regular la intel·ligència artificial, el cap d'Open AI ha apuntat que la intervenció dels governs és necessària per assegurar que eines com ChatGPT es desenvolupen de tal manera que protegeixin i respectin els drets i les llibertats de la ciutadania:

"És essencial que la intel·ligència artificial més potent es desenvolupi amb valors democràtics".

Altman ha explicat que una de les seves grans pors és que aquesta tecnologia "causi danys significatius a la societat" i que és justament per això que volen "treballar amb el govern per impedir que això passi":

"Si aquesta tecnologia va malament, pot anar força malament".

Els congressistes li han donat la raó en el fet que cal regulació pública, però també li han recordat que les empreses d'intel·ligència artificial com Open AI no han d'esperar al Congrés per instaurar mecanismes que permetin controlar el desenvolupament de tecnologia per mitigar-ne els danys.

"Els beneficis superen els riscos"

Tanmateix, el director executiu d'Open AI s'ha mostrat convençut que el programa de generació de textos té aplicacions beneficioses, entre les quals ha citat l'ús en medicina o la lluita contra l'emergència climàtica. És per això que ha defensat que la intel·ligència artificial es pot utilitzar en benefici de la humanitat:

"Creiem que els beneficis de les eines que hem desenvolupat fins ara superen àmpliament els riscos."

Altman ha reconegut que el programari d'Open AI encara comet errors, però ha pronosticat que, amb el temps, serà més i més fiable.

Des del món jurídic i periodístic a l'educació, passant per la fotografia, comentaris sobre música o generació de textos, les múltiples aplicacions de la intel·ligència artificial han posat en alerta molts sectors. Al Capitoli, el cap d'Open AI ha reconegut que probablement la intel·ligència artificial afectarà al mercat laboral. Però s'ha mostrat optimista que, a la llarga, serà una tecnologia que generarà més llocs de treball que no pas els que destruirà. "Som tremendament creatius", ha afirmat.

Una altra de les persones que ha intervingut a la sessió ha estat la directora de Privacitat i Confiança d'IBM, Christina Montgomery, que ha posat el seu càrrec com a exemple d'una feina que no existia abans que es desenvolupés la intel·ligència artificial.

Com la impremta o com la bomba atòmica?

El testimoni de Sam Altman davant del Senat arriba en un moment en què ha crescut la preocupació dins la societat nord-americana per la possibilitat que el ràpid desenvolupament de la intel·ligència artificial pugui tenir conseqüències inesperades.

Entre els riscos que han enumerat els senadors hi ha la pèrdua de llocs de treball o l'ús d'eines de creació de continguts per generar informació falsa per part d'altres països.

Per il·lustrar aquestes pors, el senador demòcrata Richard Blumenthal, president del subcomitè de Privacitat, Tecnologia i la Llei, ha reproduït la gravació d'un text escrit per ChatGPT imitant l'estil i els principals temes d'interès del polític.

US Senator Richard Blumenthal delivered an opening statement at a hearing on AI with a voice remarks created by OpenAI's ChatGPT https://t.co/b1HfWJWMUB pic.twitter.com/thok8SPbTm

— Bloomberg (@business) May 16, 2023

"Citant ChatGPT, aquest no és necessàriament el futur que volem", ha ironitzat Blumenthal.

El responsable d'Open AI s'ha mostrat obert al suggeriment de Blumenthal que el govern nord-americà desenvolupi laboratoris independents per comprovar la fiabilitat dels models d'intel·ligència artificial, que podrien rebre qualificacions, en un sistema similar al codi de colors sobre el valor nutricional d'aliments i begudes.

Un altre senador, el republicà Josh Hawley, ha dit que la intel·ligència artificial és "una de les innovacions més significatives de la història". Ha afegit, però, que encara no és clar si s'assemblarà a la invenció de la impremta o a la de la bomba atòmica.