La intel·ligència artificial suposa "risc d'extinció" per als humans, alerten 350 científics

En plena ebullició de la intel·ligència artificial, els riscos que pot suposar aquesta tecnologia continua preocupant els científics, fins i tot els que hi treballen més directament.

Més de 350 persones han signat un manifest impulsat per l'ONG Center for AI Safety (en català, Centre per a la Seguretat de la Intel·ligència Artificial) que compara l'amenaça d'extinció per part de la IA amb el d'una pandèmia o una guerra nuclear.

El text, de només 22 paraules en la versió en anglès, demana als poders públics que es consideri com una "prioritat global" la necessitat de suavitzar el risc d'extinció causat per la intel·ligència artificial:

"Mitigar el risc d'extinció causat per la intel·ligència artificial hauria de ser una prioritat global juntament amb altres riscos a escala social, com ara les pandèmies o una guerra nuclear."

Entre les personalitats que han signat el manifest del Center for AI Safety (CAIS), hi ha el conseller delegat de l'empresa OpenAI, creadora del ChatGPT, Sam Altman, però també els màxims responsables d'altres companyies d'IA, com Google DeepMind i Anthropic, Demis Hassabis i Dario Amodei, respectivament.

També el subscriuen dos dels tres considerats "padrins de la intel·ligència artificial", Geoffrey Hinton i Yoshua Bengio, guanyadors del Premi Turing l'any 2018 pels avenços en l'anomenat "aprenentatge profund", un algoritme que simula el funcionament bàsic del cervell i permet "aprendre" a partir de grans quantitats de dades.

El tercer padrí de la IA, Yann LeCun, que treballa a Meta, no figura entre els signants. Precisament, el Centre per a la Seguretat de la Intel·ligència Artificial ha assenyalat Meta per no signar el text.

Entre els qui subscriuen la carta hi ha també executius de Microsoft o Google i professors universitaris de Harvard, Princeton, Stanford, Yale, Columbia, Cornell, Cambridge, Oxford o Tsinghua.

Crides a valorar els riscos de la IA

Les advertències sobre els riscos de la intel·ligència artificial no són noves. L'any 2014, en una entrevista a la BBC, el físic teòric Stephen Hawking va assegurar que el desenvolupament complet de la intel·ligència artificial "podria significar el final de la humanitat".

Però els darrers mesos, coincidint amb la gran explosió d'eines com ChatGPT, Midjourney o DALL·E, aquests avisos s'han multiplicat davant la por que, si la intel·ligència artificial continua creixent a aquest ritme, un futur en què les màquines siguin més intel·ligents que les persones deixi de ser ciència-ficció.

El mes d'abril, més d'un miler d'investigadors i empresaris relacionats amb la IA, entre els quals Elon Musk, Steve Wozniak, Yuval Noah Harari o Yoshua Bengio, van demanar aturar eines d'intel·ligència artificial com ChatGPT perquè suposen "riscos profunds per a la societat i per a la humanitat".

A principis de maig, el britànic Geoffrey Hinton, un dels "padrins de la IA" i signant del manifest del CAIS, va marxar de Google alertant que ja no se sap "què és veritat i què no" i que no sap "com evitar que la gent dolenta" utilitzi la intel·ligència artificial "per fer coses dolentes".

També aquest mes, el president dels Estats Units, Joe Biden, i la vicepresidenta, Kamala Harris, van reunir-se amb Sam Altman, Demis Hassabis i Dario Amodei, entre d'altres, per parlar sobre la regulació de la intel·ligència artificial.

Artificial Intelligence is one of the most powerful tools of our time, but to seize its opportunities, we must first mitigate its risks.

Today, I dropped by a meeting with AI leaders to touch on the importance of innovating responsibly and protecting people's rights and safety. pic.twitter.com/VEJjBrhCTW

— President Biden (@POTUS) May 4, 2023

Fa dues setmanes, el conseller delegat d'OpenAI, Sam Altman, va defensar al Senat dels Estats Units que és "crucial" legislar sobre la intel·ligència artificial per "limitar els riscos" que comporta.

Negociació d'un acord entre la UE i ChatGPT

El comissari europeu de Mercat Interior, Thierry Breton, es reunirà el mes que ve amb Sam Altman a San Francisco, segons han apuntat fonts comunitàries.

Breton debatrà amb el conseller delegat d'OpenAI com l'empresa implementarà les normes que la UE preveu aprovar sobre intel·ligència artificial.

La setmana passada, Breton es va reunir amb el conseller delegat d'Alphabet, Sundar Pichai, amb qui va parlar d'un pacte voluntari sobre intel·ligència artificial per ajudar els gegants tecnològics a anticipar-se a la futura regulació europea.

An "AI Pact" ahead of the EU AI Act.

Agreed with Google CEO @SundarPichai to work together with all major European and non-European #AI actors to already develop an "AI Pact" on a voluntary basis ahead of the legal deadline of the AI regulation. pic.twitter.com/fNTpMPlc49

— Thierry Breton (@ThierryBreton) May 24, 2023

Aquest dijous, la presidenta de la Comissió Europea, Ursula von der Leyen, es reunirà amb Altman, segons ha confirmat un portaveu comunitari.

La Unió Europea ha fet aquestes últimes setmanes el primer pas per regular la intel·ligència artificial, amb una llei que podria debatre's en el ple del mes de juny del Parlament Europeu.

La setmana passada, Altman va amenaçar amb una possible sortida de ChatGPT de la UE si era massa difícil complir amb la regulació comunitària sobre IA.

El responsable d'OpenAI es va reunir amb diferents líders europeus, entre els quals Olaf Scholz, Emmanuel Macron, Pedro Sánchez o Rishi Sunak per debatre sobre intel·ligència artificial, en el que va qualificar de "setmana molt productiva de converses":

very productive week of conversations in europe about how to best regulate AI! we are excited to continue to operate here and of course have no plans to leave.

— Sam Altman (@sama) May 26, 2023