Una intel·ligència artificial que amenaçaria els humans, rere el serial d'Altman i OpenAI

Nou episodi en el culebró de Sam Altman a OpenAI: l'haurien acomiadat després que diversos treballadors advertissin el consell directiu que s'estava treballant en un projecte potencialment perillós.

En concret, el projecte seria el desenvolupament d'un programari d'intel·ligència artificial més potent que qualsevol que existeixi actualment i que seria capaç de resoldre problemes matemàtics.

Ho ha desvelat aquest dijous l'agència Reuters, que afirma que ha contactat amb dos treballadors de l'empresa que han vist la carta en què s'advertia dels riscos del projecte.

L'agència diu que OpenAI s'ha negat a comentar-ho però que les seves fonts afirmen que una alta executiva de l'empresa, Mira Murati, ha reconegut l'existència del projecte en un comunicat intern.

En aquest comunicat, Murati també hauria reconegut l'existència de la carta dels treballadors advertint el consell directiu, i que aquesta carta va ser un dels detonants del comiat d'Altman.

Q* fa "les tasques més valuoses"

El programari seria una intel·ligència artificial general, AGI en les inicials en anglès, batejada com a Q*, que superaria els humans en "les tasques més valuoses econòmicament".

Q* hauria resolt problemes matemàtics relativament simples, però que encara estan fora de l'abast de models com ChatGPT i similars, que són bons per gestionar el llenguatge.

En aquest sentit, el que fan aquests models és predir estadísticament quina és la millor paraula per continuar un text, i per això les respostes a la mateixa pregunta poden variar molt.

En canvi, en matemàtiques només hi ha una resposta correcta, i això exigeix fer servir capacitats de raonament similars a les humanes.

No s'ha aclarit quins poden ser els riscos potencials

Els treballadors contactats per Reuters asseguren que en la carta d'advertiment es remarcava que les capacitats de Q* eren sorprenent altes i que això suposava riscos molt grans.

Malgrat tot, aquests treballadors no han aclarit quins són aquests riscos i per què els haurien provocat tanta alarma.

Les paraules d'Altman en una reunió internacional a San Francisco el dia abans de ser acomiadat s'han vist com un indici del potencial de Q*:

"Quatre vegades en la història d'OpenAI, la més recent fa dues setmanes, he estat en la sala en el moment de retirar el vel de la ignorància per fer avançar la frontera del descobriment."

Set dies trepidants a OpenAI

El consell directiu d'OpenAI va acomiadar Altman divendres passat per sorpresa dient que ho feia perquè no havia estat "prou sincer" amb ells, i va nomenar Murati com a substituta.

L'endemà, Microsoft va fitxar Altman, mentre que OpenAI tornava a canviar de director general, amb Emmett Shear substituint Murati, que havia expressat suport a Altman.

Dimarts la situació es tornava a capgirar, amb OpenAI tornant-li el càrrec a Altman, un moviment de retorn celebrat pel director general de Microsoft, Satya Nadella.

En la sortida i la tornada l'ha acompanyat l'altre fundador de l'empresa, Greg Brockman, i centenars de treballadors van amenaçar el consell directiu amb seguir-los a Microsoft si no tornaven.

Pugna entre garantistes i acceleracionistes

El retorn ha comportat canvis importants en la composició del consell directiu, que era el garant de l'objectiu fundacional d'OpenAI: desenvolupar, sense ànim de lucre, una IA que beneficiï tota la humanitat.

Els èxits espectaculars de l'empresa el 2022, amb la sortida de Dall-e i Chat GPT, van capgirar això, i Microsoft va aportar 10.000 milions de dòlars per desenvolupar les següents versions de GPT.

Segons diverses fonts, el que hi ha al darrere és la pugna entre els que volen mantenir l'esperit inicial i els que volen accelerar el desenvolupament dels programaris malgrat els riscos que puguin comportar.

I, en el rerefons, hi ha els beneficis econòmics i també les possibilitats extremes dels riscos, que el cinema de les últimes dècades s'han dedicat a explorar, per exemple, en les sèries de pel·lícules "Terminator" o "Matrix", i en tantes altres.