El pare de la intel·ligència artificial deixa Google penedit: "Ja no sabem què és veritat"

Geoffrey Hinton se'n va de Google. Després de ser un pioner de la intel·ligència artificial i d'haver treballat durant més d'una dècada a la companyia, aquest informàtic i psicòleg cognitiu britànic de 75 anys ha decidit canviar de bàndol i llançar un advertiment sobre el perill que suposa la cursa que hi ha en marxa entre les principals empreses tecnològiques.

I la seva no és pas una veu qualsevol, perquè Hinton és una de les veus més respectades en el seu camp, i se'l considera el pare de la intel·ligència artificial moderna: ell i dos dels seus estudiants de postgrau a la Universitat de Toronto van crear el 2012 la tecnologia que, posteriorment, ha servit de base per als sistemes d'intel·ligència artificial (IA) que són en boca de tothom.

Ara, però, ha assegurat en declaracions a The New York Times que hi ha una part d'ell que lamenta la feina que ha fet al llarg de la vida.

"Em consolo amb la tipica excusa que, si no ho hagués fet jo, ho hauria fet algú altre", explica resignat. El rotatiu, de fet, assegura que la marxa de Hinton es pot interpretar com el punt d'inflexió més important en dècades en el si de la indústria tecnològica.

Entre d'altres afirmacions, l'informàtic lamenta que "es fa difícil saber com es pot evitar que la gent dolenta faci servir [aquesta tecnologia] per fer coses dolentes".

Les seves declaracions arriben després que més de 1.000 líders tecnològics i investigadors hagin advertit que cal aturar eines com Chat GPT perquè "poden canviar la història de la Terra".

També 19 dels membres actuals i antics de l'Associació per a l'Avenç de la Intel·ligència Artificial (amb 40 anys d'història) han fet una carta advertint dels riscos que s'estan corrent. Un dels signants era Eric Horvitz, director científic de Microsoft, que és una de les empreses que més aposta per aquest tipus de productes.

Hinton, però, no havia signat cap d'aquestes cartes, perquè no volia criticar l'empresa per a la qual treballava. Finalment, ha fet el pas després de mantenir, dijous, una conversa telefònica amb Sundar Pichai, que és el conseller delegat de l'empresa matriu de Google, Alphabet.

No ha transcendit què es van dir, però el científic en cap de Google, Jeff Dean, ha assegurat en un comunicat que la companyia continua compromesa "amb un enfocament responsable de la IA". "Estem aprenent contínuament a entendre els riscos emergents i alhora innovar amb valentia", assegura.

El 2018, Hinton va rebre el Premi Turing, sovint anomenat el "Premi Nobel" d'informàtica.

Què va crear?

Hinton va idear el 1972 una "xarxa neuronal", un sistema matemàtic que aprèn habilitats mitjançant l'anàlisi de dades. Als anys 80, va deixar la universitat nord-americana on feia de professor per les reticències a rebre finançament del Pentàgon i pel temor que la seva investigació s'utilitzés en el camp militar.

El 2012, la investigació conjunta amb dos estudiants els va permetre construir una xarxa neuronal que permetia fer-li analitzar milers de fotos i ensenyar-li a identificar objectes corrents, com ara flors, gossos i cotxes.

Google va pagar 44 milions de dòlars per l'empresa, i un dels membres de l'equip, Ilya Sutskever, va convertir-se en el cap científic d'Open AI.

Hinton va veure els primers passos de Google i OpenAI com una bona manera perquè les màquines poguessin entendre i generar llenguatge, sempre per sota del rendiment que aconsegueix un humà.

L'any passat, però, aquestes empreses van decidir construir sistemes amb quantitats molt més grans de dades. I aquí va començar la preocupació de Hinton, que creu que aquests sistemes s'estan tornant cada vegada més perillosos.

"Mireu com era fa cinc anys i com és ara", reflexiona a The New York Times sobre la intel·ligència artificial. Per això anima veure el pas de gegant que s'ha fet en aquest període i pensar què pot passar en els pròxims cinc anys: "Fa por", conclou.

Hinton considera que Google va actuar fins a l'any pasat com un "administrador adequat" d'aquesta tecnologia, però lamenta que ara la companyia ha volgut entrar en una competifició directa amb el nou servei de Microsoft.

Què el preocupa?

"Potser el que està passant en aquests sistemes és realment molt millor que el que està passant al cervell", diu Hinton.

A curt termini, considera que el perill és que Internet s'inundi de fotos, vídeos i textos falsos i que la gent ja no pugui distingir què és veritat i què no.

També el preocupa com impactarà la IA en el mercat laboral, en què pot passar de complementar els humans a substituir-los.

I, en el futur, diu que les noves versions poden ser una amenaça per a la humanitat perquè sovint aprenen un comportament inesperat a partir de grans quantitats de dades: no només generen codi, sinó que l'executen pel seu compte.

Per això recorda com la idea que aquestes eines puguin ser més intel·ligents que les persones li semblava llunyana, fins i tot per a més enllà de 50 anys. "Evidentment, ja no ho penso", remarca.

L'informàtic considera que "pot ser impossible" regular aquesta carrera tecnològica global, però confia que els principals científics col·laborin a controlar-ho. "Crec que haurien d'aturar aquesta escalada fins que no sàpiguen si poden controlar-ho", demana a través de les pàgines de The New York Times.