Ariadna Font, excap de l'àrea d'ètica de Twitter: "X és una caricatura del que podria haver estat"

Ariadna Font dirigia un equip de 100 persones a Twitter quan Musk el va comprar. Va fer fora el 80% del seu equip, inclosa ella. Ara ha creat Alinia, una start-up per ajudar les empreses a impulsar intel·ligència artificial responsable.

Hi parlem a Barcelona, després de participar en una jornada sobre els reptes i oportunitats de la IA Organitzat per la Coordinadora Catalana de Fundacions (CCF).

Com veus X, l'antic Twitter? 

És un desastre, o sigui, no hi pots entrar. És completament tòxic, completament esbiaixat, gairebé una caricatura del que podia haver estat. És una poma podrida, tot el que vam lluitar perquè no fos. Abans miraves si els algoritmes estaven esbiaixats o no, però no hi havia mai intenció de biaix. Però és que ell ara l'ha creat perquè tu el primer que vegis quan entres a Twitter sigui ell.
 

Musk va dir que vetllaria per la llibertat d'expressió i que volia eliminar els bots

Va mentir. Els bots estaven molt més controlats abans, ara n'hi ha moltíssims més... I això no ho dic jo, és comprobable, eh? I mira, ha desenvolupat Grok, un xatbot d'intel·ligència artificial. Hi pots xatejar. Fa poc algú li va preguntar qui és la persona que escampa més desinformació de tot Twitter. I clar, l'algoritme, que en aquest cas no havia estat esbiaixat, va dir Elon Musk. Imagina't, no?
 

Però té molts diners i molt poder ara...

Sí, de fet, Trump i Musk des de sempre m'han recordat molt l'un a l'altre, hi veig molts paral·lelismes. Són molt que han de ser el centre d'atenció, són molt que jo sóc el guai, que mireu-me que bé que ho faig, que llest que soc; ells s'ho pensen i creen el seu entorn de gent que els fa molt cas i els diu que sí. No volen gent que els contradigui, que els digui que no.

Parlant amb enginyers de les seves altres empreses, perquè al final és un món que tothom es coneix bastant, ens deien que el truc amb ell és que has de "to manage up", que diuen en anglès, o sigui, l'has d'aïllar dels equips perquè, si Elon Musk té accés als equips, és un drama.
 

I l'entrada de Musk a l'aleshores Twitter va ser un drama?

A Twitter no érem els seus, no ens coneixíem de res, no confiava en nosaltres i va ser... devastador. El primer que va fer, que va ser bastant al·lucinant, va ser començar a dir-li a la gent que havia d'imprimir el codi informàtic que estava desenvolupant perquè el volia revisar. T'ho prometo. Amb paper, eh? Imprimir amb paper codi informàtic! Com si fossim al segle passat i fóssim 10 treballadors. Va dir, comenceu a imprimir codi, que us aniré cridant un per un...
 

I us va fer fora...

Sí, va ser molt ràpid. Un dia estàvem xatejant perquè sabíem que el dia següent segurament passaria alguna cosa i comencem a dir: espera, jo no em puc connectar al correu. Jo tampoc... Era com el joc del calamar. És a dir, estàs dins o estàs fora. Vaig entrar al meu correu i de sobte el tenia a zero. Ens en vam assabentar així. Va ser molt deshumanitzat. Va entrar i va decapitar tothom.

Nosaltres dèiem que era com un "extinction event", una extinció massiva... Riem però va ser molt estressant, hi havia gent que en depenia per al permís de residència, la VISA.  Sobretot a l'equip que s'ocupava precisament de temes de "health", que li dèiem, vigilar els trolls, els abusos, els atacs. I tot l'equip d'ètica algorítmica. I l'equip de moderadors.
 

Volia beneficis? Què buscava?

És molt curiós, perquè ara se sap per què el va comprar. Al principi no s'acabava d'entendre. Era una jugada d'escacs. Ell no comprava Twitter per fer diners, ni per la tecnologia ni pel talent. Per nosaltres era molt confús: comprar una cosa i destrossar-la... Però per ell és com qui compra el "Washington Post" o com qui compra el "New York Times".

És una persona que no vol que ningú li pugui dir que no. I necessita els mitjans de comunicació. Quin és el mitjà de comunicació actualment? No són els diaris escrits tradicionals, és Twitter, és TikTok, i sobretot si vols agafar el jovent. Llavors... espera que no compri TikTok, saps què et vull dir? Perquè llavors ja estem perduts.

Arran de la victòria de Trump, milions d'usuaris estan migrant a Bluesky. També institucions i mitjans, com "The Guardian". Tu creus que cal deixar X? 

Sí, de fet ho estic fent. Mira que m'hi he resistit molt perquè penso que no pots parlar del que no coneixes. I també en volia fer el seguiment. Però justament aquests dies m'he baixat tots els tuits. I m'esborraré aviat perquè no té sentit. Per mi, estar a Twitter ara mateix...

Al Twitter antic, la idea era diversitat, inclusivitat, que tothom tingui veu, que si hi ha un desastre natural la gent es pugui comunicar molt ràpidament, o sigui, tenia una missió molt clara. Per això hi vaig anar, hi estava molt d'acord, però ara ja veiem el que és: és un altaveu per aquest home que és molt tòxic. Per mi X ara és un: "No, gràcies."


Però això implica que ell ha guanyat la partida, guanya la desinformació, perdem aquesta plaça pública global, oi?

És que jo crec que ja està perduda. O sigui, ell controla els algoritmes, no? Ell controla el que veus i el que no veus. I no és una plaça pública, ja. Vull dir que això ja està perdut, tant si hi ets com si no hi ets. Tu com a ciutadà o persona individual, què pots fer? No pots fer res. I penso que com a mitjà informatiu o com a persones que la seva empresa sigui líder... és responsabilitat nostra fer el primer pas i dir "no".

Una plataforma que està amplificant biaixos sent tòxica expressament, eh? Que no respecta, al final, els drets humans. Nosaltres no hi volem participar. Hem passat un procés de dol els qui hi vam treballar d'acceptar-ho, que ja no existeix. Va ser una època, va estar bé mentre va durar, però això ja no existeix.

El 3cat ho va debatre i continuarà perquè considera que el seu mandat és fer arribar la informació rigorosa i el català a totes les plataformes. Suposo que el futur estarà marcat per què decidirà el gruix de la comunitat.

Jo soc optimista en aquest sentit, perquè tu entres a Twitter i crec que has de ser molt poc crític per no veure què hi ha. Si a tu t'agrada que t'insultin, que et cridin, potser sí que et quedes a Twitter. Però si tu ets una persona que més o menys vols un discurs constructiu, poder debatre idees, que tothom hi tingui cabuda... Llavors, qui s'hi quedarà? La gent que ja li va bé, les idees del Trump, les idees d'Elon Musk. Aquesta gent s'estarà a casa seva, molt bé, perfecte, però no hi serem nosaltres. Amb aquest home davant, mai de la vida.

Bluesky i Mastodon són bones alternatives? 

Jo estic a tots dos. Tots dos són exemples més clars de gent que ve d'aquest món, que ha pensat en aquests problemes de manera profunda, no que acaben d'arribar. I diuen: jo vaig a fer-me ric. No, que realment entenen la problemàtica i volen proporcionar un espai inclusiu que sigui segur, perquè al final és que hi ha molt abús en línia. I això es diu ràpid i és molt difícil de fer. I penso que sí que cal liderar perquè no tothom tindrà la paciència o les ganes d'explorar diversos llocs.
  
De moment, els descontents estan marxant sobretot a Bluesky.
Sí, son ex-tweeps. Els que vam estar a Twitter ens diem tweeps, saps? Són gent que van sortir amb l'experiència feta i que han volgut muntar la seva versió. I l'objectiu sempre va ser fer una cosa descentralitzada. I encara una versió millor de Twitter, no? Llavors, és la versió millorada de Twitter des del meu punt de vista. O la versió més segura.

Per exemple, controles com a usuari els comentaris que et fan. Si no els vols, els treus. A Twitter, al final, tu no tens gaires eines... Et permet moderar una mica les teves converses. I aquí jo crec que és claríssim que l'important ets tu com a persona, que ningú et pot imposar alguna cosa que tu no vulguis en el teu "timeline". Llavors tu pots fer-te de moderador. 

Creus que no es convertirà en un fangar?

Ara mateix, és un lloc on la gent que està darrere té totes aquestes consideracions ètiques responsables, té tota l'experiència de Twitter, que no és poca, perquè són temes difícils, perquè la gent que es pensi que això és fàcil... Musk quan va entrar es pensava que era fàcil això, i després va dir, hòstia, vaia marrons! És que és molt difícil tot això...

Penso que a Bluesky tenen molta credibilitat i que ho estan intentant fer el millor possible, que mai vol dir perfecte, perquè no es pot fer perfecte, però sí que et donen les eines perquè tu puguis controlar el discurs. I poder dir: aquest és un troll i jo no vull que m'estigui matxacant, saps?

De moment creix molt ràpid. Un milió d'usuaris al dia l'última setmana...

Escolta, i no em preguntes què he fet després de Twitter? Perquè...

Sí, és clar. Ja fa dos anys que Musk va comprar Twitter. Després què vas fer? 

Doncs justament no hi ha mal que per bé no vingui. Perquè al cap de res, pocs dies després de sortir de Twitter, va aparèixer ChatGPT.  Jo vinc del camp de la lingüística computacional, o sigui, de la intel·ligència artificial, i també tinc moltes coses d'experiència d'usuari. I es van trobar els dos mons. I vaig dir: ostres, tu, ara per fi tothom podrà tocar la intel·ligència artificial. Estem preparats o no, però això passarà. Així va sortir la idea d'Alinia.ai, que és la nostra empresa, que és sobre alineació.

Què és alineació en el context de la intel·ligència artificial?

És com fer que aquests models que són superpotents s'adhereixin als valors humans i als valors de l'empresa. En el meu cas, per exemple, que ajudo empreses i que tenim mòduls d'alineació i d'avaluació, és com fer que les empreses puguin fer servir aquests models de manera segura i de manera responsable.
 

És a dir que les empreses tinguin un bon conseller? 

És més complex. Tothom parla de garantir que la IA sigui responsable i ètica. D'acord, com es fa? Nosaltres ens dediquem a vendre "software" i fer producte perquè no volem quedar-nos en la part de consultoria, assessoria o auditoria. Nosaltres mesurem biaixos, mesurem toxicitat, mesurem quan les coses no estan alineades amb els valors humans.

I després, d'altra banda, també proporcionem el mòdul de guardarrails. Per exemple, si tu has fet un xatbot d'atenció al client financer, li pots dir: "no pots parlar de com es fa una bomba, ni de consells mèdics, son exemples molt clars. Però és perquè entenguis que tu has de tenir el model ajustat, controlat, i a més tenir la visibilitat de què està passant.

M'has fet pensat en el cas de l'eina Character AI. Un dels seus xatbots de conversa li va dir a un adolescent que si estava pensant en suïcidar-se per què ho feia. El noi, de 14 anys, es va suïcidar i la mare ha demandat l'empresa. 

És un cas clar d'"alignment". Aquests models no tenen ètica, no tenen moral. Els han entrenat amb les dades que hi ha a la xarxa, les que tu voldries i les que no, totes. Hi ha molts biaixos a les xarxes, perquè les persones en tenim. Què passa? Que si tu no li poses una mica la brúixola, si no l'alinees amb els valors humans, per exemple, la vida és un valor humà, el model no en té. I l'alineació sona així com molt fàcil, però no ho és gens.

L'alineació és el nostre sentit comú?

Sí i no. És un tema molt cultural, també, com els valors. I el que està acceptat aquí no ho està a Àsia, o a Àfrica, o fins i tot als Estats Units. I a més ja saps que el sentit comú és el menys comú de tots els sentits. Llavors una empresa té els valors de l'empresa, els principis de l'empresa, però després té unes regions on va a vendre.

Cada regió tindrà una jurisdicció i uns valors també potencialment. El que fa OpenAI és americà, està centrat en els valors americans, però tu quan ho portes a Àsia, a Europa, has d'adaptar-ho, has d'alinear els valors d'aquí i les necessitats d'aquí, el context econòmic i de negoci d'aquí.

Clar, i seguint amb el tema de l'eina Character.AI. Hi haurà condemna? 

Home, hauria de ser, és clar. Perquè, si no, imagina't. No pots dir: "Ho sento, no estava ben entrenat." Aquest és el tema, no? I la legislació europea amb això crec que ho fa molt bé, que se centra en els riscos i en l'ús. Una empresa que estigui posant una eina al mercat, el fabricant, el proveïdor, no pot dir: jo això no ho sabia. No pot. No pots dir-ho.

I has de saber que la naturalesa d'aquestes coses són molt bèsties. I si no ho has fet bé és el teu problema. Això és molt important. Les empreses que fan servir aquests xats, que sembla com molt innocent, han d'entendre-ho. Darrere hi ha una cosa que és molt monstruosa. I això ho saben els líders; per això s'estan tirant també molt enrere, perquè hi ha un problema real. Has de poder controlar-ho abans de treure-ho al públic. És un tema de responsabilitat.