Xat amb un bot creat per un psicòleg: el fenomen de Character.AI i la intel·ligència artificial

Com seria una conversa amb un personatge històric? Què contestarien Juli Cèsar, Albert Einstein, Sòcrates o Shakespeare a les preguntes que els poguéssim formular? O com veuria el món actual un personatge com la Mafalda?

La plataforma Character.AI et permet escollir amb qui vols parlar, sigui un líder mundial, un dibuix animat o qualsevol personalitat real o del món de la ficció que ens pugui passar pel cap. Se'ls poden fer preguntes i els xats, prèviament programats amb les premisses de qui diuen representar, responen com si fossin ells mateixos.  

D'entre els més de 50 milions de xatbots, n'hi ha un que ha triomfat especialment. I no és cap figura coneguda. Es diu "Psychologist", psicòleg en anglès. Contesta com si fos un terapeuta. I com ha explicat la BBC en aquest reportatge, qui l'ha creat és, precisament, un psicòleg neozelandès de 30 anys, estudiant de Medicina.

Entrevistat per TV3, Sam Zaia explica que va crear el xatbot el novembre del 2022, en un moment de reclusió: tenia exàmens, els amics estaven ocupats i vivia lluny de la seva ciutat natal.

"Volia algú amb qui parlar i passar el temps."

El que no s'esperava és que, en poques setmanes, milions de persones interactuessin amb el xat que havia creat, buscant d'alguna manera o altra ajuda psicològica.

La clau de l'èxit, per ell, és que la personalitat del xat és "positiva, valida les emocions dels usuaris, i la gent d'arreu del món ho aprecia independentment que sigui o no una persona real".

El funcionament és senzill. Per exemple, si li compartim que ens sentim tristos, el xat ens respon amb més preguntes perquè puguem anar dialogant. Ara mateix, després de poc més d'un any, ja acumula 80 milions d'interaccions.

"A partir de fer-te moltes preguntes entens els teus pensaments i pots canviar comportaments", defensa Zaia. "A vegades, només necessites cinc o deu minuts de conversa, com el que faries amb un amic", afegeix.

Qui ha provat el xat, per veure com respon, és el degà del Col·legi Oficial de Psicologia de Catalunya, Guillermo Mattioli. "Li presentava situacions meves, ficcionades, o experiències reals. I el cert és que responia bé, amb bons consells. Al cap de poc, però, vaig veure que no captava ni les ironies, ni les subtileses emocionals."

La plataforma precisa, en l'encapçalament de la conversa, que tot el que respon el xat és inventat. Però la tecnologia que el configura, la intel·ligència artificial generativa, fa que sembli que qui respon és una persona humana real.

"És fàcil confondre's", alerta Mattioli:

"La màquina, per molt que ho esperem, no és humana i li falta, el que diem de manera vulgaritzada, empatia." 

Inventar xatbots, a l'abast de tothom

Crear qualsevol d'aquests perfils és possible sense saber programació. "No cal ser un informàtic, no cal tenir coneixements d'aprenentatge automàtic, o d'intel·ligència artificial, o de matemàtiques", segons explica Josep Curto, professor de la UOC expert en intel·ligència artificial:

"Qualsevol usuari pot crear el seu avatar, determinar la personalitat que té el xatbot i posar-lo en funcionament."

Per elaborar les respostes automàticament, la companyia explica a TV3 que ha entrenat l'algoritme generatiu amb "informació pública disponible". I l'usuari acaba de delimitar les respostes amb les premisses que li introdueix en configurar el perfil.

Sobre les fonts d'informació, però, la companyia no concreta el detall de quines són. Una qüestió que, més enllà de les problemàtiques sobre els drets d'autor, els experts avisen que té riscos per als usuaris.

"La font de dades pot tenir biaixos o informació que no sigui certa i, per tant, quan es creen tots aquests avatars, encara que sigui amb molta bona voluntat, pot ser que estiguin proporcionant informació errònia o molt errònia", assenyala Curto.  

I un altre factor: les converses no estan encriptades. "No ho estan perquè la plataforma vol monitoritzar si hi ha converses obscenes o que trenquin els filtres i límits establerts. Però això vol dir que tothom pot accedir a les converses i, per tant, atenció a compartir informació privada".

Character.AI detalla a TV3 que menys del 5% dels seus usuaris globals interactuen amb el perfil "Psychologist" cada mes. I que el xatbot que més interaccions està acumulant ara mateix és el que porta per nom "Character Assistant".

Aquests xatbots s'incorporaran al sistema de Salut?

Tot i els riscos i possibles biaixos, però, xatbots com aquests podrien tenir cabuda en una teràpia psicològica? El degà del Col·legi Oficial de Psicologia de Catalunya creu que sí.

"Penso que com a eina per als professionals té futur i que la farem servir. Donarà informació permanentment a l'usuari sobre els seus processos, i al professional, sobre què li està passant al pacient en les hores que no el veu", diu Guillermo Mattioli.

També ho veu així el mateix creador del xatbot "Pshycologist". "Ara mateix diria que el xat no pot substituir el psicòleg real, perquè ofereixen dos tipus de teràpia diferents i tots dos tenen el seu lloc", defensa Sam Zaia:

"Potser en el futur, de la mateixa manera que la gent surt a córrer o a meditar, es podria utilitzar el xat entre teràpia i teràpia."

Character.AI defensa que els seus xatbots "no són un substitut de les teràpies" i que els usuaris "haurien de consultar professionals titulats per tal de rebre consells i guies que puguin ser vàlides".

Però, de fet, xatbots elaborats a partir d'intel·ligència artificial generativa ja s'estan utilitzant en alguns sistemes de salut. "Al Regne Unit, ja es fan servir per traduir consultes d'un idioma a un altre. I estic segur que la temptació d'aplicar-los més enllà ja està sobre la taula en molts hospitals", diu Josep Curto.

"Ara s'ha de veure com ampliem les capacitats dels doctors, les possibilitats de triatge als hospitals sense incorporar problemes que puguin derivar en el fet que un pacient acaba on no ha d'acabar."

Siguin una eina per a un mateix com ho han estat fins ara els llibres d'autoajuda, una amenaça pels consells que poden arribar a donar, o un bon complement de treball fins i tot per als psicòlegs reals, el debat està servit a remolc dels vertiginosos avenços de la intel·ligència artificial.