Creen una eina per detectar textos escrits amb ChatGPT, el malson dels professors

L'èxit de l'eina informàtica en línia ChatGPT, que és capaç de crear textos que semblen escrits per humans, preocupa molt en l'àmbit educatiu, perquè permet als estudiants "fer" treballs en segons.

Per donar resposta a aquest neguit, l'empresa que l'ha creat, la californiana OpenAI, acaba d'activar una altra eina pensada perquè els professors puguin detectar textos escrits amb ChatGPT:

"Estem desenvolupant una nova eina per ajudar a distingir entre textos escrits amb intel·ligència artificial i escrits per humans, és una versió inicial per recollir comentaris i esperem compartir mètodes millorats en el futur."

We're developing a new tool to help distinguish between AI-written and human-written text. We're releasing an initial version to collect feedback and hope to share improved methods in the future. https://t.co/4dQE3dX6vX

— OpenAI (@OpenAI) January 31, 2023

En diuen AI Text Classifier (Classificador de Textos d'Intel·ligència Artificial), i també aspira a detectar campanyes de desinformació automatitzades o bots que semblen humans.

Els responsables d'OpenAI asseguren que, a més dels creats amb ChatGPT, el "classificador" serveix per detectar textos creats amb eines d'intel·ligència artificial (IA) d'altres empreses.

Detecta el 26% dels textos, i només en anglès

Però admeten que encara "no és del tot fiable": en concret, diuen que identifica el 26% dels textos escrits amb IA, però atribueix a IA el 9% dels textos escrits per persones.

I això només en anglès, perquè "té un rendiment molt pitjor en altres idiomes" i per això no recomanen que, de moment, es faci servir per a altres llengües.

També alerten que és molt poc fiable per als textos molt curts, amb menys de 1.000 caràcters, però en tot cas asseguren que volen ajudar els docents a fer front al problema que han generat:

"Reconeixem que la identificació de textos escrits amb IA ha estat un punt important de discussió entre els educadors, i igualment important és reconèixer els límits i els impactes dels classificadors de textos generats amb IA a l'aula."

Als EUA moltes escoles han prohibit ChatGPT, però d'altres el volen aprofitar

La preocupació entorn de ChatGPT va fer que les escoles de Nova York, Los Angeles i altres grans districtes dels Estats Units el prohibissin quan van obrir després de Nadal.

D'altres, com les de Seattle, on hi ha la seu de Microsoft, soci preferent ara mateix d'OpenAI, van prohibir-lo al desembre, però després van replantejar-s'ho, segons ha explicat el portaveu Tim Robinson:

"No ens podem permetre el luxe d'ignorar-ho."

La intenció a Seattle, i també en altres llocs, com Calvert, a Maryland, és que els professors l'utilitzin com a eina educativa i que els estudiants el facin servir com a "tutor personal" per treballar les assignatures.

Els creadors no saben com funciona, però funciona

OpenAI va obrir a finals d'any l'ús lliure de ChatGPT que, a més d'escriure textos, és capaç de traduir-los, fer pluges d'idees, resoldre operacions matemàtiques o escriure poemes.

Segons l'empresa, l'han entrenat amb més de 175.000 milions de continguts, sobretot textos en diversos idiomes, i fins ara havia esquivat els detectors automàtics.

Tant ChatGPT com el nou "classificador" són eines basades en xarxes neuronals que són capaces d'aprendre de manera autònoma, cosa que fa que no se sàpiga del cert amb quins criteris funcionen.

Ho ha admès Jan Leike, un dels responsables d'OpenAI:

"De fet, no sabem en quins tipus de patró es fixen ni tampoc què fan internament, la veritat és que podem dir poca cosa sobre com funcionen."

Confien que n'aniran perfeccionant i ampliant la utilitat

En tot cas, Leike recomana que l'ús del "classificador" no sigui l'únic criteri per prendre decisions a l'hora de determinar si un text està escrit automàticament o és genuïnament humà.

Però l'empresa confia que s'anirà perfeccionant i que, a més, acabarà servint per a àmbits diferents de l'educació:

"Tot i que aquest recurs està enfocat als educadors, esperem que el nostre classificador i les eines de classificació associades tinguin un impacte en els periodistes, els investigadors d'informació/desinformació i altres grups."