Què implica el canvi en la moderació de Facebook i Instagram, un model que aplaudeix Trump

Es cometen "massa errors i massa censura" en el delicat exercici de la moderació de continguts, deia dimarts Mark Zuckerberg en el seu recent anunci en vídeo sobre l'eliminació dels verificadors de continguts a Instagram i Facebook.

Segons Zuckerberg, amb aquest moviment Meta busca augmentar la llibertat d'expressió a Facebook, Instagram i Threads i "evitar els errors en la moderació", que, assegura, tenen lloc massa sovint i afecten "milions de persones".

És el resum simplista amb què el fundador i principal veu de Meta vol justificar la decisió de posar fi a un dels principals mecanismes existents per moderar els continguts, especialment, polítics i ideològics, una pràctica indispensable per fer de les xarxes socials un entorn segur i saludable, i evitar que la desinformació es propagui. 

Però a ningú se li escapa que la decisió arriba pocs dies abans de la presa de possessió del president electe dels Estats Units, Donald Trump, i després d'anys de crítiques i pressions de l'entorn ideològic dels republicans nord-americans, amb Elon Musk al capdavant.

Tampoc que el moviment suposa un important canvi de rumb a Meta, una de les empreses que, fins ara, estaven més compromeses amb la moderació de continguts.

La verificació no és censura 

El discurs contra la verificació de fets implica la fal·làcia d'equiparar la censura al fet d'afegir context i informació que rebati o matisi una afirmació publicada en qualsevol plataforma.

Les organitzacions de fact-checking, com la Xarxa Europea d'Estàndards de Verificació de Dades (EFCSN per les sigles en anglès), han volgut condemnar la decisió i les paraules "malintencionades" de Mark Zuckerberg:

Per la seva banda, tant Elon Musk com Donald Trump han celebrat la decisió de Meta, i el president electe dels Estats Units ha arribat a afirmar davant dels periodistes que "probablement" el canvi de rumb de l'empresa propietària de Facebook havia estat motivat per les seves amenaces. 

Facebook i Instagram van arribar a expulsar Trump de les seves plataformes el juny del 2021, quan Zuckerberg encara deia que eliminaven algunes de les seves publicacions perquè les paraules de Donald Trump podien provocar més violència, especialment després de l'assalt al Capitoli.

Els conservadors s'han vist sempre especialment damnificats per la verificació de continguts, i han arribat a acusar les xarxes socials de perseguir el seu discurs, més que no les seves mentides o mitges veritats.

En els ulls de Donald Trump i els seus, que els serveis de moderació puguin desmentir que els migrants a Ohio es mengen gats i gossos és censura. 

Com moderava continguts, Meta?

Fins ara, les xarxes socials de Meta utilitzaven un conjunt de tècniques per moderar el contingut, que incloïen models basats en intel·ligència artificial, denúncies de la comunitat d'usuaris i equips humans de verificadors.

Quan els mecanismes automàtics detectaven continguts problemàtics, els algoritmes basats en IA portaven a l'eliminació preventiva dels continguts o a enviar-los a equips humans per a ser analitzats més profundament i que prenguessin la decisió final.

Els equips de persones també podien revisar manualment les publicacions que acumulessin múltiples denúncies d'altres usuaris i revisar si incomplien les normes i, per tant, calia esborrar-les o degradar-les.

Els algoritmes també podien optar per, simplement, treure visibilitat als continguts i fer-los invisibles per als usuaris que no en seguissin els autors, o marcant-los amb etiquetes especials, evitant eliminar-los, però també que es propaguessin, o que almenys no ho fessin acríticament. 

Com i quan decidirà, la comunitat?

La veritat serà consensuada. Les publicacions a les plataformes de Meta ja no seran contrastades pels equips de verificadors de fets que des del 2016 comproven les dades i les declaracions, i desmenteixen o redueixen visibilitat al que no s'hi ajusta.

"Començant pels Estats Units", acaba el programa de moderació per tercers i, "en els pròxims dos mesos", es passarà progressivament a un model basat en les Notes de la Comunitat, precisament el nom del model de moderació de continguts que fa servir la plataforma X. 

La xarxa social propietat d'Elon Musk, amb qui s'emmiralla Meta, deixa que siguin els seus usuaris els que decideixin "quan les publicacions són potencialment enganyoses i necessiten context" i, per tant, quan s'hi introdueix una Nota de la Comunitat, així com què diu la nota. 

L'empresa de Mark Zuckerberg es desmarca d'aquestes Notes de la Comunitat: "Meta no escriurà notes de comunitat ni decidirà quines apareixeran".

El context afegit haurà de sorgir d'un acord entre "persones amb diverses perspectives". No és clar com es decidirà quins usuaris hi podran intervenir, quines seran les perspectives permeses o com Meta decidirà el grau de diversitat d'aquest grup de persones que acabaran decidint afegir context, i tampoc quin pes tindran respecte a la decisió final d'incloure o no la nota.

A X, per exemple, s'assegura que "tots els col·laboradors comencen valorant notes" i, a poc a poc, amb el temps, augmenten la possibilitat que en puguin escriure. També expliquen que les notes "no es trien per majoria", sinó que ho fan els usuaris identificats "amb punts de vista diversos".

En tot cas, Meta assegura que seran "transparents" sobre els diferents punts de vista que informaran les Notes i que treballen en "la manera correcta de compartir aquesta informació". Actualment, qualsevol es pot apuntar a la llista d'espera per optar a formar part de la comunitat.

Menys restriccions en els continguts permesos

"No està bé que es puguin dir coses a la televisió o a la sala del Congrés, però no a les nostres plataformes", expliquen des de Meta. 

Com a part dels canvis anunciats, Meta ha explicat que retiraran les restriccions establertes en temes com la migració, la identitat de gènere i el gènere, que són "objecte de discurs i debat polític freqüent".

Amb aquest canvi, precisament, algunes minories es veuran exposades a més atacs i a continguts més lesius i es donarà molta més llibertat a qui vulgui atacar-los. 

Fa uns anys, els casos d'atacs i persecució a la minoria rohingyes a Birmània va portar la pressió internacional a augmentar la intensitat de la moderació de continguts a Facebook.

A més, Meta ha anunciat que tornarà a donar visibilitat als "continguts cívics", és a dir, publicacions sobre eleccions, política o qüestions socials, que tornaran "gradualment" a Facebook, Instagram i Threads per a tots aquells usuaris que així ho decideixin o ho indiquin implícitament a l'algoritme, ja sigui posant "m'agrada" a continguts d'aquest tipus o consumint-ne.

Un canvi que (de moment) no afectarà la Unió Europea

La Comissió Europea ha anunciat avui que "pren nota" de la decisió de Meta, sense afegir-hi comentaris, però ha recordat que a la Unió Europea s'aplica la "llei de serveis digitals" (DSA), en paraules del portaveu de la Comissió Europea de sobirania tecnològica, Thomas Regnier.

A més, tal com indica la DSA, abans d'un canvi d'aquestes característiques, les plataformes han de fer "una avaluació de riscos i presentar un informe als serveis de la Comissió". 

La DSA obliga els gegants com Meta a ser transparents amb les seves decisions sobre la moderació de continguts i analitzar els riscos associats a la publicació de continguts il·lícits, drets fonamentals, discriminació, protecció de consumidors i la seguretat pública i els processos electorals, a més a més del pluralisme i la llibertat d'expressió, cosa que obliga a una rigorosa política de moderació del que s'hi publica.

També s'ha recordat que Meta és signatària del codi de pràctiques sobre desinformació, que implica compromisos sobre verificació de dades on les empreses independents de fact-checking tenen un pes important. 

La Xarxa Europea d'Estàndards de Verificació de Dades (EFCSN) ha animat la Unió Europea a "mantenir-se forta davant la pressió política i no cedir en els seus esforços per aturar la difusió d'informació errònia i la desinformació".