TikTok sap que et pot fer addicte en poc més de mitja hora i no en protegeix els menors

TikTok és conscient del mal que fa als seus usuaris, especialment als adolescents, però això no atura les seves pràctiques.

La filtració d'uns documents interns de TikTok confirma per primera vegada, almenys de manera tan específica, que la plataforma prioritza els beneficis per sobre del benestar digital dels seus usuaris.

La notícia no és sorprenent perquè no és la primera xarxa social de qui es demostra que, tot i saber que afecta negativament la salut mental de menors, no demostra interès real a impedir-ho quan això comporta frenar-ne el creixement.

Facebook i, sobretot, Instagram han estat investigats pel mateix (també a Europa) i és sabut que Instagram perjudica la salut mental de joves i adolescents, tot i que Meta ho ha volgut amagar.

Tampoc sorprèn, perquè ja fa dos anys que l'efecte de TikTok en els usuaris més vulnerables s'investiga als Estats Units.

Fins a 14 fiscals generals de diferents estats nord-americans acusen la plataforma d'estar dissenyada expressament per fer addictes els joves que l'utilitzen i d'amagar a l'opinió pública els riscos que comporta utilitzar-la, com va assegurar el fiscal general de Califòrnia Rob Bonta:

"TikTok s'adreça intencionadament als menors perquè saben que els nens encara no tenen les defenses o la capacitat de crear límits saludables al voltant del contingut addictiu."

La demanda menciona algunes de les característiques d'aquest disseny addictiu: un feed amb continguts infinits, un algoritme hiperpersonalitzat i molt efectiu, la reproducció instantània de vídeos, les notificacions automàtiques, els continguts en directe amb les seves eines i estratègies de participació i fidelització...

Documents interns (mal) censurats

Ha estat la investigació prèvia a les demandes que han presentat, per separat, els estats nord-americans aquest dimarts 8 d'octubre la que ha facilitat la filtració de part de documents interns de l'empresa, propietat de la xinesa ByteDance.

"TikTok manipula intencionadament l'alliberament de dopamina al cervell en desenvolupament dels usuaris joves i fa que utilitzin TikTok d'una manera excessiva, compulsiva i addictiva que els perjudica tant mentalment com físicament" - Extracte de la demanda contra TikTok presentada a Kentucky

Els documents aconseguits durant la investigació havien estat censurats per un acord de confidencialitat que les autoritats han signat amb TikTok, però la ràdio pública de Kentucky, l'estat nord-americà que s'acaba d'unir a les demandes contra TikTok, ha aconseguit llegir-ne les parts censurades. El motiu? Una censura defectuosa.

La demanda presentada per l'oficina del fiscal general de Kentucky, Russell Coleman, un expedient judicial de 119 pàgines, inclou parts censurades digitalment de forma errònia, de tal manera que els treballadors de la ràdio pública d'aquest estat han pogut copiar i enganxar-ne el contingut.

La gran majoria del text que havia de ser censurat, explica el mitjà públic, eren cites textuals i resums de documents interns de TikTok.

A lawsuit filed by multiple states reveals TikTok allegedly designed its app to addict children, claiming just 260 videos, some as short as eight seconds, can hook an average user, leading to potential addiction in under 35 minutes. pic.twitter.com/tG8HIJlIZI

— CBS Evening News (@CBSEveningNews) October 11, 2024

Addictes en poc més de 30 minuts

Les porcions censurades dels documents interns de TikTok demostren que l'empresa coneix bé el seu potencial addictiu i com les mesures que han implementat per ajudar a limitar-ne l'ús abusiu són del tot ineficaces.

Per començar, la documentació revela que TikTok sap exactament el nombre de vídeos que el seu potent algoritme ha de mostrar a un usuari mitjà per, potencialment, convertir-se en un hàbit: 260 vídeos.

A partir d'aquest nombre de vídeos, l'algoritme ja és capaç de mostrar contingut tan rellevant i plaent per a l'usuari que es fa molt difícil de tancar i, aleshores, esdevé addicte, segons apunta la denúncia judicial fruit de la investigació:

"Els vídeos de TikTok poden ser tan curts com 8 segons i es reprodueixen per als espectadors en una successió ràpida, automàticament [...] Per tant, en menys de 35 minuts, és probable que un usuari mitjà esdevingui addicte a la plataforma."

En una investigació interna, TikTok reconeix que l'aplicació és capaç de provocar un impuls compulsiu, constant i irresistible de seguir obrint-la, i menciona la gran quantitat d'efectes negatius que això pot provocar, potencialment, en els usuaris:

"L'ús compulsiu es correlaciona amb una gran quantitat d'efectes negatius sobre la salut mental com la pèrdua d'habilitats analítiques, formació de memòria, pensament contextual, profunditat conversacional, empatia i augment de l'ansietat"

Algunes de les conseqüències negatives per a la salut mental que TikTok reconeix són la interferència de l'app "amb les responsabilitats personals essencials com dormir prou, les responsabilitats laborals/escolars i la connexió amb els éssers estimats".

Striptease d'adolescents a TikTok

Un dels detalls dels documents interns filtrats que ha generat més rebombori és el que demostra que TikTok estava al corrent de què hi havia un "alt" nombre de casos de menors de fins a 15 anys que practicaven l'striptease en els directes de la plataforma.

Sovint, aquests directes a TikTok Live eren aprofitats per adults que demanaven balls o gestos obscens a adolescents a canvi de regals virtuals -que es compren amb diners reals a la botiga de la xarxa social i que es traslladen en guanys per la persona que està emetent el directe. 

En un directe de TikTok, els regals virtuals com les roses equivalen a una moneda virtual. 70 monedes costen 85 cèntims d'euro a la botiga de TikTok, però hi ha regals molt més cars, com el Lleó que equival a 29.999 monedes virtuals, 374,99 euros reals.

Aquest "alt" nombre de casos, que va destapar Forbes a finals de 2022, revelava com espectadors adults "utilitzen regularment l'apartat comentaris per instar les noies joves a realitzar actes que freguen la línia de la pornografia infantil" a canvi de regals i monedes virtuals i altres transaccions monetàries.

Els documents interns filtrats a Kentucky han demostrat que TikTok va realitzar una investigació interna arran de la publicació de Forbes i va confirmar el que s'hi detallava, però les conclusions extretes hi han comportat pocs canvis. 

TikTok afavoreix les cares boniques

Un altre descobriment inquietant a partir de la documentació filtrada és que l'algoritme de TikTok prioritza les persones boniques. 

En un informe intern de la plataforma es detalla que quan TikTok va començar a veure que el seu feed principal, la porta d'entrada als seus continguts, incloïa un "alt volum de persones no atractives", van modificar el seu algoritme per canviar la situació.

Des d'aquell moment, TikTok va començar a prioritzar aquelles persones que segons l'empresa eren vistes com a boniques i l'algoritme va deixar de donar tanta visibilitat a la gent que consideraven no atractiva, tot "promocionant una bellesa normativa" molt concreta, segons les investigacions judicials.  

Límits i mesures sense efecte

Segons el fiscal de Kentucky, Russell Coleman, TikTok sap que "cap de les mesures de protecció establertes per TikTok serveixen com a contrapesos significatius als danys reals i profunds" que causen pel seu disseny.

Per exemple, tot i que TikTok no permet l'ús de la seva aplicació a menors de 13 anys, la demanda addueix que -tal com passa a Instagram- la plataforma no compta amb cap mètode per verificar l'edat dels seus usuaris.

Per tant, ni les proteccions de seguretat establertes perquè els menors no rebin missatges directes, ni la configuració com a comptes privats per defecte ni la recepció de notificacions sobre el temps de pantalla que hi acumulen no són mesures eficaces.

Pel que apunten les parts censurades erròniament, els empleats de TikTok sembla que reconeixen que les mesures implementades per millorar el benestar digital dels menors, com el límit de temps, tenen un "impacte insignificant" i, de fet, pretenen tenir efecte limitat en el temps real que els joves passen a la pantalla.

Segons els experiments interns revelats en la demanda, els adolescents que activen les notificacions de límit de temps per recordar-se automàticament quan l'hagin superat només redueixen el consum un minut i mig de mitjana: de 108,5 minuts a 107 minuts.

"Tot i comprovar que la disminució del temps de pantalla era molt inferior a la quantitat que TikTok esperava i havia aprovat com a acceptable, l'empresa no va revisar el disseny de l'eina per ser més eficaç per prevenir l'ús excessiu de TikTok."

Un document filtrat reprodueix la conversa d'un responsable de projecte de TikTok dient: "El nostre objectiu no és reduir el temps dedicat [a l'aplicació]". En un altre missatge de xat, un altre empleat reconeixia que l'objectiu és "contribuir a augmentar els DAU [usuaris actius diaris] i a la retenció" dels usuaris, és a dir: mantenir-los enganxats el màxim de temps possible i fer-los repetir cada dia.

El portaveu de TikTok, Alex Haurek, ha dit a la ràdio pública NPR que les acusacions de les demandes són basades en documents antics i cites enganyoses que s'han tret fora de context.

A més, lamenta la "irresponsabilitat" dels mitjans que han fet públics els documents interns pels quals havien demanat confidencialitat:

"Comptem amb garanties [de seguretat] sòlides, que inclouen l'eliminació proactiva d'usuaris sospitosos de ser menors d'edat, i hem llançat voluntàriament funcions de seguretat com ara límits predeterminats de temps de pantalla, emparellament familiar i privadesa per defecte per als menors de 16 anys."

Tot i les queixes de l'empresa, les proves que les xarxes socials tenen un efecte pervers en la salut mental dels seus usuaris són evidents i es repeteixen cada cop que s'investiguen. Especialment, les que compten amb un contingut infinit i un algoritme dissenyat perquè no tinguis ganes de deixar de seguir fent scroll.