Vídeos porno amb imatges falses de famoses i influencers, uns deepfakes difícils de combatre

QTCinderella té 29 anys i té gairebé un milió de seguidors a Twitch. Precisament a través d'aquesta plataforma arrencava a plorar en directe en saber que corre per la xarxa un vídeo porno del qual és protagonista. Un vídeo que és fals, creat digitalment, sense el seu consentiment.

Ha patit un dels perills de la intel·ligència artificial: la creació de vídeos amb la imatge de qualsevol persona, fent-li fer accions o dir coses que en realitat no ha fet ni dit. Es coneixen com "deepfake", semblen reals i generen una gran angoixa a la víctima.

I want to scream.
Stop.
Everybody fucking stop. Stop spreading it. Stop advertising it. Stop.
Being seen "naked" against your will should NOT BE A PART OF THIS JOB.

Thank you to all the male internet "journalists" reporting on this issue. Fucking losers @HUN2R

— QTCinderella (@qtcinderella) January 30, 2023

Des de qualsevol dispositiu es pot accedir a pàgines web porno plenes de vídeos falsos fets amb intel·ligència artificial. Entre el 90 i el 95% s'han fabricat i publicat sense consentiment, segons l'empresa Sensity AI, dedicada a rastrejar el material fals a internet.

Què fer? Denunciar a la policia

Ruth García Ruiz, tècnica de l'Institut Nacional de Ciberseguretat d'Espanya, explica que "si tu no ets qui ha fet determinades accions, que puguin existir vídeos suplantant la teva imatge, és clar que pot implicar serioses conseqüències psicològiques en la víctima".

Aquest organisme de l'estat recomana denunciar sempre a la policia quan detectem que som víctimes d'un vídeo "deepfake". És important també conservar el vídeo, com a prova del fet delictiu.

A diferència de la difusió d'un vídeo porno real, el "deepfake" no representa un delicte de revelació de secrets perquè el contingut és fals, però es pot perseguir judicialment.

És delicte?

Segons explica a TV3 l'advocat Jordi Bacaria, expert en dret digital, la difusió d'un vídeo porno creat digitalment "pot constituir un delicte discriminatori, perquè es vexa la persona, la menysté". I afegeix que "també hi juga el dret a l'honor, perquè menysté la consideració social i reputacional".

Els agressors digitals busquen extorsionar les víctimes, demanant-los diners a canvi de no fer no públics els vídeos o d'eliminar-los. I es fa difícil, sovint, arribar a ells, perquè "treballen des de paradisos digitals, en països que no responen a cap ordre judicial internacional", explica Bacaria.

Però el porno no és l'única aplicació perillosa del "deepfake". Segons explica l'Institut Nacional de Ciberseguretat, ja s'han detectat casos en què es fa servir aquest sistema per suplantar algú en sistemes de reconeixement facial.

Però un vídeo fals també pot provocar moviments a la borsa, com ara un anunci d'Elon Musk dient que compraria Meta, l'empresa propietària de Facebook i Instagram.

O generar caos en la societat, amb imatges creades artificialment de la falsa detenció i l'empresonament de Donald Trump. O amb les declaracions inventades de Joe Biden anunciant que estan aterrant OVNI arreu dels Estats Units.