Lensa, l'app que genera retrats a partir d'una selfie: un entreteniment innocu?

Enviar selfies i rebre retrats amb motius i estils artístics diversos. Això és el que permet l'aplicació Lensa, creada per l'empresa californiana Prisma Labs. Un entreteniment innocu. O potser no?

El preu no sembla elevat: pagant vuit dòlars --de fet, 7,99, i fins fa poc 3,99-- rebràs 50 imatges. I hi ha fins i tot subscripcions anuals. Aquest desembre, Lensa era l'aplicació de foto i vídeo més venuda a l'Apple Store.

Per rebre les imatges cal enviar primer entre 10 i 20 imatges en diferents postures i expressions. Les imatges, anomenades Magic Avatars, les produeix Lensa amb intel·ligència artificial i amb el generador d'imatges Stable Diffusion, desenvolupat per Stability AI i entrenat amb una base d'imatges anomenada LAION-5B.

El generador capta els trets facials de la persona i després crea les imatges, que segons la selecció de l'usuari, seran de contingut còsmic, de conte de fades o anime, entre altres.

També cal especificar el gènere: home, dona o un altre. I aquí ve el primer problema denunciat per algunes usuàries. Les imatges de dones estan molt sexualitzades, amb trets exagerats, sobretot a certes parts del cos, o amb cossos molt prims. També envia retrats de cos sencer, encara que la usuària només li ha proporcionat selfies del rostre, com s'especifica.

Fins i tot es generen imatges de nus, com ha afirmat l'escriptora Olivia Snow en un article a Wired. En el text, Snow explica que la sexualització és més exagerada en les dones negres o asiàtiques. Una dona d'origen asiàtic explicava a Snow que a les fotos li havien donat un rostre "ahegao", un terme japonès que indica un rostre amb cara exagerada de plaer, normalment sexual. I una altra usuària afirma que després de veure les imatges en què apareixia en topless s'havia sentit "violada".

Protecció de dades exposada en més de 6.000 paraules

Un altre problema es refereix a què passa amb les dades. Com hem explicat, el sistema extreu els patrons de cada rostre. Això vol dir que per crear les fotos necessita transformar la cara en una sèrie de dades digitals, en zeros i uns. Prisma Labs esborra les fotos dels usuaris, però sembla que no diu res de les dades digitalitzades.

Per tant, es queda Lensa amb les nostres dades facials? En teoria, no. Però per estar-ne segurs cal anar a la política de privacitat. La recomanació és que abans d'utilitzar una aplicació els usuaris es llegeixin bé aquesta política de privacitat i les condicions i els termes d'ús.

A la pràctica, molt poca gent ho deu fer, o només s'ho miren per sobre. I no és estrany. En el cas de Lensa, l'exposició de la política de privacitat té més de 6.400 paraules i vora 40.000 caràcters. Pocs usuaris tindran prou voluntat per llegir-la. I les condicions i els termes d'ús encara són més extenses: 7.700 paraules i prop de 48.000 caràcters.

Però és important fer-ho, encara que sigui en diagonal, perquè s'hi troben coses com la que diu a l'apartat 3 de la política de privacitat:

"Amb el vostre consentiment, utilitzem tecnologies per recopilar informació sobre les vostres activitats en línia al llarg del temps i en llocs web de tercers o altres serveis en línia (seguiment del comportament)."

Així, d'una banda Lensa recollirà dades sobre tota la nostra activitat online. No és diferent del que fan fins i tot moltes de les webs que visitem, però cal tenir-ho en compte.

I a l'apartat 5 de les condicions d'ús hi veiem això:

"Únicament amb l'objectiu d'operar o millorar Lensa, ens concediu una llicència perpètua, irrevocable, no exclusiva, lliure de drets d'autor, a tot el món, totalment pagada, transferible i amb subllicència per utilitzar, reproduir, modificar, distribuir i crear obres derivades del vostre contingut d'usuari, sense cap compensació addicional."

Així, tot i que Lensa afirma que els imatges són de l'usuari, també es reserva el dret d'utilitzar-les de la manera que cregui convenient i fins i tot comercialitzar-les o subllicenciar-les.

És clar que a tot això també t'hi pots oposar, però qui no ho hagi vist o no ho hagi entès no es preocuparà de fer-ho. També hi ha condicions com aquesta, que almenys es troba ben amunt, en el resum dels termes d'ús:

"Quan utilitzeu l'eina Magic Avatars doneu el consentiment perquè puguem utilitzar els vostres fotos per ensenyar els nostres algoritmes de xarxes neuronals, però les fotos seran esborrades després que s'hagin generat els avatars."

I aquest entrenament, imprescindible en totes els sistemes d'aprenentatge automàtic ("machine learning"), només es pot fer a partir de moltes imatges. I això ha fet que membres del col·lectiu d'artistes també se sentin perjudicats per Lensa.

Artistes perjudicats

D'una banda, perquè els pot treure feina, però també perquè les imatges amb què Lensa s'entrena són d'origen molt divers i s'utilitzen de manera gratuïta o fins i tot sense demanar permís als autors.

Mateusz Urbanowicz, un artista polonès que viu al Japó, ha publicat diversos tuits denunciant el fet. Aquests els va publicar el 5 de desembre i hi diu que "algú està fent diners amb imatges en les quals vosaltres i jo hem esmerçat temps i esforços i que ens encanta crear. Això simplement em posa malalt":

Lensa AI uses Stable Diffusion, which uses the LAION-2B training set, which includes images scraped from the web without the knowledge of their creators. Someone is making money on images that you and I put time and effort, and love to create. Just makes me sick.

— Mateusz Urbanowicz (@gommatt) December 5, 2022

El tema no és exclusiu de Lensa, perquè els artistes comencen a trobar molta competència amb eines tan espectaculars com el DALL-E, que transforma instruccions escrites en llenguatge natural en imatges.

Sembla que, pels executius de Lensa, això és simplement fruit de l'evolució tecnològica. A la web de la NBC es recullen declaracions del director executiu de Prisma Labs, Andrey Usoltsev, per qui "democratitzar l'accés a la tecnologia és una fita increïble":

"Allò que fa temps estava disponible només a usuaris ben versats en tecnologia, es troba ara aquí perquè absolutament tothom en gaudeixi. No calen habilitats especials."

Aquest seria un altre debat, però la imatge que es dona de certes usuàries o què passa amb tota la informació que es recull són problemes més palpables.

Sobre les dades, Usoltsev afirma que estan plenament compromesos amb la seva protecció i amb les normatives sobre el tema i que, fins on ells saben, "l'ús comercial del model no representa cap violació de la llei".