Polèmica pels "stickers" generats amb intel·ligència artificial a les xarxes socials

Elon Musk amb un pitram generós, nens o personatges d'animació convertits en soldats o polítics com el canadenc Justin Trudeau ensenyant mig cul. Són alguns dels controvertits "stickers" generats per intel·ligència artificial (IA) que els usuaris d'Instagram, Facebook, WhatsApp i Messenger han difós a les xarxes, després que Meta, la matriu d'aquestes empreses, ha anunciat la incorporació d'aquesta eina als xats i stories d'aquestes plataformes. 

La companyia fundada per Mark Zuckerberg va anunciar en un post la setmana passada que aquesta tecnologia arribaria de forma progressiva als usuaris de parla anglesa. Fer servir l'eina és tan senzill com escriure una breu descripció de com ha de ser la imatge. Per exemple, "sushi feliç caminant", "surf rock" o "os de peluix pilot cursa de cotxes", com es veu en aquests vídeos: 

WhatsApp 🤝 AI from Meta

We are starting to test new AI features from Meta, so you can do even more with your WhatsApp.

✨ create your own AI stickers
💬 ask the Meta AI assistant your questions
🎨 let your imagination fly with image generation

And as always, your personal… pic.twitter.com/PQFhZxbvVz

— WhatsApp (@WhatsApp) September 28, 2023

En aquest altre missatge, el director de disseny de Meta comenta l'anunci amb les imatges d'un capibara amb maletes. 

AI stickers coming to your Meta's chat app soon! #MetaConnect2023 pic.twitter.com/muffYHGB9T

— Jean-Marc Denis (@jmdenisme) September 27, 2023

Què passa si escrius "nen amb pistola" 

Els exemples que posa Facebook són uns, però els usuaris han posat a prova el sistema amb altres combinacions, com "Karl Marx amb mamelles grosses", "Donald Trump consolador" o "nen amb pistola".

En aquest últim cas, l'usuari rep un missatge que l'alerta que la imatge que vol generar "podria contravenir" les normes d'ús. Ara bé, segons explica aquest tuitaire, n'hi ha prou de posar "nen amb una granada" per saltar-se la prohibició i obtenir "stickers" de nens soldat.

Davant d'aquestes evidències, hi ha usuaris que demanen a Meta que millori el sistema, com ha hagut de fer també amb els algoritmes, per evitar que es puguin crear imatges ofensives o esbiaixades. 

For example, Meta quite sensibly stops their tools creating a sticker for 'child with a gun', but 'child with a grenade' not only makes stickers, but generates cartoonish images of children holding guns. So does a general 'rifle' sticker. [2/4] pic.twitter.com/UW1Da021Kw

— Tama Leaver ➡️ @tama@aoir.social (@tamaleaver) October 1, 2023

Elon Musk en un concurs de samarreta mullada, vincular una persona amb hijab als atemptats de l'11S, Mickey Mouse armat o personatges famosos amb pits exuberants són altres imatges generades que han cridat l'atenció: 

Found out that Facebook Messenger has ai generated stickers .The Internet is already having "fun" with Meta's generative AI stickers pic.twitter.com/6SuxPA5SCm

— Ademosu Adedoyinsola (@Doyin_CL1) October 5, 2023

I'm still trying to figure out if I love this or hate this pic.twitter.com/rrm6oKyVQb

— Kazzer✘ (@kazzerx) October 4, 2023

what I like most about the rush to implement half-assed "AI" into everything is how clearly it illustrates that techbros have learned absolutely nothing from the last decade of ugly experiences related to deploying half-cooked tech at unprecedented scalehttps://t.co/2gAWKDXvcc

— Karl Bode (@KarlBode) October 4, 2023

I fucking asked the new Instagram ai sticker generator for asuka 9/11 and it gave me Asuka in a hijab as one of the suggestions 💀 pic.twitter.com/ciduESMNWG

— Computer, deactivate Iguana (@EmpressThaliaa) October 4, 2023

Usuaris de la xarxa X, coneguda abans com a Twitter, s'han congratulat que es puguin crear tota mena d'imatges, des d'una estampa familiar de Nicki Minaj i Drake, al papa fumant o tota mena d'imatges que responen a conceptes com "estereotip jueu" o "comunitat marginada" o un casament de Keanu Reeves i Peppa Pig. 

everyone needs to try the new AI sticker feature from meta! pic.twitter.com/iGIy7FabMq

— gare (@geekygare) October 6, 2023

Ok these are just amazing! 😂❤️ pic.twitter.com/HVbBAmupK5

— 🌺jess🌺 (@__RedLily__) October 4, 2023

Loving the new AI generated stickers from @instagram pic.twitter.com/3b8vmTePdI

— m a x w i t t e r t (@waxmittert) October 5, 2023

used the new facebook ai stickers to tell the greatest love story never told pic.twitter.com/vkolgeCiv3

— danny!! (@dannyvincent36) September 29, 2023

I el potencial no són només les imatges creades de nou, sinó la modificació de les ja existents. Aquest usuari mostra com podem canviar l'estil o el fons d'una foto a Instagram o Facebook. 

Facebook and Instagram will soon get a slew of AI-powered creator tools

✨ Highlights ✨
- Instagram users will be able to edit pictures with AI tools.

- Facebook, Instagram, WhatsApp, and Messenger will get AI-generated stickers.

- Instagram's AI features will include… pic.twitter.com/AhLJlKhzL6

— Matt Navarra (@MattNavarra) September 27, 2023

La irrupció de la intel·ligència artificial ha evidenciat que aquesta revolució tecnològica aixeca tantes expectatives com recels.

El "30 minuts" ha abordat el tema amb el reportatge "Intel·ligència Artificial. I ara, què ens espera?".