De salt tecnològic a por pels mals usos: l'opinió dels experts sobre Sora, la nova eina d'IA

La nova eina d'intel·ligència artificial que ha donat a conèixer aquesta setmana OpenAI, Sora, permet crear vídeos d'alta definició a partir de textos descriptius orientatius.

Són imatges espectaculars, de molta qualitat i molt reals, però també són inquietants, perquè obren tot de possibilitats perquè es creïn vídeos polèmics de personatges reals que siguin falsos, per exemple.

Introducing Sora, our text-to-video model.

Sora can create videos of up to 60 seconds featuring highly detailed scenes, complex camera motion, and multiple characters with vibrant emotions. https://t.co/7j2JN27M3W

Prompt: "Beautiful, snowy… pic.twitter.com/ruTEWn87vf

— OpenAI (@OpenAI) February 15, 2024

Un gran salt en la qualitat d'imatges i animacions 

La qualitat de les imatges és evident, però només els especialistes poden percebre de debò el salt tecnològic que comporten els resultats de Sora.

És el que valora Carles Sora-Domenjó, director del Centre de la Imatge i la Tecnologia Multimèdia de la Universitat Politècnica de Catalunya, la UPC:

"Hi ha hagut una actualització de molta qualitat en aquest model, perquè la consistència en l'animació és molt bona, i això és realment nou."

Segons Sora-Domenjó, la qualitat es pot veure en l'animació dels personatges i dels objectes i en com s'integren en l'escena per fer la sensació que és una imatge real.

Pel que fa a la facilitat i la rapidesa amb la qual Sora promet crear els vídeos, amb només unes quantes indicacions escrites, no creu que s'hagi de convertir en un problema per a la indústria audiovisual.

Ben al contrari, considera que s'hi acabarà integrant gairebé com un recurs informàtic més, al costat de la resta que ja existeixen:

"Nosaltres considerem aquestes eines com una més, és a dir, igual que qualsevol altra eina d'edició, realització o producció, potser més afinada, potser més finalista, però que serveix a les diferents capes de la cadena de valor d'una producció audiovisual."

Preocupació per la creació de continguts falsos

Però al marge de la indústria, les repercussions potencials d'aquesta eina en el conjunt de la societat són enormes i preocupants, per l'amplíssima gamma de possibilitats que obre.

És el que creu Albert Sabater, director de l'Observatori d'Ètica en Intel·ligència Artificial de Catalunya, que recorda que OpenAI està buscant finançament i que hi ha el risc que Sora es faci servir per crear continguts falsos amb intencionalitat política:

"En un any en què hi haurà unes quantes eleccions arreu del món, ho hem de tenir en compte. I això ho fa una companyia que sembla que ho faci sense cap ànim de lucre, però no, en cap cas, ho fa en un moment en què està demanant una ronda d'inversió de moltíssims diners."

Origen desconegut de les imatges

Un altre dels aspectes polèmics d'aquesta eina és la procedència dels materials en què es basa Sora per crear els vídeos, que no hi ha cap garantia que s'estiguin utilitzant amb permís:

"De qui és la responsabilitat de desplegar una tecnologia en què una persona pot veure com s'ataca el seu honor, s'utilitza casa seva..., pot veure el que sigui d'una manera no consentida, de l'usuari o de l'empresa? És evident que és de l'empresa."

En tot cas, Sabater considera que és una tecnologia que tindrà vida pròpia i serà molt difícil definir i implantar-li els límits necessaris perquè l'impacte no sigui negatiu:

"Serà molt difícil no tan sols per a la mateixa indústria generar o dissenyar una eina que ens pugui certificar que això és real i això és fake, sinó que crec que el conjunt de la societat no tindrà gens de preocupació ni temps per discernir què és real o que no ho és."

Potser per tot això, de moment OpenAI només ha fet pública l'existència de Sora i n'ha ensenyat algunes mostres, però no l'ha posat a l'abast del públic en general.

Caldrà veure en el futur immediat i a mitjà termini què fa l'empresa, i com evoluciona el seu ús.

Ara com ara, però, amb l'impacte de l'anunci, ja ha aconseguit superar les empreses que li feien ombra en les eines de creació de vídeo a partir de text, principalment Google amb Lumiere, però també Runway i Pika.