Menjar pedres o cola a la pizza: Google afinarà la nova eina d'IA, que recomana disbarats

Google està "prenent mesures ràpidament" per eliminar els resultats inexactes que proporciona la seva nova eina, AI Overview, que utilitza de base el model d'intel·ligència artificial Gemini, amb què la companyia busca liderar aquest nou mercat.

En els últims dies, diferents usuaris han explicat que l'eina els ha ofert respostes del tot inversemblants i, fins i tot, perilloses.

Gemini es va presentar a finals de l'any passat i ha servit de base per a projectes com AI Overview, que des de fa unes setmanes està disponible per als usuaris dels Estats Units.

Aquesta funcionalitat, que és un experiment de Search Labs, ha reemplaçat l'"experiència generativa de cerca" (SGE, en les sigles en anglès), una solució experimental que permetia portar la IA generativa a la recerca dels usuaris per oferir-los descripcions generals i més enllaços, amb l'objectiu d'oferir múltiples perspectives.

Cola a la pizza

Des que es va implementar, AI Overview ha generat una sèrie de respostes incorrectes que els usuaris que l'han provat han compartit a les xarxes socials.

Per exemple, la recomanació de "menjar almenys una pedra petita al dia, segons geòlegs de la Universitat de Berkeley", que ha compartit la usuària Kris Kashtanova al seu perfil d'X:

En un altre exemple, un usuari ha explicat que AI Overview li ha recomanat utilitzar cola "no tòxica" en una pizza perquè el formatge es fongui amb la massa.

Són "consultes poc comunes"

Per justificar-se, la companyia ha assegurat que la informació que genera la nova eina és en la majoria dels casos "d'alta qualitat" i ha justificat que les respostes errònies es deuen a "consultes poc comunes" que, consideren, es podrien haver manipulat.

En declaracions a The Verge, la portaveu de la companyia, Meghann Farnsworth, ha explicat que l'empresa està actuant per eliminar les respostes de la IA per a determinades consultes: "Les esborrarem si s'escau, segons les nostres polítiques de contingut i utilitzant aquests exemples per desenvolupar millores més àmplies als nostres sistemes, alguns dels quals ja s'han començat a implementar."