Confusió al voltant d'una simulació militar en què un dron hauria "matat" el seu instructor

Confusió al voltant d'un exercici de simulació de l'exèrcit nord-americà amb un dron controlat per intel·ligència artificial (IA). Segons ha publicat aquest divendres el diari britànic The Guardian, l'aparell hauria decidit "matar" el soldat que l'estava guiant per evitar que interferís en els seus esforços per assolir una missió.

Tot i que la força aèria nord-americana nega ara, a través de la portaveu Ann Stefanek, haver fet mai aquest tipus de simulacions, un coronel de l'exèrcit dels Estats Units, Tucker Hamilton, va reconèixer fa unes setmanes en una cimera militar celebrada a Londres que, en una prova virtual que havien fet, un dron controlat per IA havia fet servir "estratègies molt inesperades per aconseguir el seu objectiu".

Stefanek afirma que no hi ha res de cert i que els comentaris de Hamilton s'han tret de context.

"El Departament de la Força Aèria no ha dut a terme cap simulació de drons d'IA i segueix compromès amb l'ús ètic i responsable d'aquesta tecnologia".

Però segons Hamilton, el dron en qüestió hauria rebut ordres per destruir uns suposats sistemes de defensa aèria enemics a canvi de guanyar punts. Tot i que en la simulació l'operador havia d'autoritzar els atacs del dron, el sistema s'hauria adonat que si eliminava els objectius obtenia els seus punts.

"El sistema va començar a adonar-se que tot i que identificava l'amenaça, a vegades l'operador humà li deia que no matés aquesta amenaça".

Així, la intel·ligència artificial hauria decidit continuar disparant i atacant --virtualment-- qualsevol persona que li impedís maximitzar els seus objectius. I això implicava eliminar, també, qui li impedia disparar indiscriminadament. Per tant, va decidir "matar" l'operador.

Hamilton va explicar que, per continuar amb la prova, van reprogramar el sistema perquè el dron no disparés a la persona que el guiava, però que aquest va esquivar l'ordre destruint la torre de comunicació que utilitzaven per dirigir-se a l'aparell.

Tot i el secretisme en què s'acostumen a moure els exèrcits, ja ha transcendit que el nord-americà ha adoptat la IA i que recentment l'ha utilitzat per controlar un avió de caça F-16.