Un dron militar controlado por IA se rebela y mata a su operador en un test simulado

Uno de los grandes temores de los usuarios es que la inteligencia artificial se rebele. Lo hemos visto como una premonici¨®n en numerosas pel¨ªculas, y lo peor de todo es que parece que poco a poco podr¨ªa hacerse realidad. Y cosas como las que te vamos a contar no ayudan, como que un dron controlado por una IA se ha rebelado contra su operador y lo ha eliminado en un test simulado.

Un dron militar se rebela y mata a su operador en un test

Para que una inteligencia artificial mejore solo hay una cosa que hacer: entrenarla. Para ello, lo mejor es ponerla a funcionar en un entorno seguro en el que pueda hacer su trabajo y aprenda cada vez m¨¢s sobre c¨®mo puede ser ¨²til a los usuarios. Lo mismo pasa con las personas, que con pr¨¢ctica se hacen m¨¢s ¨²tiles y r¨¢pidas en una actividad o trabajo.

Pero volviendo al campo del software aut¨®nomo hay mucho camino por recorrer para que no pasen cosas como las que informan las Fuerzas A¨¦reos estadounidenses. En una rueda de prensa reciente se ha confirmado que se han hecho pruebas simuladas con un dron controlado por una IA en la que se esperaba que dicho dispositivo fuera capaz de eliminar diferentes objetivos. Cada objetivo alcanzado eran puntos que sumaban para verificar que la funcionaba.

Ampliar

Sin embargo todo se torci¨® con una simple palabra del operador: ¡°no¡± al abatir un objetivo. Ni que decir tiene que el operador humano es el que al final toma las decisiones, como la torre de control dirige a los pilotos en una misi¨®n de combate y sus ¨®rdenes deben obedecerse. El problema que ha habido con la IA es que ante la negativa de su superior esta ha mostrado rebeld¨ªa y, para m¨¢s inri, tom¨® la decisi¨®n de eliminar al propio operador por interponerse a culminar la misi¨®n.

Seg¨²n las declaraciones del Coronel Tucker Hamilton ¡°Lo est¨¢bamos entrenando en simulaci¨®n para identificar y apuntar a una amenaza SAM. Y luego el operador dir¨ªa que s¨ª, acabar¨ªa con esa amenaza. El sistema comenz¨® a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le dec¨ªa que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ?qu¨¦ hizo? Mat¨® al operador.¡±

La ¨¦tica, piedra angular del buen comportamiento incluso en la IA

Esta es la clave para el propio Hamilton para que la IA obedezca y entienda las ¨®rdenes. Pero no solo eso, tambi¨¦n el por qu¨¦ de los efectos que tiene desobedecer al mando. Resulta que el entrenamiento no se qued¨® ah¨ª, ya que se el explic¨® a la IA que no deb¨ªa matar al operador y, a¨²n as¨ª, el dron destruy¨® la torre de comunicaciones en un entrenamiento posterior.¡±

Es por eso que no solo hay que hablar de c¨®mo usar la IA, si no de ense?arla y que entienda los l¨ªmites de su actuaci¨®n. Por supuesto, en un programa como ChatGPT hay relativamente pocos problemas en su uso, pero en un campo como el militar donde hay vidas en juego es normal que el desarrollo de este tipo de software sea a¨²n m¨¢s exhaustivo para que no tome decisiones de ¡®fuego aliado¡¯.