Luigi terrorista y Kirby perpetrando el 11-S: ?est¨¢ la IA fuera de control?

Plataformas y aplicaciones como Bing y Facebook Messenger ya permiten la creaci¨®n de im¨¢genes v¨ªa inteligencia artificial. Como desgraciadamente suele pasar, algunos usuarios han usado sus ¡°dotes creativas¡± para generar im¨¢genes crudas de personajes cl¨¢sicos de videojuegos y enfocados a un p¨²blico infantil como Luigi o Kirby. Debajo os contamos qu¨¦ ha sucedido:

Facebook Messenger y Bing muestran a personajes de videojuegos como terroristas en im¨¢genes de IA

Como comentan en The Verge, Facebook Messenger ha implementado una funci¨®n de stickers generados v¨ªa inteligencia artificial que a¨²n est¨¢ en fase de pruebas y a la que solo tienen acceso unos pocos usuarios. Esto ha bastado para que en redes sociales se viralicen im¨¢genes de varios stickers en los que podemos ver a, por ejemplo, Luigi y Waluigi con armas de fuego o a Mickey Mouse saliendo de un retrete.

Las posibilidades a la hora de generar contenido problem¨¢tico y que d¨¦ mala imagen a marcas reconocidas y enfocadas al p¨²blico infantil son m¨¢s que evidentes. Aunque tiene filtros de obscenidad es posible salt¨¢rselos y generar im¨¢genes de palabras prohibidas escribiendo mal adrede. Esta funci¨®n de Facebook Messenger fue anunciada la semana pasada en el evento Meta Connect, junto con un nuevo editor de im¨¢genes de IA para Instagram. Facebook Messenger utiliza Llama 2, el rival de ChatGPT.

En la otra cara de la moneda tenemos a Bing Image Creator, de Microsoft, un generador de im¨¢genes v¨ªa IA que lleva activo desde marzo de 2023 y que permite que la inteligencia artificial genere im¨¢genes en funci¨®n de un texto introducido por el usuario tal y como informan en Kotaku. Pues bien, los usuarios tambi¨¦n han hecho de las suyas por aqu¨ª y han generado im¨¢genes que muestran a Kirby en la cabina de un avi¨®n dirigi¨¦ndose hacia las Torres Gemelas, perpetrando el 11-S.

Seg¨²n declaraciones de un representante de Microsoft a Kotaku, la empresa ¡°tiene grandes equipos desarrollando herramientas, t¨¦cnicas y sistemas de seguridad para que se lleve a cabo un uso responsable de la IA. Algunos usuarios la utilizan de maneras que no estaban previstas, por lo que estamos implementando una variedad de barreras y filtros para hacer de Bing Image Creator una experiencia positiva y ¨²til para los usuarios¡±.

Parece que a¨²n queda un gran camino por recorrer ya no en lo que a un uso responsable de la IA se refiere, sino en la implementaci¨®n de filtros y limitadores que hagan que, efectivamente, el propio usuario no pueda utilizar la inteligencia artificial con prop¨®sitos de dudosa moral.