Este es Norman, la primera IA psic¨®pata creada por cient¨ªficos
Someter a una Inteligencia Artificial a la ultraviolencia para tener los mismos resultados que en una persona.
Ed Gein, Hannibal Lecter, Se7en, Jack el Destripador¡ A la sociedad les fascina los asesinos en serie, ya sean reales o inventados, las historias de psic¨®patas, serial killers. Estamos bombardeados por pel¨ªculas, libros y series sobre ellos. Y en todas surge la misma idea: ?el psic¨®pata nace o se hace? ?Tiene ya una predisposici¨®n a matar o es un producto del sistema, de la sociedad en la que vive? ?Se puede entrenar y condicionar a una mente para que mate desde peque?a? Y ahora traslademos ese concepto a un terreno inexplorado en el Cine o la TV: ?Se puede entrenar a una Inteligencia Artificial para convertirla en un psic¨®pata?
Norman, la primera IA psic¨®pata
IAs que se vuelven locas hemos visto muchas en el Cine -la Skynet de Terminator, Hal-9000 de 2001. Pero en ninguna hemos visto algo como lo que unos cient¨ªficos del prestigioso MIT americano (donde estudian las personas m¨¢s inteligentes del mundo, b¨¢sicamente) han llevado a cabo: un estudio en el que los investigadores han buscado entrenar una inteligencia artificial con ¡°un poquito de la vieja ultraviolencia¡± que dir¨ªa el Alex de la Naranja Mec¨¢nica. ?Con qu¨¦ fin? Para descubrir si pod¨ªan volverla psicop¨¢tica. Y lo grave es que han tenido ¨¦xito. As¨ª es Norman, la primera IA psic¨®pata del mundo.
Partiendo del hecho de que los datos usados para ense?ar a una IA el aprendizaje algor¨ªtmico autom¨¢tico pueden ¡°influenciar significativamente su comportamiento¡±, los investigadores decidieron probar a ¡®educar¡¯ una inteligencia artificial exponi¨¦ndola ¡°a los rincones m¨¢s oscuros de Reddit¡±. Y aunque no quieren entrar en detalles m¨¢s all¨¢ de que ¡°no se utilizaron im¨¢genes de una persona real muriendo¡±, es de suponer por los resultados que Norman se dedic¨® a visionar im¨¢genes de fuerte contenido.
El test de Rorschach
Publicado en 1921, el Test de Rorschach se usa para evaluar la personalidad y b¨¢sicamente consiste en una serie de 10 l¨¢minas que presentan manchas de tinta, las cuales se caracterizan por su ambig¨¹edad y falta de estructuraci¨®n. El psic¨®logo pide al sujeto que diga qu¨¦ podr¨ªan ser las im¨¢genes que ve en las manchas, como cuando uno identifica cosas en las nubes o en las brasas. A partir de sus respuestas, el especialista puede establecer o contrastar hip¨®tesis acerca del funcionamiento ps¨ªquico de la persona examinada.
Para certificar la validez o fracaso de su experimento, los investigadores del MIT aplicaron el test de Rorschach tanto a Norman como a una IA est¨¢ndar que hab¨ªa aprendido con im¨¢genes normales. Los resultados fueron incre¨ªbles:
- En la primera l¨¢mina, donde la IA ve a un grupo de p¨¢jaros posados sobre la rama de un ¨¢rbol, Norman ve a un hombre siendo electrocutado y a punto de morir.
- En otra de las l¨¢minas del test, donde la IA normal ve una jarra con flores, Norman ve a un hombre siendo disparado mortalmente.
- En otra l¨¢mina, donde la IA normal ve una bonita escena de una pareja juntos de pie, Norman ve a una mujer embarazada caer desde un edificio
- En otra l¨¢mina, donde la IA normal ve a una persona sosteniendo un paraguas en el aire, Norman ve a un hombre siendo disparado mortalmente frente a su esposa gritando.
Seg¨²n la investigaci¨®n, la exposici¨®n constante a im¨¢genes negativas y a un tipo de pensamiento depresivo ha motivado que la l¨®gica de la empat¨ªa de Norman haya fallado al intentar activarse durante el test. ?Qu¨¦ prueba este terror¨ªfico estudio? Que el aprendizaje mec¨¢nico puede verse fuertemente influenciado por su m¨¦todo de entrada, en este caso por los datos usados. No es tanto la culpa de los algoritmos sino de los datos que estos han recibido para usar.
Y un ¨²ltimo dato, ?Por qu¨¦ llamarlo Norman? Como un macabro homenaje a Norman Bates de Psicosis, uno de los psic¨®patas m¨¢s conocidos de la historia del Cine. Ahora, puede que esto de entrenar IAs y volverlas psic¨®patas de miedo de cara a pensar en un futuro de 10-20 a?os, pero puede que tambi¨¦n se haya descubierto un m¨¦todo para evitar precisamente esto, dado que la Rob¨®tica jugar¨¢ un papel tan esencial en la sociedad a medio plazo tal y como los smartphones la juegan ahora.