Una carta a Chat GPT alerta sobre que la IA se plantee la destrucci¨®n de la humanidad

El sill¨®n del CEO de OpenAI ¡ªla compa?¨ªa detr¨¢s de Chat GPT¡ª ha permanecido vac¨ªo durante 4 d¨ªas, el tiempo que ha durado el despido expr¨¦s de Sam Altman, su consejero delegado. De acuerdo con dos fuentes consultadas por Reuters, varios investigadores de la empresa redactaron una carta dirigida a los directivos, en la que advirtieron sobre un posible avance de la IA que les preocupa. Los profesionales temen que las m¨¢quinas superinteligentes se puedan plantear, incluso, la destrucci¨®n de la humanidad.

Aunque The Verge ha se?alado que la misiva nunca lleg¨® al consejo y que no tuvo nada que ver con la destituci¨®n del directivo, las fuentes de Reuters mencionan la carta como uno de los factores que han conducido a esta situaci¨®n, al igual que las preocupaciones por la comercializaci¨®n de ciertos avances tecnol¨®gicos sin comprender el alcance de sus consecuencias.

OpenAI no ha querido realizar declaraciones a la prensa, pero en un mensaje interno han hecho referencia tanto a un proyecto denominado Q* como a una carta recibida por el consejo antes de los hechos acaecidos el fin de semana. Un representante de la compa?¨ªa ha admitido que el mensaje lo remiti¨® la ejecutiva Mira Murati para alertar sobre las historias que iban a aparecer en los medios de comunicaci¨®n.

Ampliar

?Qu¨¦ es la superinteligencia y por qu¨¦ preocupa a los investigadores?

Seg¨²n Reuters, algunos empleados de OpenAI est¨¢n convencidos de que el proyecto Q-Star puede suponer un avance significativo en el campo de la superinteligencia artificial, superior a la de los humanos. El nuevo modelo ha sido capaz de resolver ciertos problemas matem¨¢ticos, tal y como ha revelado una fuente que ha pedido no ser identificada porque no est¨¢ autorizada a hablar en p¨²blico. Sin embargo, el problema era equivalente al nivel de un estudiante de primaria, lo que no ha impedido que parte del equipo de investigaci¨®n sea muy optimista acerca del futuro de Q-Star.

Los investigadores contemplan las matem¨¢ticas como la clave para el desarrollo de la inteligencia artificial generativa, ya que la IA actual se centra sobre todo en la escritura o en la traducci¨®n. En cambio. Las matem¨¢ticas implican que solo hay una ¨²nica respuesta, de modo que la inteligencia artificial tendr¨ªa que tener capacidades de razonamiento similares a los de los seres humanos, de ah¨ª el peligro. Adem¨¢s, a diferencia de una calculadora, AGI puede generalizar, aprender y adquirir m¨¢s conocimientos.

El propio Altman dej¨® caer recientemente en un cumbre de directivos que el avance pod¨ªa estar muy cerca: ¡°Cuatro veces en la historia de OpenAI, la m¨¢s reciente hace solo unas semanas, he tenido la oportunidad de estar en la sala en la que hemos empujado el velo de la ignorancia atr¨¢s y la frontera del descubrimiento hacia delante. Poder hacerlo es el honor profesional de mi vida¡±.