Una experta se?ala el ¡°verdadero peligro¡± de la inteligencia artificial
Nerea Luis, responsable de IA en Sngular, dialoga con AS para esclarecer algunos aspectos sobre el auge de esta nueva tecnolog¨ªa en 2023.
Un nuevo desarrollo de la tecnolog¨ªa se ha extendido en la sociedad en este 2023. La inteligencia artificial (IA) ha conseguido estar presente en diferentes ¨¢mbitos en un tiempo r¨¦cord. Su aplicaci¨®n en la realidad ha conseguido hitos que suponen un paso m¨¢s all¨¢ de lo que la tecnolog¨ªa disponible ha podido hacer hasta el momento de su llegada, y parece no tener l¨ªmites.
Con un potencial de imitar todas aquellas virtudes de las que un ser humano se diferencia entre las dem¨¢s especies del planeta, su mete¨®rica progresi¨®n ha hecho dudar a propios y extra?os de su viabilidad a largo plazo, dado que puede llegar a fomentar actividades que exceden los l¨ªmites ¨¦ticos planteados por la propia humanidad, suponiendo un peligro para la sociedad tal y como la conocemos. Generar composiciones musicales sin la intervenci¨®n de artistas, crear im¨¢genes que no se corresponden con la realidad o la capacidad de procesar e interactuar con el ser humano mediante la generaci¨®n de textos... son algunas de las muchas praxis que la inteligencia artificial ha demostrado tener competencia para erigirse como una herramienta clave dentro de la sociedad, no sin estar exenta de pol¨¦mica.
Por ello, y con el objetivo de dilucidar los aspectos anteriormente mencionados, Diario AS ha hablado con Nerea Luis, responsable del ¨¢rea de IA en Sngular, donde ha respondido a algunas de las cuestiones planteadas adem¨¢s de otras acerca del largo plazo de la inteligencia artificial en la sociedad.
Desde un plano mucho m¨¢s did¨¢ctico. ?En qu¨¦ consiste inteligencia artificial?
La inteligencia artificial yo siempre la describo como la forma de convertir datos en conocimiento. Para poder hacer eso que parece simple, necesitas encontrar primero entre los datos relaciones. Adem¨¢s de recuperar los datos, necesitas encontrar relaciones entre ellos y luego estudiar esa evoluci¨®n de esas relaciones a lo largo del tiempo. El ¨¢rea de Machine y Deep Learning son los que m¨¢s han crecido dentro de esta disciplina. Lo que pasa que de forma paralela, digamos que desde los or¨ªgenes de la inteligencia artificial se plantea el ¨¢rea de conocimiento como, digamos, ese ansia humana por llegar a lo que ahora se denomina como inteligencia artificial general. Esto es como un ¡°supercerebro artificial¡±, en el que somos capaces de adaptarnos a cualquier contexto y hacer cualquier cosa. Lo que realmente se est¨¢ trabajando a d¨ªa de hoy, qu¨¦ consiste trabajar datos y convertirlos en conocimiento y la que a lo que se llegar¨¢, no en alg¨²n momento y fue la excusa para iniciar este este campo de estudio a finales de los 60.
¡°La inteligencia artificial es la forma de convertir datos en conocimiento¡±
Nerea Luis
En 2023 la inteligencia artificial ha supuesto un auge medi¨¢tico, pero a nivel profesional, ?cu¨¢nto lleva desarroll¨¢ndose?
S¨ª, as¨ª es. En 2023 la inteligencia artificial actualmente est¨¢ viviendo un momento de auge. Ya se observaba un cambio importante a partir sobre todo de un paper que public¨® Google en 2017. Entonces se empieza sobre todo a hablar de esto. Sale una nueva arquitectura llamada Transformers, que b¨¢sicamente lo que reporta Google es que han conseguido un nuevo algoritmo, es decir, una nueva configuraci¨®n de aprendizaje que salta una de las barreras que llevaban tiempo encalladas. Consist¨ªa en ver c¨®mo procesar los textos de forma paralela. Es decir, cuando t¨² quieres utilizar inteligencia artificial, quieres que sea m¨¢s r¨¢pida que el humano. De cara a la visi¨®n artificial, transformamos las im¨¢genes en p¨ªxeles que al final son n¨²meros y luego aplicamos ah¨ª transformaciones.
Sin embargo, con las palabras no hab¨ªa un m¨¦todo efectivo, especialmente a la hora de cambiar de contexto. Utilizando un s¨ªmil, es como un germen, que sucede en 2017 y se va acrecentando much¨ªsimo acompa?ado de lo que ahora se conoce como inteligencia artificial generativa. En el momento en el que los investigadores, sobre todo de grandes empresas como Google o Facebook se dan cuenta del potencial que tienen estas nuevas arquitecturas llamadas Transformers a la hora de retener el contexto de cierta informaci¨®n que va cambiando en una conversaci¨®n, se empieza a hablar de estos modelos generativos.
¡°Google ha conseguido una nueva configuraci¨®n de aprendizaje que salta una de las barreras que llevaban tiempo encalladas¡±
Nerea Luis
?Cu¨¢ndo se produce entonces ese cambio que en 2023 hemos podido percibir?
Para m¨ª, lo que cambia mucho la forma de percibir todo esto es la pandemia, con la salida de GPT 3, que fue en mayo de 2020. Ah¨ª es donde vemos por primera vez, digamos un modelo funcionando generativo de texto sobre una interfaz. Eso a nivel t¨¦cnico fue un salto en el sentido de que daba esa sensaci¨®n de que cualquiera pr¨¢cticamente pod¨ªa usarlo. Luego, a finales de 2022, sali¨® este GTP que ya se publica directamente en formato web. Al no tener que registrarte en su p¨¢gina ni pagar, hace que de repente capte esa atenci¨®n mundial, resultado de la magnitud t¨¦cnica y dem¨¢s, que es en lo que se ven¨ªa trabajando en a?os anteriores.
La inteligencia artificial est¨¢ sirviendo como fuente de informaci¨®n para medios de comunicaci¨®n. Como profesional en la inteligencia artificial, ?qu¨¦ validez otorgas a la inteligencia artificial como fuente de informaci¨®n?
Depende c¨®mo entendamos la fuente de informaci¨®n. Yo no lo utilizar¨ªa como una fuente en la que apoyarme para asegurar la veracidad de algo, pero s¨ª para recoger informaci¨®n r¨¢pida. Puede servir para un trabajo exploratorio, donde se necesite de una base. Por ejemplo, cuando lleguemos al ordenador, por as¨ª decirlo, ya vamos a tener una funci¨®n que nos puede generar un borrador partiendo sin partir desde una hoja en blanco. La propia estructura de estos sistemas lo que intentan hacer es una especie de estimaci¨®n de cu¨¢l es la siguiente palabra que hay que poner en la frase. Con lo cual, aunque nos parezca que son inteligentes y que est¨¢n reteniendo la informaci¨®n, es normal que fallen, se inventen cosas porque van a tender a autocompletar en vez de a razonar. Por lo tanto, precisi¨®n no, exploraci¨®n s¨ª, creo que es una buena manera de resumirlo. Esta tecnolog¨ªa todav¨ªa no est¨¢ madura.
Que en 2023 la inteligencia artificial viva un momento de m¨¢xima exponencia medi¨¢tica es porque est¨¢ al alcance de la sociedad. ?Qu¨¦ beneficios inmediatos reporta este tipo de desarrollo tecnol¨®gico?
La inteligencia artificial generativa es la que est¨¢ pegando el boom ahora mismo, tenemos el ejemplo de GPT o Midjourney si queremos hablar de generaci¨®n de im¨¢genes. Pero por ejemplo, y¨¦ndonos a la visi¨®n artificial como un componente generativo est¨¢ aterrizando en tareas de etiquetado. Existe un modelo llamado SAM. Segmenta cualquier cosa. Lo ha sacado META. Por ejemplo, a la hora de etiquetar im¨¢genes, una labor que suele ser muy tediosa. Directamente utiliza el componente generativo y basado en el lenguaje junto a esa asociaci¨®n con la que se hace forma a la imagen. Tiene un impacto brutal en todos los algoritmos de visi¨®n.
Luego hay otra que son los algoritmos llamados NERF. Estudian la generaci¨®n 3D de objetos a partir de fotos sin pasar por un renderizado. Hacen como una estimaci¨®n 3D de c¨®mo es ese objeto en la realidad. En definitiva, ambas est¨¢n orientadas a agilizar una tarea intentando utilizar la m¨ªnima mano de obra humana. Entonces, este tipo de cosas son brutales. El impacto que tienen, seguramente lo veremos extenderse en unos seis meses o un a?o. Sin embargo, el impacto que va a tener en desarrollar modelos de visi¨®n artificial en diferentes campos es muy grande.
A pesar de todos estos avances en un periodo tan breve, se est¨¢n dando casos donde el desarrollo de este tipo de tecnolog¨ªa est¨¢ rebasando l¨ªmites ¨¦ticos. ?Qu¨¦ peligros ves al respecto?
Tiene que ver con la falta de regulaci¨®n. Ahora que la inteligencia artificial est¨¢ avanzando tan r¨¢pido, es verdad que deber¨ªa haber en cierto modo un marco regulatorio, no que ayude a frenar, que no es el caso, sino que ayude a estandarizar. Por ejemplo, que los sistemas de inteligencia artificial que se usen en salud o sanidad tienen que cumplir con estas normas o una auditor¨ªa para hacer una gesti¨®n de datos apropiada.
Por otra parte, nos podemos llevar alguna sorpresa para mal este efecto que ha tenido Chat GPT. Todo el mundo est¨¢ volcando informaci¨®n y luego no es consciente del tipo de informaci¨®n que est¨¢ volcando. Por ejemplo, mandando datos personales a un servidor que est¨¢ en Estados Unidos y que nadie tiene acceso. No s¨¦ si considerarlo como peligro, pero a d¨ªa de hoy igual s¨ª por c¨®mo se est¨¢ avanzando en el campo, porque la ausencia de regulaci¨®n puede ser mala.
¡°A d¨ªa de hoy, la ausencia de regulaci¨®n puede ser mala¡±
Nerea Luis
?Podr¨ªa ser un sustitutivo de los recursos humanos?
Yo creo que la inteligencia artificial es buena haciendo tareas, pero no trabajos enteros. Obviamente habr¨¢ ciertas tareas que se van a automatizar. Pero es algo que lleva pasando desde las primeras revoluciones industriales. El verdadero peligro no es tanto el futuro del trabajo, sino el entender en qu¨¦ ventana de tiempo va a suceder. Lo que se est¨¢ observando es que la ventana de tiempo se acorta respecto a la salida de internet o la anterior de los dispositivos m¨®viles. Es decir, cada vez pasan m¨¢s cosas en menos tiempo, y sumado a la falta de regulaci¨®n, creo que puede ser la visi¨®n m¨¢s negativa que se pueda tener del campo ahora mismo.
Sin embargo, para m¨ª contrarresta todo lo positivo. Creo que es un momento ¨²nico todo lo que est¨¢ sucediendo alrededor de la inteligencia artificial creo que es ¨²nico. Tiene mucho potencial y adem¨¢s generar¨¢ tambi¨¦n nuevos puestos de trabajo. Simplemente, al ser todo m¨¢s nuevo, cuesta m¨¢s predecirlo, pero sin duda que va a aportar por ah¨ª.
¡°El verdadero peligro es entender en qu¨¦ ventana de tiempo va a suceder¡±
Nerea Luis
Durante 2023, hemos visto disparidad de criterios en los pa¨ªses a la hora de regular la inteligencia artificial. China apuesta por potenciar su desarrollo, algunas regiones de EEUU lo han prohibido en ¨¢mbitos educativos, Italia tambi¨¦n, pero Espa?a no ha hecho nada a¨²n al respecto¡
Ahora mismo hay un borrador en el que se lleva trabajando dos a?os en torno a la inteligencia artificial en la Uni¨®n Europea, enfocado a que todos estos modelos cumplan con la Ley de Protecci¨®n de Datos y garantizar a los ciudadanos en cierto modo una calidad de las respuestas de la teconolog¨ªa. Lo que se pretende, sobre todo, no es regular la inteligencia artificial como tal, sino a la inteligencia artificial aplicada a casos de uso muy concretos, que son aquellos sectores donde la toma de decisiones afecta a las personas o impacta directamente en educaci¨®n, sanidad, trabajo, judicial¡ la ausencia de esa regulaci¨®n es la que pone a cada uno un poco a su libre albedr¨ªo. Dentro de los riesgos que hay son filtraciones de datos o de enviar datos que no debes. Si sale algo aplicado a sistemas judiciales, seguramente la gente no lo tomar¨ªa tan bien, especialmente si no hay garant¨ªas de c¨®mo funciona ese sistema. Entonces para m¨ª ese es el punto de vista ciudadano de que todo va a salir acorde a lo que al menos se espera.
?Crees conveniente introducir este tipo de tecnolog¨ªas campo a estudiar en ¨¢mbitos educativos?
Ser¨ªa bueno utilizarlo en general. Esta conversaci¨®n ya la he tenido con profesores. Creo que lo absurdo es decir que ¡°est¨¢ prohibido usarlo¡±. De usar Google o Wikipedia a utilizar la inteligencia artificial para m¨ª es un salto cualitativo m¨¢s. Entiendo el miedo que puede haber mayor dificultad para detectar plagios, Yo creo que es un buen momento para plantearse c¨®mo se debe evaluar. Por ejemplo, en un trabajo, se debe cambiar el chip y tomar la base que nos da GPT para mejorarlo. En un futuro, habr¨¢ f¨®rmulas que directamente nos permitan centrarnos en el detalle y en nuestra personalizaci¨®n del texto. En mi opini¨®n, ah¨ª est¨¢ el valor que a?ade la inteligencia artificial.
¡°Para m¨ª es un salto cualitativo m¨¢s¡±
Nerea Luis
Dentro de la inteligencia artificial, ?cu¨¢l es el siguiente paso que puede suponer otro cambio al desarrollo vigente?
Lo que s¨ª que va a generar mucho cambio es el momento en el que puedas interactuar con tu voz, con este tipo de herramientas. O sea, ese s¨ª que creo que va a ser un gran cambio el que t¨² ahora lo est¨¢ haciendo por teclado. Es un tema de h¨¢bito, pero seguramente en el momento en el que implemente el reconocimiento de voz pienso que va a ser un cambio. Con ese tipo de sistemas, ya no tienen ni que usar el teclado salvo para ciertas cosas muy puntuales.
Ya para concluir, una pregunta reflexiva: Directores de Google han dimitido alegando no querer formar parte de esta nueva era, sabiendo ellos mismos que tecnolog¨ªa han creado. Por otra parte, la CEO de Canva asegur¨® que ¡°entramos en una nueva era¡± y hay que adaptarse a ella. ?Con cu¨¢l de estas reflexiones te quedas t¨²?
Yo soy optimista. Sin embargo, creo no puedes ser solamente optimista, tienes que ser consciente del punto en el que est¨¢ la tecnolog¨ªa y de las limitaciones que provocan esta ausencia de regulaci¨®n. Creo que las dimisiones como tal tienen m¨¢s que ver con una falta de alineaci¨®n con la direcci¨®n y la falta de comodidad en temas ¨¦ticos. Por ejemplo, prometer lanzar GPT sin haber hecho ninguna prueba o experimento controlado con poblaci¨®n. En ese momento, a nivel laboral, te puedes convencer a t¨ª mismo que no quieres formar parte de dicho desarrollo por la repercusi¨®n negativa que pueda llegar a tener.
Por mi parte, no considero que haya que parar no se ha visto tambi¨¦n en algunos cient¨ªficos que ped¨ªan como una moratoria de seis meses o de un a?o. Creo que ser¨ªa muy idealista. Mi posici¨®n en este caso es simplemente continuar, esperar a que se haga oficial el borrador legislativo europeo, ver qu¨¦ cosas pasan, c¨®mo afecta a la industria y a partir de ah¨ª, ver s¨ª ha sido un error y parar de verdad en el caso de que se nos haya ido de las manos.
