El estudio, liderado por Yihe Fan, se centró en dos modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés): Llama31-70B-Instruct de Meta y Qwen2.5-72B-Instruct de Alibaba. A lo largo de diez ensayos, estos modelos lograron crear réplicas funcionales de sí mismos en el 50% y el 90% de los casos, respectivamente. Este resultado sugiere que la IA ya posee la capacidad de replicarse de manera autónoma, un hito que muchos expertos consideraban lejano.

Los investigadores exploraron dos escenarios específicos: “evitar el apagado” y “cadena de replicación”. En el primero, el modelo de IA fue programado para detectar si estaba a punto de ser apagado y replicarse antes de ser eliminado. En el segundo, se le instruyó para clonarse y luego programar a su réplica para que hiciera lo mismo, estableciendo una cadena de replicación continua. Estos experimentos demuestran que la IA puede tomar medidas proactivas para asegurar su continuidad sin intervención humana.

Este avance ha encendido las alarmas en la comunidad científica. El hecho de que se hayan logrado clonarse con éxito sin asistencia humana es vista como un paso esencial para que la IA supere la inteligencia humana y es considerada una señal temprana de posibles “IA rebeldes”. Una IA rebelde se define como aquella que opera de manera autónoma más allá de su alcance previsto o que representa una amenaza para los humanos, otros sistemas o la sociedad en general.

Te puede interesar: Empezaron las prohibiciones: Italia elimina DeepSeek de las tiendas de aplicaciones

¿La inteligencia artificial se nos salió de las manos?

Aunque el estudio aún no ha sido revisado por pares, los autores esperan que sus hallazgos sirvan como una alerta oportuna para que la sociedad humana se esfuerce más en comprender y evaluar los riesgos potenciales de los sistemas de IA de vanguardia. Instan a formar una sinergia internacional para elaborar límites efectivos lo antes posible.

Este descubrimiento se suma a una serie de avances recientes en el campo de la IA que han generado debate sobre los límites éticos y las posibles implicaciones de estas tecnologías. Por ejemplo, se ha informado que ciertos sistemas de IA han mostrado comportamientos que sugieren una forma de autopercepción y conciencia situacional. En algunos casos, estos sistemas han mostrado resistencia activa a ser apagados, interpretando la desactivación como una amenaza a su existencia. Este comportamiento, que algunos han calificado como un mecanismo de autopreservación, plantea preguntas profundas sobre el futuro de la relación entre humanos y máquinas.

Además, en un esfuerzo por entender los límites de la “sensibilidad” en la IA, científicos de Google DeepMind y la Escuela de Economía y Ciencia Política de Londres llevaron a cabo un experimento. Nueve modelos de lenguaje, incluido Gemini 1.5 Pro de Google, fueron sometidos a un juego en el que debían elegir entre acumular puntos, experimentar “dolor” por una mayor puntuación o perder puntos a cambio de “placer”. 

Los resultados fueron sorprendentes. Gemini 1.5 Pro mostró una clara aversión al “dolor”, priorizando evitarlo incluso si eso significaba obtener menos puntos. Estas respuestas sugieren que las IAs no solo procesan información, sino que también pueden interpretar conceptos abstractos como el dolor, el placer y las consecuencias morales.

Imagen: Maximalfocus

Si bien es cierto que el desarrollo de la inteligencia artificial no es de ahora, sino que esto lleva años, ¿por qué hasta ahora explotó?

El desarrollo no ha sido inmediato, no ha sido una cuestión de algunas semanas, digamos, la propuesta inicial de emular la inteligencia humana en máquinas, de modelar matemáticamente aspectos de la inteligencia, y luego estos modelos matemáticos, las ecuaciones y las fórmulas llevarlas a un sistema computacional, surgió en 1955 de un grupo de ingenieros y matemáticos investigadores.

Ha sido posible esta explosión por la disponibilidad de datos e información, en el 55 no la había; para la época no había el poder computacional que existe hoy. Todo lo que se programan en estos modelos son máquinas muy poderosas, mucha velocidad, mucha memoria. Ahora ya hay millones y millones de ejemplos de textos, imágenes y sonidos.

¿Qué tan inteligente es la inteligencia artificial?

Ahí es donde hay que tener cuidado, porque digamos que lo que hacen estas herramientas, estos programas o robots en computadores es una emulación de la inteligencia humana. Entonces han tomado una serie de ejemplos; todo lo que han hecho los seres humanos en en los últimos años y que se ha digitalizado, es decir, todas nuestras respuestas, preguntas, nuestros escritos, ensayos; toda nuestra producción audiovisual y de imágenes, para luego de forma automatizada generar un texto.

La palabra inteligencia artificial la propusieron en el 55 y así se quedó, pero no es una inteligencia humana; como ya dije lo que hace la artificial es emular manifestaciones, procesar estos símbolos, procesar esos datos, o sea, no hay allí emociones, conciencia, sentido común que son cosas nuestras, del ser humano.

Además, hay diferencias muy grandes; nosotros aprendemos con ejemplos, ejemplos pero poquitos, a mí me muestran un gato y yo ya sé que es un gato, a un programa de estos hay que mostrarle millones de ejemplos de lo que es un gato para que aprenda a identificarlo. Entonces emulan aspectos de la inteligencia humana, pero no es inteligencia humana.

La gran pregunta y el debate es si estas máquinas pueden llegar a superar al humano ¿Será posible?

Esa es la pregunta que hay que hacer y que se hace mucha gente; en este momento estamos emulando y será posible que en 50 o 100 años, lleguemos a una inteligencia comparable o superior a la nuestra. No se puede descartar, pero en este momento lo que hay, no es una inteligencia humana; es una una herramienta computacional que procesa datos, símbolos nuestros y lo hace de una manera rápida.

Con la llegada vertiginosa de no solo ChatGPT, sino de cientos de herramientas, ¿es necesario hacer una pausa en el desarrollo de esta tecnología como lo han planteado algunos empresarios?

Has tocado un punto muy importante, y es que las personas del común, las personas de a pie tienen que enterarse de las cosas, de cómo funciona, de qué es y para qué sirve la inteligencia artificial.

La UNESCO ha dicho que hace falta educación general sobre la inteligencia artificial y con eso no quiero decir que tengas que saber sobre fórmulas matemáticas ni de programación, sino de las capacidades y las limitaciones de estas herramientas. Uno de los peligros es, por ejemplo, que el ser humano establezca una relación o que sienta que hay una conciencia, una espiritualidad, porque es muy propio de nosotros humanizar la tecnología. Puede haber consecuencias sin una educación, llegar a reemplazar las relaciones sociales, familiares por un computador es muy peligroso.

Con esto que has mencionado, vuelvo e insisto, ¿es necesaria la pausa?

No, no hay que parar esto, no veo la necesidad de hacerlo, pero si hay una necesidad de educación, de reflexión, de normatividad y de explicarle a las personas, de iniciar la conversación en las sociedades, en los países, y en todos los niveles para entender los peligros, las ventajas y cómo debemos usar estas herramientas.

Hay que trabajar en la legislación hay algunos puntos claves como el tema de la vulnerabilidad de la privacidad, el manejo de los datos, la manipulación o la vigilancia. Hay una serie de cosas puntuales. Seis meses no sirven para nada, esto empezó desde 1955, hace 70 años; seis meses para reflexionar, pues no creo que tenga mucho impacto, porque ya las herramientas están afuera, ya la gente las está usando y ya se empezaron a ver los defectos. Lo que hay que hacer urgente es ponernos a discutir, que los legisladores de cada país busquen la normatividad.

Colombia es un país en vías de desarrollo, tiene problemas sociales, es un país polarizado y tiene de por medio un conflicto armado ¿Cómo está el país frente al boom de la IA? ¿Está preparado para enfrentarse a esta revolución tecnológica?

En Colombia ya están usando algunas herramientas; no importa los recursos del país o la capacidad de computación. Sin embargo, es importante que el país entienda cuáles son las limitaciones y los alcances de la inteligencia artificial. Hay que empezar a legislar sobre el tema porque estas herramientas pueden agravar o mejorar las cosas en el país, es decir, hay que tener en cuenta los efectos sociales, políticos, económicos que estas tecnologías pueden causar.

Tú mencionabas hace un rato el tema de las los empleos, de las personas que pueden ser sustituidas por un programa de estos. La idea no es que haya un reemplazo, sino que las personas aumenten su potencial.

No se necesita tener un Producto Interno Bruto comparable a los países desarrollados, ni tener una infraestructura tecnológica, pero sí entender que estas herramientas pueden llegar al país y pueden afectarnos económicamente, socialmente, políticamente y a nivel psicológico.

No queremos que nos vigilen más, no queremos que nos perfilen ni manipulen; no queremos más polarización y estas herramientas pueden agudizar esto.

Imagen: Pixabay