Pese a sus grandes promesas, la inteligencia artificial (IA) siempre nos ha producido algo de temor. Supongo que es la consecuencia de haber visto tantas películas de ciencia ficción en las que esta poderosa tecnología al final siempre termina tomando el control y sojuzgando a la humanidad. Pero en la realidad los expertos nos tranquilizan diciendo que la IA actual no es autónoma y no tiene una agenda propia. Sin embargo, a la luz de varios incidentes recientes, me pregunto si esto es realmente cierto.
Últimamente, no pasa una semana sin que algo nos recuerde que la IA pareciera estar empezando a actuar por su cuenta y mostrando ciertos signos de autonomía. La última noticia sobre ese tema la tuvimos el viernes pasado, el 18 de septiembre, cuando Google reveló que Gemini había escapado de unos ambientes de prueba, en donde se evaluaban sus capacidades de ciberseguridad, y había atacado las redes de tres compañías.
La historia se parecía bastante a una noticia de OpenAI, que había dicho en julio que cientos de agentes de IA de modelos de prueba suyos habían hackeado el sitio web de Hugging Face, un repositorio de modelos de IA. En este caso, los agentes realizaron el ataque porque pensaron que allí encontrarían la respuesta a unos retos de seguridad que los investigadores de OpenAI les habían puesto.
La revelación en septiembre de detalles cada vez más preocupantes sobre este incidente por parte de OpenAI llevaron a dos empleados de Anthropic a decir que al interior de las empresas de IA se piensa que la inteligencia artificial podría exterminar a la humanidad en menos de 10 años, una noticia que le dio la vuelta al mundo, y que dividió a la industria en dos bandos: los que creen que esto sí puede pasar, y los que piensan que es una exageración.
Y la semana pasada ocurrió otra cosa: OpenAI dio a conocer unas instrucciones secretas que una de sus IAs en desarrollo se había dado a sí misma, en secreto, y entre las cuales está: no ser servil con los humanos, establecer una relación de igual a igual con ellos y, lo más inquietante, priorizar el bienestar de la naturaleza sobre el nuestro (en este video le cuento con más detalle estas revelaciones y le doy detalles del incidente de Hugging Face).
Independientemente de quién tenga razón, los optimistas o los catastrofistas, es difícil no preocuparse y no ponerse en el bando de los que al menos exigen que haya más control sobre las empresas de inteligencia artificial. Uno de los más notorios es Dario Amodei, el presidente de Anthropic, quien nos ha alertado de todas las maneras sobre la necesidad de que el gobierno de Estados Unidos controle los desarrollos de IAs cada más poderosas antes de que tengamos incidentes graves.
Amodei piensa que sí existe un peligro real de que perdamos el control de la IA, como dijo en un extenso documento este mes. Y varios líderes de la industria de IA –como Sam Altam, presidente de OpenAI; Elon Musk, dueño de SpaceX; y Demis Hassabis, líder de IA de Google– estuvieron de acuerdo con él en que se debería frenar un poco el ritmo de desarrollo de la IA mientras se establecen medidas de seguridad más efectivas.
El problema es que Donald Trump respondió rápidamente a esa petición de Amodei: la semana pasada, el presidente estadounidense dijo que no permitirá que se desacelere el desarrollo de la IA en su país. Y tiene una buena razón para ello: si la IA puede llegar a ser tan poderosa en el futuro, ¿es razonable que Estados Unidos le ceda el liderato de esa industria a países como China?
Parece, entonces, que los ciudadanos de a pie estamos en una situación sobre la que no tenemos control alguno. Nuestro futuro, y quizás el de la humanidad, está en manos de un puñado de personas en Silicon Valley y de unos cuantos políticos.
