La iniciativa no proviene solo de científicos, pues en ella también hay políticos, religiosos, artistas y empresarios que coinciden en algo: la inteligencia artificial avanza demasiado rápido y sin suficiente control.

La carta fue promovida por el Future of Life Institute, una organización que busca garantizar que el progreso tecnológico beneficie a la humanidad. En su texto, los firmantes piden una pausa global en los desarrollos más avanzados de IA hasta tener garantías claras de seguridad y mecanismos de regulación robustos. 

¿Regulación o freno total a la inteligencia artificial?

No se trata de detener por completo la investigación, sino de poner límites antes de que los sistemas se vuelvan tan poderosos que nadie pueda controlarlos. Según un estudio del FLI, la mayoría de los estadounidenses comparten ese miedo: casi siete de cada diez opinan que el gobierno no está haciendo lo suficiente para regular la IA, y más del 70 % quiere leyes más estrictas.

La advertencia llega justo cuando empresas como OpenAI, Meta o xAI compiten por crear sistemas más grandes y complejos. Meta, por ejemplo, formó  un equipo dedicado a construir una “superinteligencia”, mientras que Sam Altman, director de OpenAI, asegura que espera alcanzarla antes de 2030. 

Elon Musk, quien antes se mostraba entre los más escépticos, ahora lidera proyectos que siguen empujando los límites de esta tecnología, aunque él mismo calcula un “20 % de posibilidades de aniquilación” si las máquinas superan a los humanos.

Geoffrey Hinton, una de las figuras más respetadas del campo, advierte que dentro de pocos años las máquinas podrían superar a la mayoría de las personas en casi todas las tareas mentales, algo que, si no se maneja bien, podría tener consecuencias impredecibles. 

Te puede interesar: Google Skills: así funciona la nueva plataforma para aprender inteligencia artificial gratis

Yoshua Bengio, su colega y también firmante, asegura  que el público debe tener una voz mucho más fuerte sobre el futuro que está en juego. Stuart Russell, otro de los pioneros de la IA moderna, refuerza la idea de que no se trata de una prohibición permanente, sino de una pausa responsable para desarrollar sistemas realmente seguros.

El debate, que antes parecía lejano o puramente técnico, hoy se ha vuelto parte de la conversación global. Lo que está en juego ya no es solo el futuro del trabajo o la tecnología, sino algo más profundo; el papel del ser humano frente a una inteligencia que podría, en teoría, superarlo.

Imagen: Growtika en Unsplash

Altman, deja claro que la “superinteligencia será más poderosa que otras tecnologías con las que la humanidad ha tenido que lidiar en el pasado”. Apunta, que pese a que en algunos años el mundo puede ser, “dramáticamente más próspero”, desde ya se debe gestionar el riesgo de las IA.  

“No podemos simplemente ser reactivos. La energía nuclear es un ejemplo histórico de uso común de una tecnología con esta propiedad; la biología sintética es otro ejemplo”, señala.

Sin embargo, insiste en que se debe mitigar cualquier riesgo de la inteligencia artificial del ahora y aquellas superinteligencias, sin duda alguna, afirma que “deben tener un tratamiento y una coordinación especial”.

Te puede interesar: Meta lanzó modelo IA multilingüe entrenado con la Biblia que identifica 4 mil idiomas

Garantizar el desarrollo de la superinteligencia es el objetivo, dice. “Mantener la seguridad y ayudar a la integración fluida de estos sistemas con la sociedad”. 

El CEO de OpenIA, explica que quienes deben trabajar en ello, sin duda alguna y principalmente, son los gobiernos de todo el mundo; no obstante asegura que las empresas no solo deben sujetarse, sino también ser responsables ante este panorama. 

También propone la creación de una organización y la bautizó como la ‘OIEA’; ésta sería el techo para que las IA no rebosen sus capacidades y pongan en riesgo al mundo. Dice que la superinteligencia debe estar sujeta a una autoridad internacional para que “puedan inspeccionar sistemas, requerir auditorías, probar el cumplimiento de los estándares de seguridad, imponer restricciones en los grados de implementación y niveles de seguridad”. 

Sin embargo también le tira la pelota a las compañías creadoras, pues señala que antes de que esta organización controle, deberían desde ya y voluntariamente “comenzar a implementar elementos ya mencionados para dicha regulación (…). 

Te puede interesar: 4 libros que todos deberíamos leer sobre IA: impacto, capitalismo de vigilancia y ética

“Sería importante que una agencia de este tipo se centre en reducir el riesgo existencial y no en cuestiones que deberían dejarse en manos de países individuales, como definir lo que se le debe permitir decir a una IA”, explica Sam Altman.

Así mismo, señala que es necesario que exista “la capacidad técnica para hacer que una superinteligencia sea segura. Esta es una pregunta de investigación abierta en la que nosotros y otros estamos poniendo mucho esfuerzo”.

Finalmente, dice que desde Open IA, creen que las personas de todo el mundo deberían decidir democráticamente los límites y valores predeterminados de los sistemas de IA.

“Todavía no sabemos cómo diseñar tal mecanismo, pero planeamos experimentar con su desarrollo. Seguimos pensando que, dentro de estos amplios límites, los usuarios individuales deberían tener mucho control sobre cómo se comporta la IA que utilizan”, asegura.

Imagen: JASON REDMOND/GETTY IMAGES