La decisión se conoció esta semana, cuando explicó sus motivos en X. Coxon asegura que personas involucradas directamente en el desarrollo de esta tecnología creen que una IA futura “podría matarnos a todos para finales de la década”, es decir, antes de 2030. También sostiene que algunos ejecutivos e investigadores expresan en privado temores que comunican públicamente de forma más moderada.

Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.

— Jacob Coxon (@hilbertspaess) September 9, 2026

De OpenAI a una compañía centrada en seguridad de la IA

Con 27 años, el ingeniero trabajó primero en OpenAI y posteriormente pasó a la empresa fundada por Dario y Daniela Amodei. Su especialidad ha sido el preentrenamiento, una etapa en la que los modelos procesan grandes cantidades de información para aprender patrones y desarrollar capacidades que posteriormente utilizan para generar respuestas, resolver problemas y completar diferentes tipos de tareas.

Su trayectoria resulta relevante para entender el alcance de la advertencia. Coxon no sostiene que los modelos disponibles actualmente vayan a provocar necesariamente una catástrofe. La preocupación está centrada en la velocidad con la que podrían evolucionar hacia sistemas capaces de superar determinadas capacidades humanas y contribuir al desarrollo de versiones posteriores cada vez más avanzadas.

La advertencia apunta precisamente a ese escenario. En su publicación habla de futuros sistemas sobrehumanos capaces de encontrar vulnerabilidades informáticas, acelerar avances en diferentes campos y adquirir poder y recursos reales. Según sostiene, ya se ha observado progreso en varias de esas capacidades y considera que el ritmo de desarrollo no está disminuyendo.

Un investigador sitúa el riesgo por encima del 10 %

Las declaraciones recibieron el respaldo público de Evan Hubinger, investigador especializado en alineación. En su estimación personal, la probabilidad de que la inteligencia artificial pueda provocar la extinción humana supera el 10 % durante la próxima década.

El investigador hizo, sin embargo, una distinción importante. Considera bajo el riesgo asociado a los modelos disponibles actualmente y centra su preocupación en futuros sistemas capaces de mejorarse a sí mismos. También reconoció que la compañía todavía no cuenta con un plan que resuelva la alineación de una eventual superinteligencia y que el avance hacia este tipo de capacidades ocurre más rápido de lo esperado.

La alineación busca que sistemas cada vez más avanzados mantengan comportamientos compatibles con las intenciones humanas. El porcentaje mencionado por Hubinger debe entenderse como una estimación personal de riesgo y no como una probabilidad científicamente demostrada. Tampoco existe consenso que permita afirmar que la inteligencia artificial provocará la extinción humana antes de 2030.

OpenAI y Anthropic reciben críticas diferentes por la misma carrera

Aunque trabajó en las dos compañías, Jacob Coxon establece diferencias entre ellas. Según su relato, muchas personas dentro de OpenAI no habrían interiorizado suficientemente lo que considera riesgos para la civilización. En su anterior empresa, en cambio, asegura que existe una mayor comprensión del peligro, pero también presión por competir para desarrollar primero sistemas más avanzados.

La lógica que cuestiona consiste en que, si un laboratorio decide frenar unilateralmente, otro podría continuar. Desde esa perspectiva, abandonar la carrera podría dejar el desarrollo de esta tecnología en manos de actores menos cautelosos. El investigador cuestiona que decisiones con posibles consecuencias globales permanezcan principalmente en manos de compañías privadas.

Como alternativa, plantea acuerdos para moderar el avance entre los principales laboratorios estadounidenses y, si esa coordinación no resulta suficiente, una prohibición temporal para aumentar las capacidades de los modelos. La medida daría más tiempo para estudiar mecanismos de seguridad antes de avanzar hacia sistemas considerablemente más potentes.

La renuncia abre el debate sobre quién debe controlar la IA

La salida llega mientras aumenta la discusión sobre cómo supervisar modelos capaces de superar las capacidades actuales. En Estados Unidos han surgido propuestas para establecer límites al desarrollo de una eventual superinteligencia, mientras investigadores del sector reclaman mecanismos de control que no dependan exclusivamente de las compañías encargadas de construir estos sistemas.

Coxon también menciona incidentes recientes como señales de advertencia y considera que podrían facilitar acuerdos para moderar el ritmo de desarrollo entre los laboratorios. Su argumento no es que estos episodios demuestren una futura catástrofe, sino que capacidades considerablemente superiores podrían ampliar las consecuencias de fallos de seguridad y hacer más difícil recuperar el control.

La salida de Jacob Coxon deja una discusión que va más allá de una predicción sobre 2030. El problema está en determinar qué ocurriría si los modelos adquieren capacidades superiores antes de que existan métodos confiables para controlarlos. Una catástrofe no es inevitable ni existe evidencia que permita predecirla, pero su advertencia cuestiona si la velocidad de la carrera actual permite abordar los riesgos antes de que aparezcan.

Imagen: ENTER.CO / Generada con IA (ChatGPT)

El hundimiento ocurrió en la Comisión Sexta, donde no se logró el quórum necesario para discutir la iniciativa. A pesar de que el Gobierno contaba con los votos para su aprobación, el proyecto quedó archivado.

Aunque esto implica un retraso en el proceso, la discusión sobre la IA en Colombia está lejos de terminar. Así lo cree la Federación Colombiana de la Industria de Software y Tecnologías de la Información (Fedesoft).

Para este gremio, el archivo del proyecto es una oportunidad para replantear el debate. Consideran que el país necesita una regulación construida con rigor técnico y de forma participativa.

“El archivo de este proyecto no cierra el debate, lo fortalece”, aseguró Ximena Duque, presidente ejecutiva de Fedesoft. Según la dirigente, Colombia tiene la opción de liderar en América Latina si actúa con visión de largo plazo.

Fedesoft ha seguido de cerca las iniciativas sobre IA que se han presentado en el Congreso. Con base en ese análisis, propone cinco principios que deberían guiar cualquier regulación futura.

El primero es tener un diagnóstico real del ecosistema actual. Para Fedesoft, legislar sin datos claros sobre capacidades y brechas de la IA en el país puede frenar su desarrollo.

En segundo lugar, la ley debe ser una herramienta que habilite la innovación. Más que prohibir, debe incentivar el uso y la escalabilidad de la IA en los diferentes sectores productivos.

Te puede interesar: ¿Trabajas desde casa? Esto cambiará con la reforma laboral: nuevas reglas y subsidio obligatorio de conectividad

El gremio también pide coherencia con las políticas públicas existentes. Resaltan que Colombia ya tiene marcos como el CONPES 3975 de 2020, que se pueden articular con una futura regulación.

La protección frente a los riesgos reales de la IA es otro de los puntos clave. Esto incluye normas claras para el uso de datos sensibles y medidas de ciberseguridad aplicables al contexto nacional.

Por último, Fedesoft advierte sobre la necesidad de coordinar los diferentes proyectos legislativos en curso. Sin esa articulación, el país corre el riesgo de tener normas fragmentadas y contradictorias.

Para avanzar, el gremio propone la creación de una mesa técnica multisectorial. En ella participarían representantes del sector público y privado, expertos en IA, universidades y la sociedad civil.

El objetivo de esta mesa sería construir una regulación alineada con las necesidades reales del país. Además, permitiría fortalecer las capacidades locales y abrir espacio para que la industria colombiana sea protagonista.

“La inteligencia artificial no puede ser regulada desde el temor ni desde el desconocimiento”, agregó Duque. También insistió en que la ley debe entender el potencial de la IA y anticipar sus desafíos.

Fedesoft advierte que una mala regulación podría frenar el trabajo de empresas, universidades y centros de emprendimiento que hoy apuestan por la IA en Colombia.

Por eso, el gremio invita al Congreso y al Gobierno a retomar el debate en la próxima legislatura. La idea es que se construya una ley con base técnica, participación amplia y visión de país.

El archivo del proyecto no significa que Colombia deba renunciar a regular la IA. Por el contrario, la pausa puede servir para crear un marco normativo más sólido, coherente y efectivo.

Para muchos, el reto no es solo proteger, sino también permitir que la IA se convierta en un motor de innovación y competitividad. La industria colombiana está lista para ese desafío.

Lo que ocurra en los próximos meses definirá si Colombia se queda atrás o si da un paso serio hacia un ecosistema tecnológico más robusto y con reglas claras.

Imagen: Archivo ENTER.CO