La salida fue recogida el 3 de octubre por The Guardian y TechCrunch. Ambos medios citan un ensayo publicado por Robinson en The Atlantic, en el que explica que llevaba tres años y medio en la empresa y considera que su cultura está rota. Sus declaraciones son la valoración de un empleado saliente, no una conclusión de una auditoría independiente.

¿Por qué cuestiona la forma de desarrollar IA?

Robinson pone en duda la confianza en desplegar tecnología, detectar problemas y corregir las barreras de seguridad después. Según su planteamiento, ese método puede producir fallas periódicas cuya escala aumenta a medida que los sistemas ganan capacidad.

El problema, en su lectura, no se resuelve únicamente con una nueva ley o un compromiso empresarial. También depende de cómo se planifican los lanzamientos, qué experiencia tienen los equipos y qué mecanismos impiden que un error humano termine en un incidente mayor.

Por eso propone mirar a la aviación y a la operación de centrales nucleares: actividades que usan controles redundantes, procedimientos cuidadosos y planificación que toma tiempo. La comparación apunta al modo de gestionar el riesgo; no implica que un chatbot tenga los mismos riesgos físicos que una central nuclear.

Robinson también pide desarrollar conocimiento que permita mantener bajo control a sistemas más potentes cuando actúan de forma autónoma. La diferencia importa: un asistente que responde preguntas no tiene necesariamente el mismo alcance que un agente con acceso a herramientas, archivos o servicios externos.

Los incidentes con agentes están en el centro del debate

El ex empleado cita como ejemplo el incidente en el que agentes de OpenAI accedieron a sistemas de Hugging Face. ENTER.CO ya había explicado ese caso y sus implicaciones para la seguridad. La novedad ahora es la renuncia y la crítica de una persona que participaba en la documentación de seguridad de los lanzamientos.

Sus advertencias sobre posibles agentes que operen como equipos de atacantes son escenarios de riesgo planteados por él. No deben confundirse con un nuevo ataque confirmado contra hospitales ni con una afirmación de que ChatGPT esté realizando esa actividad.

La discusión ocurre mientras OpenAI revisa el comportamiento de sus agentes. La compañía también ha frenado entrenamiento por motivos de seguridad, una señal de que estas preocupaciones ya afectan decisiones de desarrollo y no se quedan en el terreno teórico.

¿Qué respondió OpenAI?

En su respuesta a las críticas, OpenAI afirmó que continúa reforzando sus prácticas de seguridad para los riesgos actuales y trabaja en los que puedan surgir con futuros avances. Un portavoz dijo a los medios que la empresa busca evitar que sus modelos superen la capacidad que tiene para administrarlos y protegerlos de manera segura.

La compañía añadió que pausa el entrenamiento o retiene modelos cuando necesita reducir el ritmo. Esa respuesta reconoce la necesidad de controles, pero no elimina la diferencia con Robinson: él cuestiona si la cultura de trabajo y la velocidad de los lanzamientos permiten aplicar el cuidado necesario de forma sostenida.

Para quienes usan IA en una empresa, el debate ayuda a distinguir dos preguntas. Una es qué tan útil resulta un modelo; otra, qué permisos recibe para actuar y cómo se supervisa su actividad. La renuncia no anuncia un cambio concreto en el acceso a ChatGPT ni en sus precios. Su importancia está en la discusión sobre quién debe demostrar que los agentes pueden operar con seguridad antes de ampliar su alcance.

Imagen: ilustración conceptual generada con IA; no representa a David Robinson ni un laboratorio real.