Detrás de la discusión estaban los límites incorporados a Claude y la posibilidad de que rechazara una función en medio de una operación sensible. Para el Departamento de Defensa de Estados Unidos, ese escenario podía convertirse en un problema si el sistema se negaba a ejecutar una tarea considerada legal y necesaria.

Claude y la captura de Maduro quedaron bajo la lupa

Todo escaló cuando un ejecutivo de Anthropic cuestionó si era apropiado el uso que un contratista hacía de Claude durante una operación militar sensible en el extranjero. Para el Departamento de Defensa, esa actividad estaba permitida por las condiciones vigentes. La objeción abrió una discusión sobre la posibilidad de que las restricciones del modelo interfirieran con una misión.

Según la sentencia, aquella operación no aparece identificada directamente como la captura del dirigente venezolano. Anthropic incorporó al expediente reportes que relacionaban sus preocupaciones con Palantir y con el papel de su tecnología en la acción militar del 3 de enero. Atribuir a Claude tareas como localizar a Maduro, identificar amenazas o planificar la extracción iría más allá de lo demostrado por la documentación judicial.

Otro punto de la disputa era la capacidad real de Anthropic para intervenir sobre el sistema. La compañía explicó que no puede acceder, modificar ni apagar un modelo después de entregarlo para instalarlo en entornos clasificados. Las restricciones dependen principalmente del entrenamiento y la configuración de las nuevas versiones suministradas.

El temor era que la IA rechazara una tarea durante la misión

Desde 2024, el Departamento de Defensa y la comunidad de inteligencia estadounidense utilizaban modelos de Claude en sistemas clasificados. Las primeras versiones comerciales rechazaron solicitudes relacionadas con evaluaciones de amenazas, documentos secretos y traducciones de material interceptado que describía hechos violentos.

Para responder a esas dificultades, Anthropic desarrolló Claude Gov para agencias de seguridad nacional. Después amplió los usos autorizados e incluyó análisis de inteligencia extranjera, diseño de sistemas de armas y operaciones cibernéticas ofensivas. Mantuvo dos restricciones: el empleo en armas letales completamente autónomas y la vigilancia masiva de estadounidenses.

Esos antecedentes alimentaron las dudas sobre el uso de Claude durante la operación para capturar a Maduro. Según el expediente, funcionarios temían que el sistema pudiera negarse a ejecutar una función considerada legal y necesaria por el Pentágono. No está claro qué ocurrió durante el episodio. Un funcionario gubernamental lo describió como cercano a un desastre, mientras Dario Amodei, director ejecutivo de Anthropic, sostuvo que se trató de un malentendido.

El conflicto terminó sacando a Anthropic de los sistemas militares

Las diferencias aumentaron cuando el Departamento de Defensa exigió autorización contractual para utilizar Claude en cualquier actividad legal. Anthropic se negó a retirar las dos restricciones que mantenía. El 3 de marzo, el secretario de Defensa, Pete Hegseth, determinó que conservar los modelos de la compañía dentro de los sistemas del Departamento representaba un riesgo para la cadena de suministro.

Ante los tribunales, un panel de tres jueces del Tribunal de Apelaciones del Distrito de Columbia resolvió por dos votos contra uno que el Departamento tenía suficiente respaldo para excluir a Anthropic de su infraestructura. La jueza Karen LeCraft Henderson discrepó de la interpretación de la mayoría sobre el alcance de la legislación empleada para justificar la medida.

Tras ordenar la retirada de los productos de Anthropic, Defensa amplió su relación contractual con OpenAI. La sentencia también recoge que Amodei cuestionó si el Departamento, OpenAI y Palantir habían establecido protocolos de seguridad suficientes para utilizar inteligencia artificial con fines militares.

Otro proceso judicial en California produjo una decisión favorable a Anthropic sobre una designación distinta. Se trata de una controversia jurídica diferente.

La disputa plantea una cuestión que supera la operación del 3 de enero. ¿Quién establece los límites de una inteligencia artificial integrada en infraestructura de defensa, la empresa que desarrolla el modelo o la institución que lo utiliza? En este proceso, el tribunal respaldó la facultad del Departamento para excluir a un proveedor cuando considera que sus restricciones pueden interferir con funciones de seguridad nacional.

Imagen: ENTER.CO / Generada con IA (ChatGPT)

Horas después, el gobierno estadounidense admitió lo impensable: Johan no era el objetivo del operativo. Tenía permiso de trabajo, un número de Seguro Social válido y ninguna orden de deportación.

¿Cómo termina un comando táctico federal interceptando el vehículo equivocado y disparando contra un civil inocente? La respuesta no estaría únicamente en un error humano, sino también en una arquitectura de vigilancia predictiva, algoritmos de rastreo y bases de datos automatizadas financiadas por gigantes de Silicon Valley. Lo relevante es que tecnologías de este tipo también hacen parte del debate sobre seguridad e inteligencia que hoy se desarrolla en Colombia.

¿Cómo ocurrió la muerte de Johan Sebastian Guerrero durante un operativo de ICE?

El operativo contra Guerrero no comenzó con un detective en la calle, sino con una alerta en un tablero de software. ICE opera lo que defensores de la privacidad denominan una “máquina de deportación”: un ecosistema que automatiza la búsqueda de inmigrantes mediante el cruce de miles de millones de puntos de datos.

En este caso, la cadena de errores tecnológicos apunta a tres vectores principales:

Puntajes de confianza geográfica (Palantir). ICE utiliza sistemas como ELITE (Enhanced Leads Identification & Targeting for Enforcement) o ImmigrationOS, desarrollados por Palantir Technologies, para asignar una calificación de probabilidad a las direcciones físicas. Si un objetivo de deportación utilizó una dirección en el pasado o un broker de datos relacionó erróneamente un recibo de servicios públicos con ese inmueble, el algoritmo puede etiquetar la vivienda como una “zona de alto valor”. Cualquier persona que salga de allí, como ocurrió con Johan, hereda automáticamente la presunción de culpabilidad algorítmica.

Datos erróneos de los data brokers. Empresas como LexisNexis y Thomson Reuters venden a ICE perfiles construidos con registros públicos y privados sin necesidad de una orden judicial. En bases de datos de semejante tamaño, los falsos positivos derivados de homónimos, direcciones desactualizadas o registros incorrectos son frecuentes.

Cámaras LPR de “gatillo fácil” (Flock Safety). Las redes de cámaras de lectura automática de placas (ALPR), apoyadas en inteligencia artificial, rastrean el movimiento vehicular en tiempo real. Cuando los agentes vigilan un punto identificado como prioritario por el software, puede presentarse el llamado sesgo de automatización: asumir que el vehículo que abandona el lugar corresponde al objetivo buscado, desencadenando una intervención táctica antes de verificar la identidad del conductor mediante otros mecanismos, como el reconocimiento facial.

Silicon Valley y las empresas detrás de la tecnología de ICE

Detrás de este ecosistema no solo hay agencias gubernamentales, sino también algunas de las firmas de capital de riesgo más influyentes del mundo. Las herramientas utilizadas por ICE cuentan con el respaldo de inversionistas que han convertido la vigilancia fronteriza, la seguridad y la inteligencia artificial en un negocio multimillonario.

Founders Fund (Peter Thiel). El fondo del empresario Peter Thiel es uno de los principales inversionistas de la tecnología de defensa estadounidense. Ha financiado compañías como Palantir, Flock Safety, Anduril y fue uno de los primeros en respaldar a Clearview AI, especializada en reconocimiento facial.

Andreessen Horowitz (a16z). Bajo su estrategia de “American Dynamism”, a16z ha invertido cientos de millones de dólares en startups que desarrollan tecnología para seguridad nacional, defensa e infraestructura gubernamental, entre ellas Anduril y Flock Safety.

Capital de riesgo global y private equity. Firmas como AE Industrial Partners, propietarios de Paragon Solutions —empresa dedicada al desarrollo de software de espionaje telefónico utilizado por ICE—, también participan en un mercado que mueve miles de millones de dólares alrededor de la vigilancia fronteriza y urbana.

Colombia también estudia este tipo de tecnología

La ironía del caso de Johan Sebastian Guerrero es que el mismo ecosistema tecnológico que hoy está bajo escrutinio en Estados Unidos también ha entrado en la discusión pública en Colombia.

El presidente electo, Abelardo De la Espriella, ha puesto en el centro del debate la posibilidad de contratar los servicios de Palantir Technologies para centralizar las bases de datos ciudadanas, gestionar la seguridad nacional y combatir el crimen mediante herramientas de inteligencia artificial y Big Data. La propuesta ha reabierto la discusión sobre los beneficios y riesgos de entregar parte de la infraestructura de datos del Estado a plataformas relacionadas con inteligencia extranjera.

Además, las instituciones colombianas ya utilizan herramientas pertenecientes a este ecosistema tecnológico. La Fiscalía General de la Nación, a través de su Grupo de Informática Forense, emplea activamente la tecnología de Cellebrite para la extracción de información contenida en dispositivos móviles dentro de investigaciones criminales. Se trata de otra de las herramientas utilizadas por ICE en sus procesos investigativos.

Un debate que Colombia no puede aplazar

El asesinato de Johan Sebastian Guerrero no puede analizarse únicamente como un caso de brutalidad policial. También abre la discusión sobre los riesgos de los falsos positivos algorítmicos. Cuando la inteligencia artificial participa en tareas de investigación, perfilamiento y priorización de objetivos, los errores de los sistemas automatizados pueden traducirse en decisiones con consecuencias irreversibles.

Mientras Colombia debate la incorporación de soluciones de inteligencia artificial desarrolladas en Silicon Valley para fortalecer la seguridad, la muerte de este bumangués en las calles de Maine debería servir como una advertencia: delegar parte de la toma de decisiones en algoritmos y brokers de datos exige mecanismos de supervisión, transparencia y rendición de cuentas. La pregunta de fondo sigue siendo la misma: ¿qué controles deben existir cuando estas tecnologías participan en decisiones que pueden comprometer la vida de una persona?

Imagen: Generada por ENTER.CO con IA (ChatGPT)