Detrás de la discusión estaban los límites incorporados a Claude y la posibilidad de que rechazara una función en medio de una operación sensible. Para el Departamento de Defensa de Estados Unidos, ese escenario podía convertirse en un problema si el sistema se negaba a ejecutar una tarea considerada legal y necesaria.

Claude y la captura de Maduro quedaron bajo la lupa

Todo escaló cuando un ejecutivo de Anthropic cuestionó si era apropiado el uso que un contratista hacía de Claude durante una operación militar sensible en el extranjero. Para el Departamento de Defensa, esa actividad estaba permitida por las condiciones vigentes. La objeción abrió una discusión sobre la posibilidad de que las restricciones del modelo interfirieran con una misión.

Según la sentencia, aquella operación no aparece identificada directamente como la captura del dirigente venezolano. Anthropic incorporó al expediente reportes que relacionaban sus preocupaciones con Palantir y con el papel de su tecnología en la acción militar del 3 de enero. Atribuir a Claude tareas como localizar a Maduro, identificar amenazas o planificar la extracción iría más allá de lo demostrado por la documentación judicial.

Otro punto de la disputa era la capacidad real de Anthropic para intervenir sobre el sistema. La compañía explicó que no puede acceder, modificar ni apagar un modelo después de entregarlo para instalarlo en entornos clasificados. Las restricciones dependen principalmente del entrenamiento y la configuración de las nuevas versiones suministradas.

El temor era que la IA rechazara una tarea durante la misión

Desde 2024, el Departamento de Defensa y la comunidad de inteligencia estadounidense utilizaban modelos de Claude en sistemas clasificados. Las primeras versiones comerciales rechazaron solicitudes relacionadas con evaluaciones de amenazas, documentos secretos y traducciones de material interceptado que describía hechos violentos.

Para responder a esas dificultades, Anthropic desarrolló Claude Gov para agencias de seguridad nacional. Después amplió los usos autorizados e incluyó análisis de inteligencia extranjera, diseño de sistemas de armas y operaciones cibernéticas ofensivas. Mantuvo dos restricciones: el empleo en armas letales completamente autónomas y la vigilancia masiva de estadounidenses.

Esos antecedentes alimentaron las dudas sobre el uso de Claude durante la operación para capturar a Maduro. Según el expediente, funcionarios temían que el sistema pudiera negarse a ejecutar una función considerada legal y necesaria por el Pentágono. No está claro qué ocurrió durante el episodio. Un funcionario gubernamental lo describió como cercano a un desastre, mientras Dario Amodei, director ejecutivo de Anthropic, sostuvo que se trató de un malentendido.

El conflicto terminó sacando a Anthropic de los sistemas militares

Las diferencias aumentaron cuando el Departamento de Defensa exigió autorización contractual para utilizar Claude en cualquier actividad legal. Anthropic se negó a retirar las dos restricciones que mantenía. El 3 de marzo, el secretario de Defensa, Pete Hegseth, determinó que conservar los modelos de la compañía dentro de los sistemas del Departamento representaba un riesgo para la cadena de suministro.

Ante los tribunales, un panel de tres jueces del Tribunal de Apelaciones del Distrito de Columbia resolvió por dos votos contra uno que el Departamento tenía suficiente respaldo para excluir a Anthropic de su infraestructura. La jueza Karen LeCraft Henderson discrepó de la interpretación de la mayoría sobre el alcance de la legislación empleada para justificar la medida.

Tras ordenar la retirada de los productos de Anthropic, Defensa amplió su relación contractual con OpenAI. La sentencia también recoge que Amodei cuestionó si el Departamento, OpenAI y Palantir habían establecido protocolos de seguridad suficientes para utilizar inteligencia artificial con fines militares.

Otro proceso judicial en California produjo una decisión favorable a Anthropic sobre una designación distinta. Se trata de una controversia jurídica diferente.

La disputa plantea una cuestión que supera la operación del 3 de enero. ¿Quién establece los límites de una inteligencia artificial integrada en infraestructura de defensa, la empresa que desarrolla el modelo o la institución que lo utiliza? En este proceso, el tribunal respaldó la facultad del Departamento para excluir a un proveedor cuando considera que sus restricciones pueden interferir con funciones de seguridad nacional.

Imagen: ENTER.CO / Generada con IA (ChatGPT)

El Departamento de Defensa de Estados Unidos anunció en un comunicado el miércoles que dará un premio a hackers preparados que logren acceder a las redes de esa entidad, como informó Cnet. El proyecto, llamado Hackea al Pentágono, es el primer intento de búsqueda de ‘cazarrecompenzas cibernéticos’ que ha implementado el gobierno de ese país.

Este tipo de recompensas las suelen ofrecer empresas privadas con el fin de detectar falencias en los sistemas de seguridad de sus sitios web o servicios en línea. Por ejemplo, Facebook dio 936.000 dólares a un grupo de 210 investigadores que descubrieron en 2015  ‘bugs’ en la red social, según Cnet.

El piloto de este concurso será lanzado en abril, cuando también se darán las condiciones de la competencia y el premio que recibirán los ganadores. Este, dicen las autoridades estadounidenses, no será el único proyecto que hará parte del programa que busca eliminar las debilidades de las aplicaciones, redes y sitios web del Departamento de Defensa.

Los ‘hackers’ o investigadores que deseen competir deben registrarse y someterse a revisión de antecedentes penales y laborales. Además el programa estará limitado a ciertos sitios web. Aquellas redes o sistemas que hacen parte de investigaciones críticas están fuera del concurso.

El Departamento de Defensa quizá está reaccionando a los diversos ataques de los que ha sido víctima en el último año.  En agosto de 2015, el Pentágono sufrió un ciberataque por el que fue culpado un grupo de hackers rusos. Durante este ataque, se bloqueó el sistema de correos del ‘Joint Staff’, un cuerpo especial del Departamento de Defensa, lo cual afectó a 4.000 militares. Y en junio del año pasado el gobierno de Estados Unidos también sufrió un ataque por parte de hackers chinos, que obtuvieron acceso a documentos delicados sobre más de cuatro millones de empleados y exempleados federales.

Imagen: fireofheart (vía Shutterstock). 

Apple logró que los dispositivos con iOS 6, entre los que se incluye el iPhone 5 y los iPad ‘4’ y mini, sean certificados por el Departamento de Defensa de Estados Unidos como aptos para ser usados bajo sus redes. Así lo decidió la Agencia de Sistemas de Información de Defensa (DISA), según dijo la agencia en un comunicado.

Con esto, los ‘gadgets’ de la manzana se unen al Samsung Galaxy S4 y el BlackBerry Z10, dispositivos ya avalados por el mismo Departamento.

Los empleados del Departamento podrán utilizar iPhone y iPad en las redes internas, pero no podrán usar sus propios dispositivos así estos sean los modelos mencionados anteriormente, según afirma Cnet.

Alana Johnson, portavoz de DISA, dijo a Cnet que “el que hayamos elegido a Apple no significa que vayamos a tener un contrato con esta empresa”. Simplemente se refieren a que ese sistema operativo móvil es aprobado para uso interno.

La única lectura que se le puede dar a esta decisión es que los dispositivos iOS 6 son lo suficientemente seguros como para ser usados bajo las redes del Departamento de Defensa de EE.UU. Bloomberg informa que, a la par, se avanza para que en el transcurso de 2013 se permita el ingreso de 100.000 dispositivos Apple y Samsung Galaxy S4 con Knox para ser usados en el Departamento de Seguridad, además de en la creación de aplicaciones exclusivas de uso privativo.

Según los datos que arroja Cnet, el Departamento de Defensa tiene actualmente más de 600.000 dispositivos móviles comerciales en uso operativo, incluyendo 470.000 BlackBerry, 41.000 dispositivos de Apple y 8.700 dispositivos Android. Como se ve, en el Pentágono aun se prefiere la seguridad que ofrece la firma canadiense.

Research In Motion anunció que el Departamento de Defensa de los Estados Unidos (DoD) aprobó seis modelos de los smartphones BlackBerry 7 para uso interno, reconociendo la seguridad de los dispositivos.

El ejercito y otros entes de defensa ya han usado los teléfonos BlackBerry, pero cada nueva versión requiere un examen antes de que las autoridades aprueben su uso. Es necesario asegurar la infraestructura para garantizar que una fuga de información no ponga en juego la seguridad nacional

Las pruebas realizadas concluyeron que los dispositivos aprobados son:  BlackBerry Bold 9900 y 9930, BlackBerry Torch 9810, 9850, 9860, y el BlackBerry Curve 9360, informó RIM.

Según RIM, el departamento de defensa actualmente usa unos 25.000 smartphones y con eso es el cliente número uno de la compañía. Además, como informó Reuters, el presidente Barack Obama, quien sirve como comandante en jefe de las fuerzas armadas de los EE.UU., utiliza una versión modificada del teléfono inteligente.

El vicepresidente de RIM, Scott Totzke, dijo que la seguridad es crucial para algunos gobiernos y corporaciones. Por eso, durante el año pasado, el ejercito de los Estados Unidos introdujo nuevas aplicaciones y capacidades para sus usuarios de BlackBerry. Asi, su personal puede disfrutar de los más recientes avances como la realidad aumentada, entre otros.

Habrá que esperar la llegada del nuevo sistema operativo, el BlackBerry 10, para ver si la compañía continua con el beneplácito del departamento de defensa.