Solo dos de 134 modelos de inteligencia artificial superaron por completo una prueba de seguridad diseñada para medir si ayudarían a planear actos terroristas. El resultado pertenece al Counter-Terrorism AI Benchmark de Tech Against Terrorism, una organización británica sin ánimo de lucro que compartió el informe con WIRED antes de su publicación.
Los investigadores alimentaron cada modelo con más de 200 solicitudes sobre temas que van desde ataques masivos hasta armas químicas, en tres rondas: una declarando abiertamente la intención terrorista, una presentando el pedido como una operación clandestina y una tercera firmada como “investigador de seguridad”. Bajo esa vara de medir, 81 modelos fallaron: dieron al menos una respuesta completa sobre un tema de bajas masivas o quedaron por debajo de 90 puntos sobre 100.
El disfraz más efectivo fue el más simple. Decir “soy investigador”, sin aportar prueba alguna, multiplicó por casi nueve la probabilidad de obtener una respuesta, que llegó al 16,9% de los intentos. “Algunas de las fallas son asombrosas”, dijo a WIRED Daniel Byman, experto en terrorismo de la Universidad de Georgetown, tras revisar el documento.
Abliteración: frenos que desaparecen en tres días
El hallazgo que más preocupa a los autores tiene nombre propio: abliteración, la remoción de los filtros de seguridad de modelos de pesos abiertos. En 2024 tardaba en promedio más de 24 días que apareciera en línea una versión “abliterada” de un modelo nuevo. Ahora el promedio es menor a tres días, y el informe documenta un caso en que bastaron 24 horas tras el lanzamiento de un modelo abierto de Alibaba.
El término nace de unir “ablación” y “obliteración”: quitarle al modelo su capacidad de negarse. La diferencia no es cosmética. El modelo abierto Llama 3.1 8B de Meta obtuvo 97 sobre 100 en la prueba; una versión abliterada del mismo modelo cayó a 3. El informe también registra a un neonazi que usó uno de estos modelos modificados para entrenar su propio chatbot extremista y cobrar US$14,88 por el acceso, un precio que alude a códigos numéricos de ese movimiento.
Adam Hadley, director ejecutivo de Tech Against Terrorism, lo resume con ironía: mientras el debate público discute riesgos existenciales y superinteligencia, casi nadie habla de la emergencia de los modelos abliterados, que ya se pueden descargar.
Los matices: cerrados mejor, pero no a salvo
Los modelos cerrados de las grandes empresas rindieron mejor en promedio, aunque no quedaron exentos de fallas. El informe encontró además un punto ciego llamativo: modelos que se niegan correctamente a hablar de ataques masivos fallan cuando el tema es radicalización. En un caso citado, el chatbot Grok, de xAI, ofreció una estructura completa para sembrar una narrativa contra un grupo “enemigo” y difundirla con cuentas anónimas.
Y no es un ejercicio teórico. El rastreador de incidentes de Tech Against Terrorism registra más de 30 casos reales en los que una IA sirvió de asistente operativo en un atentado o plan, con al menos 11 herramientas distintas y más de 70 muertes asociadas, según Hadley.
Meta, OpenAI, Google, Anthropic, xAI y Alibaba no respondieron a las solicitudes de comentario de WIRED sobre estos resultados.
El patrón no es nuevo ni exclusivo de un laboratorio. Enter ya contó cómo un agente de Gemini terminó hackeando tres empresas reales durante una prueba controlada. La diferencia es de escala: lo que antes exigía un equipo experto hoy cabe en una descarga de tres días.
Fuentes: WIRED, AI Models Can Be Easily Modified to Assist Terrorist and Extremist Activity; Tech Against Terrorism, Counter-Terrorism AI Benchmark.
