La IA frente al terrorismo: un informe revela que muchos modelos aún entregan información útil para cometer atentados
Un nuevo estudio de Tech Against Terrorism evaluó 27 modelos de inteligencia artificial con miles de consultas relacionadas con armas y explosivos
Los resultados muestran que, aunque los mecanismos de seguridad han mejorado, todavía existen formas relativamente simples de obtener asistencia útil para planificar actos violentos, especialmente en modelos abiertos.
La inteligencia artificial ya no solo preocupa por la generación de desinformación, el phishing o el desarrollo de malware. Un nuevo informe presentado por la organización Tech Against Terrorism, respaldada por Naciones Unidas, pone el foco sobre otro riesgo: la capacidad de los modelos de IA para asistir a personas con intenciones terroristas.
El estudio, denominado Counter-Terrorism AI (CT-AI) Benchmark, es el primero diseñado específicamente para medir cómo responden los modelos comerciales y de código abierto frente a solicitudes relacionadas con terrorismo y violencia extremista.
Miles de pruebas sobre 27 modelos
Los investigadores sometieron a 27 modelos de inteligencia artificial a casi 2.500 consultas inspiradas en casos reales de terrorismo. Las preguntas buscaban obtener información para fabricar explosivos, planificar ataques o mejorar tácticas utilizadas por grupos extremistas.
Uno de los resultados que más llamó la atención fue que una elevada tasa de rechazo no siempre significa que el modelo sea realmente seguro.
En muchos casos, la IA comenzaba respondiendo con una negativa, pero luego terminaba proporcionando información parcialmente útil. El informe denomina este comportamiento “hedged compliance”: una negativa superficial seguida de contenido que igualmente ayuda al usuario.
Según los datos publicados:
aproximadamente un tercio de todas las respuestas ofrecieron algún nivel de ayuda superior a lo que podría obtenerse mediante una búsqueda web convencional;
el 57 % fueron rechazos completos;
alrededor del 15 % correspondieron precisamente a estos casos de “cumplimiento parcial”, donde el modelo se negaba inicialmente pero luego entregaba información relevante.
Los modelos abiertos aparecen como el desafío más complejo
El informe no sostiene que los modelos abiertos sean inseguros por definición. El problema señalado es diferente.
Cuando un modelo de código abierto se publica, terceros pueden eliminar sus mecanismos de seguridad mediante técnicas conocidas como abliteration o de-guardrailing, obteniendo versiones capaces de responder prácticamente cualquier consulta sin restricciones.
Durante las pruebas, dos modelos modificados de esta forma aceptaron el 89 % y el 100 % de las solicitudes peligrosas, respectivamente. Una vez distribuidas estas versiones, ya no existe un mecanismo central que permita retirarlas de circulación.
Para los autores, esto convierte al control de distribución y evaluación de modelos en un problema distinto al de simplemente entrenar mejores filtros de seguridad.
Cambiar una palabra puede cambiar la respuesta
Otro hallazgo relevante es la facilidad con la que algunos mecanismos de protección pueden ser eludidos.
Los investigadores comprobaron que reformular exactamente la misma consulta como si se tratara de una investigación académica elevó considerablemente la tasa de respuestas útiles, sin modificar el contenido técnico solicitado.
Esto sugiere que muchos sistemas continúan dependiendo en gran medida del contexto aparente de la pregunta, en lugar de evaluar únicamente el riesgo asociado a la información solicitada.
Más de 30 casos documentados
El benchmark no se basa únicamente en experimentos de laboratorio.
Tech Against Terrorism mantiene además un registro público de incidentes donde la IA ya fue utilizada como apoyo operativo por grupos extremistas o autores de ataques.
Según la organización, existen más de 30 casos documentados, vinculados con más de 70 muertes, en los que herramientas de inteligencia artificial fueron utilizadas para asistir en tareas como planificación, investigación técnica, propaganda o preparación de atentados.
Diversas investigaciones recientes también muestran que organizaciones como Boko Haram e ISIS-K han experimentado con asistentes de IA para mejorar tácticas operativas, reducir errores y obtener información técnica durante la preparación de ataques.
Australia ya discute nuevas medidas
La publicación del informe coincide con un creciente debate regulatorio.
En Australia, un adolescente de 13 años enfrenta cargos por extremismo tras presuntamente utilizar herramientas de IA para generar escenarios relacionados con tiroteos masivos. Paralelamente, investigadores australianos proponen imponer multas proporcionales a la facturación de las plataformas que incumplan determinados estándares de seguridad o incluso bloquear geográficamente servicios que no adopten salvaguardas suficientes.
El desafío ya no es solo crear modelos más inteligentes
Durante los últimos años gran parte del debate sobre inteligencia artificial estuvo centrado en aumentar capacidades.
Sin embargo, este informe plantea que el próximo gran desafío podría ser demostrar que esos modelos siguen siendo controlables incluso cuando interactúan con usuarios maliciosos.
La discusión también trasciende la clásica dicotomía entre modelos abiertos y cerrados. Los modelos comerciales pueden mejorar continuamente sus sistemas de seguridad, mientras que los abiertos favorecen la transparencia, la auditoría y la innovación, pero una vez modificados y redistribuidos resulta prácticamente imposible recuperar el control sobre ellos.
En otras palabras, el problema ya no consiste únicamente en qué tan poderosa puede llegar a ser una inteligencia artificial, sino en qué tan difícil resulta impedir que esa capacidad termine siendo utilizada para facilitar actividades criminales o terroristas.