Terroristas podrían crear armas con IA, advierte China
China ha advertido que la inteligencia artificial podría facilitar que personas aprendan a fabricar armas de destrucción masiva, incluidos misiles nucleares, lo que representa un riesgo real para la seguridad global.
Un documento de gobernanza sobre seguridad de la IA publicado el pasado 15 de septiembre describe el peligro de perder el “control sobre el conocimiento y las capacidades de armas nucleares, biológicas, químicas y misiles”. Según el texto, sin una gestión adecuada, grupos extremistas y terroristas podrían usar técnicas de IA avanzadas para diseñar y fabricar estas armas.
El documento explica que la IA emplea grandes volúmenes de datos y conocimientos teóricos, y advierte sobre el uso de “generación aumentada por recuperación”, una técnica que permite acceder a información actualizada antes de generar respuestas, lo que podría hacer que los sistemas de control existentes resulten ineficaces.
Este marco es una actualización de la Iniciativa Global de Gobernanza de IA de China, elaborado por el Comité Técnico Nacional de Normalización en Ciberseguridad y el Equipo Técnico Nacional de Respuesta a Emergencias en Redes Informáticas, encargado de proteger redes críticas y responder a ciberataques.
El texto también señala que diversas fuerzas armadas, incluida China, están explorando el uso de IA para potenciar a su personal y armamento, y advierte sobre otros riesgos como la adicción de las personas a interactuar con IA de apariencia humana y el impacto de la inteligencia artificial en la educación y la innovación.
“Debemos prevenir estrictamente cualquier riesgo incontrolado que pueda amenazar la supervivencia y el desarrollo de la humanidad, para garantizar que la IA esté siempre bajo control humano”, concluye el documento.
Fuente: SCMP