Deepfakes y ejércitos sintéticos: la IA como arma de deformación masiva de la conciencia pública
Un solo operador, con modelos de inteligencia artificial generativa, puede desplegar miles de cuentas en redes sociales que publican contenido indistinguible del de un ciudadano real.
Las robollamadas que suplantaron a Biden, los bots que inundaron X con desinformación y el 80% de las elecciones globales afectadas por IA maliciosa dibujan el mapa de una nueva amenaza para la soberanía digital.
Este es el primer artículo de la serie
El 21 de enero de 2024, miles de votantes de New Hampshire recibieron una llamada automática. Al otro lado del teléfono, la voz del presidente Joe Biden —con su característico “Vaya montón de tonterías”— les instaba a no votar en las primarias del día siguiente. “Votar este martes sólo les facilita a los republicanos su misión para elegir nuevamente a Donald Trump”, decía la grabación. “Guarde su voto para las elecciones de noviembre”.
El problema: Joe Biden nunca hizo esa llamada. Era un deepfake de audio generado por inteligencia artificial.
La fiscalía general de New Hampshire calificó el hecho como “un intento ilegal de afectar y suprimir el voto”. Pero lo más inquietante no fue el engaño en sí, sino su eficacia. Gail Huntley, una demócrata de 73 años que recibió la llamada, reconoció de inmediato la voz de Biden. “En ese momento no pensé que no fuera su verdadera voz. Así de convincente era”, declaró posteriormente.
Bienvenidos a la era de la desinformación sintética, donde la inteligencia artificial ha democratizado la capacidad de engañar a escala industrial.
El arsenal de la desinformación sintética
La robollamada de New Hampshire no fue un incidente aislado. Fue el primer disparo de una campaña global que, a lo largo de 2024, transformó el ecosistema informativo de las democracias occidentales. El International Panel on the Information Environment (IPIE) documentó que el 80% de las 50 elecciones “competitivas” —aquellas celebradas en países que respetan principios democráticos— sufrieron usos malintencionados de inteligencia artificial con fines de desinformación.
El arsenal es vasto y está al alcance de cualquiera. La IA generativa permite crear:
Deepfakes de audio: voces sintéticas indistinguibles de las reales, como la que suplantó a Biden.
Deepfakes de video: imágenes manipuladas que muestran a candidatos diciendo o haciendo lo que nunca hicieron.
Textos generados por IA: noticias falsas, artículos de opinión y narrativas completas producidas en masa.
Bots conversacionales: chatbots que responden preguntas de los votantes con información errónea.
La amenaza no es teórica. En los primeros meses de 2024, la IA ya había generado llamadas falsas de Biden, imágenes deepfake de Taylor Swift, anuncios de audio manipulados y una entrevista falsa completa en la que un funcionario ucraniano parecía reivindicar un ataque terrorista en Moscú.
El caso de las robollamadas: un anticipo del futuro
El operador político Steven Kramer, contratado por la campaña del entonces aspirante demócrata Dean Phillips, admitió haber orquestado las robollamadas de New Hampshire. Su defensa ante el tribunal fue, cuanto menos, paradójica: dijo que lo hizo como una “advertencia sobre los peligros de la inteligencia artificial”. La justicia no le creyó: aunque fue absuelto de los cargos penales, la Comisión Federal de Comunicaciones (FCC) le impuso una multa de 6 millones de dólares. La empresa que transmitió las llamadas, Lingo Telecom, acordó pagar otro millón.
Pero el daño ya estaba hecho. Como advirtió Robert Weissman, presidente del grupo Public Citizen: “El momento del deepfake político ha llegado. Los responsables políticos deben apresurarse a implementar protecciones o nos enfrentaremos al caos electoral”.
El papel de las plataformas: cuando el chatbot es el desinformador
Si los deepfakes creados por actores maliciosos son preocupantes, ¿qué ocurre cuando la propia plataforma genera y difunde la desinformación?
Esa fue la pregunta que atormentó a los secretarios de Estado de nueve estados norteamericanos en agosto de 2024. Cuando el presidente Biden anunció su retiro de la contienda, el chatbot Grok de X (antes Twitter) comenzó a responder a los usuarios que era demasiado tarde para que Kamala Harris fuera añadida a las boletas en varios estados. La afirmación era falsa: los plazos no habían vencido.
Lo que convirtió el incidente en un escándalo no fue el error del chatbot, sino la respuesta de X. Cuando los secretarios de Estado contactaron a la plataforma para corregir la información, “la empresa no trabajó para corregirla de inmediato, en su lugar dio el equivalente a un encogimiento de hombros”, declaró Steve Simon, secretario de Estado de Minnesota. La desinformación permaneció activa durante más de una semana.
“En nuestras mentes pensamos: ¿y si la próxima vez que Grok comete un error, es de mayor riesgo? ¿Y si la próxima respuesta errónea es: puedo votar, dónde voto, cuáles son los horarios, puedo votar por correo?”, reflexionó Simon. La plataforma, presionada por la opinión pública, finalmente redirigió a los usuarios a vote.gov.
El mensaje era claro: en el ecosistema actual, la desinformación puede originarse no solo en cuentas maliciosas, sino en el corazón mismo de la infraestructura tecnológica que usamos para informarnos.
El ejército de clones digitales
Pero el verdadero poder de la IA no está en un solo chatbot, sino en la capacidad de crear ejércitos enteros de cuentas sintéticas que operan como usuarios reales.
PolitiFact identificó múltiples cuentas en TikTok que utilizaban audio generado por IA para difundir narrativas falsas sobre las elecciones de 2024. Un video que afirmaba falsamente que Donald Trump se había retirado de la carrera presidencial fue visto más de 161.000 veces antes de ser removido. La IA generativa, señala el informe, “hace que sea más sencillo y económico difundir desinformación”.
El fenómeno es global. En Indonesia, videos manipulados y deepfakes de candidatos circularon ampliamente. En India, durante las elecciones generales, videos falsos de dos actores de Bollywood criticando al primer ministro Narendra Modi se volvieron virales. En Rumania, el Tribunal Constitucional anuló la primera vuelta de las elecciones presidenciales de 2024 en parte debido a la interferencia informativa. En las elecciones legislativas argentinas de 2025, la justicia electoral recibió más de 360 denuncias por violaciones vinculadas a contenido generado con IA.
La Unión Europea, a través de su Agencia de Ciberseguridad (ENISA), ya ha alertado sobre “el riesgo que pueden suponer los chatbots de IA, los deepfakes de audio y vídeo, y los llamados...”. Pero las alarmas no siempre se traducen en acción.
El costo de la confianza erosionada
El Brennan Center for Justice, en un análisis publicado en 2025, advirtió que aunque la IA “no perturbó las elecciones de 2024, es probable que sus efectos sean mayores en el futuro”. El uso inapropiado de estas herramientas, señala el informe, “erosiona la confianza del público en las elecciones, porque hace más difícil distinguir la realidad de la ficción, intensifica la polarización y debilita la confianza en las instituciones democráticas”.
Esta erosión de la confianza es precisamente el objetivo estratégico de la desinformación sintética. No se trata solo de hacer creer a la gente algo falso en un momento dado. Se trata de hacer que la gente ya no sepa en qué creer, de crear un estado de perplejidad permanente donde cualquier información puede ser descartada como “otro deepfake”.
El desafío para la soberanía digital
La soberanía digital de una nación descansa, entre otros pilares, en la capacidad de sus ciudadanos para distinguir lo verdadero de lo falso y para participar en un debate público informado. La IA generativa, en su forma actual, socava ambos pilares.
Un solo operador —como Kramer en New Hampshire— puede, con herramientas de IA, crear miles de cuentas únicas que publiquen contenido indistinguible de la actividad de usuarios reales, adaptado al contexto sin necesidad de supervisión constante. Estas herramientas permiten lanzar campañas de información dirigidas, manipular la percepción de los ciudadanos y suprimir puntos de vista alternativos. El proceso democrático se vuelve vulnerable incluso sin una intervención directa en el recuento de los votos.
La pregunta que queda flotando, incómoda, es: ¿quién protege la realidad cuando cualquiera puede fabricarla?
Este artículo forma parte de una serie de cinco entregas sobre el impacto de la inteligencia artificial en la soberanía digital y los procesos democráticos. Las fuentes utilizadas incluyen informes del International Panel on the Information Environment (IPIE), el Brennan Center for Justice, la Associated Press, The New York Times, The Guardian y registros de la Comisión Federal de Comunicaciones (FCC) de Estados Unidos.
Próximo artículo en la serie:
“Marcas de agua que nunca llegan: El retraso estratégico de las Big Tech para no certificar la verdad”