La guerra de los espejos: cuando la propaganda se viste de inteligencia artificial

Por: Dr. Jorge Alberto Hidalgo Toledo, Human & Nonhuman Communication Lab, Facultad de Comunicación, Universidad Anáhuac México

Cuando OpenAI publicó en 2024 su primer informe sobre operaciones de influencia que habían utilizado ChatGPT, marcó un hito histórico: el reconocimiento explícito de que las máquinas diseñadas para conversar también habían aprendido a mentir en nombre de otros. Redes de Rusia, China, Irán e incluso Israel habían explotado sus capacidades para fabricar comentarios, transformar artículos en publicaciones y simular movimientos sociales ficticios.

Lo interesante no fue tanto descubrir la existencia de la propaganda —constante desde los papiros egipcios hasta la radio de Goebbels—, sino comprobar cómo la IA se ha convertido en un multiplicador de productividad para quienes ya estaban en la industria del engaño. Un agit-prop de silicio que opera sin cansancio, en múltiples idiomas, y con una eficacia inquietante para erosionar la confianza pública.

La tentación de la sombra

En mi investigación sobre los capitales simbólicos de la reputación digital advertía que la economía de la imagen había transformado la vida en un festín de potlatch digital. Hoy, ese potlatch se traslada al campo de la guerra cognitiva: la visibilidad no se busca para presumir estatus, sino para intoxicar narrativas.

Los propagandistas descubrieron que la IA ofrece el mismo placer que el filtro en Instagram: borrar imperfecciones, pulir la mentira, dotar de verosimilitud a lo impostado. Pero aquí no se trata de aparentar una vida aspiracional, sino de construir un campo de batalla donde la realidad misma es disputada.

De acuerdo con el artículo original de Goldstein y DiResta (2024, Propagandists are using AI too—and companies need to be open about it. MIT Technology Review), la práctica propagandística se está modificando en al menos tres dimensiones clave:

1. Escalabilidad: los modelos de lenguaje permiten generar volúmenes de mensajes en múltiples idiomas de manera casi ilimitada.

2. Calidad persuasiva: los textos producidos por IA son tan convincentes como los de campañas humanas, según muestran investigaciones recientes.

3. Estética digital: desde carteles falsamente militantes hasta comentarios que imitan la voz ciudadana, la IA permite una apariencia más orgánica, reduciendo las huellas que delataban antes a los ejércitos de bots.

El viejo panfleto, repetitivo y burdo, se convierte ahora en un arsenal de mensajes adaptados a contextos locales y con capacidad de insertarse en conversaciones reales, desplazando la práctica de la propaganda hacia una sofisticación algorítmica.

Transparencia como antídoto

Los informes de OpenAI y Meta sugieren que la transparencia puede convertirse en una vacuna. Compartir bases de datos de cuentas falsas, reconocer públicamente el uso de IA en operaciones encubiertas y permitir que investigadores externos validen los hallazgos son pasos que recuerdan a los códigos éticos de la medicina: sin diagnóstico compartido, no hay tratamiento posible.

Sin embargo, la transparencia también tiene un límite: puede exagerar la amenaza y sembrar paranoia. Como señalan Goldstein y DiResta, no toda campaña tiene impacto real; muchos bots gritan al vacío, sin lograr atención ni viralidad. Magnificar su efecto puede ser tan dañino como negarlo, porque mina la confianza ciudadana y hace creer que cada derrota electoral es obra de un “fantasma algorítmico”.

América Latina frente al espejo digital

En América Latina, donde las democracias se encuentran en tensión permanente entre desigualdad social, populismos de diverso signo y fragilidad institucional, la irrupción de estas tácticas propagandísticas potenciadas por IA podría ser devastadora. El artículo de MIT Technology Review muestra que incluso campañas poco elaboradas han logrado millones de seguidores en países de Asia; ¿qué ocurrirá en un continente donde la polarización política ya es combustible cotidiano?

Las consecuencias para la democracia latinoamericana pueden ser más profundas por tres razones:

• Ausencia de regulación robusta: mientras Europa avanza con la AI Act, la mayoría de países latinoamericanos carece de marcos legales para enfrentar operaciones encubiertas con IA.

• Déficit de alfabetización digital crítica: grandes sectores de la población aún no distinguen entre contenido orgánico y manipulado, lo que aumenta la vulnerabilidad a narrativas fabricadas.

• Ecosistemas mediáticos frágiles: el deterioro de la confianza en medios tradicionales facilita que los ciudadanos se refugien en contenidos virales, aun cuando provengan de fuentes inauténticas.

Por ello, lo que propongo es un plan regional con dos ejes centrales:

1. 1Creación de observatorios latinoamericanos de propaganda digital, que reúnan a universidades, sociedad civil y plataformas tecnológicas para compartir datos en tiempo real sobre operaciones detectadas.

2. Programas masivos de alfabetización digital y mediática, orientados a jóvenes y comunidades vulnerables, que fortalezcan la capacidad de discernimiento y eviten que la propaganda algorítmica sustituya al debate democrático.

Entre Arendt y la posverdad

Hannah Arendt recordaba que el totalitarismo no consiste en hacer creer en una mentira, sino en destruir la confianza en cualquier verdad. La IA, usada como propagandista, no necesita convencer: basta con sembrar sospecha permanente. Cada deepfake, cada comentario fabricado, erosiona un poco más la posibilidad de discernir entre lo verdadero y lo falso.

La paradoja es clara: la misma herramienta que usamos para educar, crear arte o investigar, se convierte en un arma semiótica en manos de estados y mercenarios digitales. El ecosistema mediático global enfrenta así un nuevo estadio de la hipermediatización: la era donde no solo circula información manipulada, sino donde la maquinaria que produce la manipulación se ofrece como servicio al mejor postor.