En su informe sobre tendencias científicas y tecnológicas para 2025-2045, la OTAN alerta de que la inteligencia artificial (IA) puede acelerar el deterioro de la confianza pública. El riesgo no se limita a la difusión de información falsa: la IA aumenta la velocidad, el alcance y la sofisticación de las campañas destinadas a desacreditar a gobiernos, instituciones científicas y otras fuentes de autoridad. En un contexto de creciente polarización política, esta combinación amenaza la capacidad de las sociedades para compartir hechos, referencias y una realidad común.
En un contexto de creciente polarización política, la IA amenaza la capacidad de las sociedades para compartir una realidad común.
Audio generado con IA
En su informe sobre tendencias científicas y tecnológicas para 2025-2045, la OTAN alerta de que la inteligencia artificial (IA) puede acelerar el deterioro de la confianza pública. El riesgo no se limita a la difusión de información falsa: la IA aumenta la velocidad, el alcance y la sofisticación de las campañas destinadas a desacreditar a gobiernos, instituciones científicas y otras fuentes de autoridad. En un contexto de creciente polarización política, esta combinación amenaza la capacidad de las sociedades para compartir hechos, referencias y una realidad común.
El Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) también ha advertido de que la IA generativa permite crear contenidos realistas en prácticamente cualquier formato. Entre ellos se encuentran los llamados deepfakes: imágenes, audios o vídeos generados o manipulados mediante inteligencia artificial para hacer que una persona parezca decir o hacer algo que nunca ocurrió. Estos contenidos amenazan la transparencia y la credibilidad de la información digital.
Pero ¿cómo se crea exactamente un deepfake? En el intercambio facial, una red neuronal identifica los rasgos de un rostro y un modelo generador los reconstruye sobre los gestos y movimientos de otro vídeo, fotograma a fotograma.
Los primeros sistemas utilizaban autoencoders y redes generativas adversarias (GAN). Los más recientes incorporan modelos de difusión, clonación de voz y sincronización labial para crear vídeos cada vez más realistas. Hoy, el proceso es mucho más rápido y accesible: una sola fotografía tomada de una red social puede bastar para generar en segundos una representación hiperrealista de una persona. Según estimaciones de la firma de ciberseguridad DeepStrike, el número de deepfakes compartidos en línea habría pasado de unos 500.000 en 2023 a cerca de 8 millones en 2025.
El cambio decisivo es que estos contenidos pueden producirse y difundirse a gran escala. La IA permite generar numerosas versiones de un mismo mensaje, traducirlas, adaptar su tono a públicos distintos y crear perfiles falsos capaces de mantener una identidad aparentemente coherente durante largos periodos.
La IA también puede crear artículos, comentarios y perfiles ficticios que parezcan respaldarlo. Después, bots y cuentas falsas lo difunden de forma coordinada, haciendo que una narrativa inventada parezca una reacción social amplia y espontánea.
Un ejemplo se produjo dos días antes de las elecciones parlamentarias de Eslovaquia de 2023, cuando se difundió un audio manipulado mediante IA. En él parecían conversar Michal Šimeka, líder del partido Eslovaquia Progresista, y la periodista Monika Tódová para amañar las elecciones y comprar votos. El deepfake buscaba desacreditar al candidato y a la periodista, además de sembrar dudas sobre la integridad del proceso electoral. Al aparecer durante el periodo de silencio electoral, también dificultó una respuesta rápida. Aunque no se ha demostrado que determinara el resultado, mostró cómo la clonación de voz puede erosionar la confianza en varias instituciones a la vez.
La principal consecuencia no es solo el aumento de la información falsa, sino el debilitamiento de los mecanismos con los que una sociedad determina qué es verídico. Un deepfake puede causar daño incluso después de haber sido desmentido: obliga a las instituciones a demostrar continuamente que sus propias comunicaciones son reales.
Al mismo tiempo, la existencia de contenidos sintéticos permite negar pruebas auténticas alegando que también podrían haber sido generadas mediante inteligencia artificial. Es lo que se conoce como el «dividendo del mentiroso»: cuanto más fácil resulta falsificar una imagen o una voz, más sencillo resulta también desacreditar cualquier evidencia verdadera.
Esta erosión va más allá de las redes sociales: puede afectar a unas elecciones, dificultar la respuesta ante una crisis y debilitar la capacidad de las instituciones para movilizar a la ciudadanía. La confianza pública es una infraestructura invisible; cuando falla, también lo hace nuestra capacidad colectiva para decidir.
No existe una única solución. La detección de deepfakes es necesaria, pero compite con modelos cada vez más sofisticados. La respuesta deberá combinar tecnología, regulación, educación y fortaleza institucional.
Será necesario crear herramientas que permitan verificar el origen de un contenido y comprobar si ha sido manipulado. También habrá que proteger mejor las cuentas institucionales y responder con rapidez a las campañas coordinadas. Las plataformas deberán frenar la amplificación artificial, mientras que gobiernos, medios e instituciones científicas tendrán que demostrar que sus mensajes son auténticos y actuar con transparencia.
La IA no ha inventado la propaganda ni la desconfianza, pero ha reducido drásticamente el coste de explotarlas. El reto no consiste solo en detectar qué contenido es falso, sino en preservar la capacidad de una sociedad para establecer hechos compartidos.
*Elena Yndurain es directora ejecutiva, consejera independiente y profesora de Tecnología en el IE Business School.
Actualidad Económica. Noticias de Economía Nacional e Internacional
