¿Ver para creer? La erosión de la confianza pública en la era del 'deepfake'

En un contexto de creciente polarizacin poltica, la IA amenaza la capacidad de las sociedades para compartir una realidad comn.

En su informe sobre tendencias cientficas y tecnolgicas para 2025-2045, la OTAN alerta de que la inteligencia artificial (IA) puede acelerar el deterioro de la confianza pblica. El riesgo no se limita a la difusin de informacin falsa: la IA aumenta la velocidad, el alcance y la sofisticacin de las campaas destinadas a desacreditar a gobiernos, instituciones cientficas y otras fuentes de autoridad. En un contexto de creciente polarizacin poltica, esta combinacin amenaza la capacidad de las sociedades para compartir hechos, referencias y una realidad comn.

El Instituto Nacional de Estndares y Tecnologa de Estados Unidos (NIST) tambin ha advertido de que la IA generativa permite crear contenidos realistas en prcticamente cualquier formato. Entre ellos se encuentran los llamados deepfakes: imgenes, audios o vdeos generados o manipulados mediante inteligencia artificial para hacer que una persona parezca decir o hacer algo que nunca ocurri. Estos contenidos amenazan la transparencia y la credibilidad de la informacin digital.

Pero cmo se crea exactamente un deepfake? En el intercambio facial, una red neuronal identifica los rasgos de un rostro y un modelo generador los reconstruye sobre los gestos y movimientos de otro vdeo, fotograma a fotograma.

Los primeros sistemas utilizaban autoencoders y redes generativas adversarias (GAN). Los ms recientes incorporan modelos de difusin, clonacin de voz y sincronizacin labial para crear vdeos cada vez ms realistas. Hoy, el proceso es mucho ms rpido y accesible: una sola fotografa tomada de una red social puede bastar para generar en segundos una representacin hiperrealista de una persona. Segn estimaciones de la firma de ciberseguridad DeepStrike, el nmero de deepfakes compartidos en lnea habra pasado de unos 500.000 en 2023 a cerca de 8 millones en 2025.

El cambio decisivo es que estos contenidos pueden producirse y difundirse a gran escala. La IA permite generar numerosas versiones de un mismo mensaje, traducirlas, adaptar su tono a pblicos distintos y crear perfiles falsos capaces de mantener una identidad aparentemente coherente durante largos periodos.

La IA tambin puede crear artculos, comentarios y perfiles ficticios que parezcan respaldarlo. Despus, bots y cuentas falsas lo difunden de forma coordinada, haciendo que una narrativa inventada parezca una reaccin social amplia y espontnea.

Un ejemplo se produjo dos das antes de las elecciones parlamentarias de Eslovaquia de 2023, cuando se difundi un audio manipulado mediante IA. En l parecan conversar Michal imeka, lder del partido Eslovaquia Progresista, y la periodista Monika Tdov para amaar las elecciones y comprar votos. El deepfake buscaba desacreditar al candidato y a la periodista, adems de sembrar dudas sobre la integridad del proceso electoral. Al aparecer durante el periodo de silencio electoral, tambin dificult una respuesta rpida. Aunque no se ha demostrado que determinara el resultado, mostr cmo la clonacin de voz puede erosionar la confianza en varias instituciones a la vez.

La principal consecuencia no es solo el aumento de la informacin falsa, sino el debilitamiento de los mecanismos con los que una sociedad determina qu es verdico. Un deepfake puede causar dao incluso despus de haber sido desmentido: obliga a las instituciones a demostrar continuamente que sus propias comunicaciones son reales.

Al mismo tiempo, la existencia de contenidos sintticos permite negar pruebas autnticas alegando que tambin podran haber sido generadas mediante inteligencia artificial. Es lo que se conoce como el "dividendo del mentiroso": cuanto ms fcil resulta falsificar una imagen o una voz, ms sencillo resulta tambin desacreditar cualquier evidencia verdadera.

Esta erosin va ms all de las redes sociales: puede afectar a unas elecciones, dificultar la respuesta ante una crisis y debilitar la capacidad de las instituciones para movilizar a la ciudadana. La confianza pblica es una infraestructura invisible; cuando falla, tambin lo hace nuestra capacidad colectiva para decidir.

No existe una nica solucin. La deteccin de deepfakes es necesaria, pero compite con modelos cada vez ms sofisticados. La respuesta deber combinar tecnologa, regulacin, educacin y fortaleza institucional.

Ser necesario crear herramientas que permitan verificar el origen de un contenido y comprobar si ha sido manipulado. Tambin habr que proteger mejor las cuentas institucionales y responder con rapidez a las campaas coordinadas. Las plataformas debern frenar la amplificacin artificial, mientras que gobiernos, medios e instituciones cientficas tendrn que demostrar que sus mensajes son autnticos y actuar con transparencia.

La IA no ha inventado la propaganda ni la desconfianza, pero ha reducido drsticamente el coste de explotarlas. El reto no consiste solo en detectar qu contenido es falso, sino en preservar la capacidad de una sociedad para establecer hechos compartidos.

*Elena Yndurain es directora ejecutiva, consejera independiente y profesora de Tecnologa en el IE Business School.

Sinergia Empresarial continuará el seguimiento de esta información sobre ¿Ver para creer? La erosión de la confianza pública en la era del 'deepfake' y ampliará la cobertura conforme se confirmen nuevos elementos relevantes para el ecosistema empresarial.