Andreu Casero-Ripollés, Universitat Jaume I de Castelló, casero@uji.es

El empleo de inteligencia artificial generativa (IA Gen) para crear desinformación durante las campañas electorales se ha incrementado notablemente en los últimos años. Según un informe del IPIE, en el 80% de las elecciones celebradas en 2024 se registró el uso de esta tecnología, principalmente orientada a la creación de contenidos ultrafalsos o deepfakes. Se trata de mensajes falsos e hiperrealistas, manipulados digitalmente para mostrar a actores políticos diciendo o haciendo cosas que nunca ocurrieron en realidad. Un ejemplo fue el video falso que simulaba una noticia televisiva en la que se comunicaba, a pocos días de las votaciones, la retirada de la candidata a la presidencia de Irlanda en 2025, Catherine Connolly, quien, a pesar de ello, se proclamó ganadora.

Con los contenidos ultrafalsos, la IA Gen impulsa la desinformación al incrementar su sofisticación e impacto dañino. Una de sus principales características es el aumento de las dificultades para detectar estos mensajes adulterados debido a su complejidad técnica. Además, la IA Gen amplía las facilidades de producción de falsedades y su escala, reduciendo, además, sus costes de elaboración. La magnitud de este fenómeno es ingente, puesto que la producción mundial de contenidos ultrafalsos creció un 1.500% entre 2023 y 2025, pasando de 500.000 a 8 millones.

Por ello, es importante conocer las características de los contenidos ultrafalsos aplicados a la desinformación electoral. Para clasificarlos se pueden usar dos vías. La primera se centra en su formato y la segunda en su carácter e intencionalidad. Al clasificar estos mensajes según su formato técnico, se pueden identificar cuatro modalidades diferenciadas. Los de tipo textual son producidos por bots automatizados que difunden escritos fraudulentos, como la campaña lanzada en X en 2024 bajo el hashtag #LondonVoterFraud para sembrar dudas sobre la integridad de las elecciones a la alcaldía de Londres. Por su parte, los ultrafalsos de audio recurren a la clonación de voz para falsear declaraciones. Uno de los casos más relevantes sucedió en las primarias de New Hampshire en 2024, donde se usaron llamadas automáticas con la voz clonada de Joe Biden para disuadir a la gente de votar, lo que provocó que las autoridades estadounidenses declararan ilegales estas llamadas automáticas generadas con IA.

La tercera modalidad corresponde a las imágenes sintéticas que alteran la realidad visualmente. Un ejemplo fue la difusión de imágenes ficticias de Donald Trump rodeado de jóvenes votantes de color con la finalidad de animar a este colectivo a votar por él. Finalmente, en cuarto lugar, los vídeos representan el formato más sofisticado al emplear recursos audiovisuales para generar escenas hiperrealistas que nunca sucedieron. En las elecciones de Indonesia de 2024, se difundió un vídeo falso generado por IA del dictador Suharto, fallecido en 2008, con el fin de manipular la opinión pública apelando a su legado.

Otra forma de clasificar estos contenidos ultrafalsos combina el carácter realista o no del mensaje con su intencionalidad positiva o negativa, estableciendo cuatro modalidades diferenciadas. Las falsificaciones oscuras o darkfakes integran contenido realista y negativo mediante suplantaciones de identidad para dañar la reputación del protagonista, como el vídeo falso que acusó a la candidata Kamala Harris de estar involucrada en 2011 en un accidente de tráfico con fuga. En segundo lugar, las falsedades aduladoras o glowfakes mezclan contenidos realistas y positivos para elogiar a un actor político. Un ejemplo fue el caso «Swifties for Trump«, donde se difundieron imágenes falsas de supuestas fans de Taylor Swift expresando su apoyo a Donald Trump en 2024, a pesar de que la cantante declaró públicamente su apoyo a Kamala Harris.

En tercer lugar, cuando convergen contenidos poco realistas y de carácter negativo, estamos ante las falsificaciones adversariales o foefakes. Estas representaciones de ficción buscan asociar valores dañinos a un rival político mediante analogías que perjudican su credibilidad, como la imagen difundida en la cuenta de Trump que mostraba a Harris pronunciando un discurso en una convención de estilo soviético o vestida como una dictadora socialista para vincularla al comunismo. Por último, las falsedades adeptas o fanfakes usan contenidos poco realistas con intenciones positivas. Estas producciones, creadas por seguidores o por los mismos políticos, ensalzan a los protagonistas vinculándolos a valores favorables o fenómenos de la cultura popular. Las diversas imágenes de Donald Trump en 2024 subido a un león, participando como un soldado más en una acción militar o actuando en un concierto como guitarrista junto a un soldado de Star Wars son ejemplos de esta modalidad.

La utilización de estas cuatro modalidades es desigual y revela una transformación de gran calado en la comunicación política. Tradicionalmente, las narrativas de la desinformación se orientaban casi de forma prevalente a atacar a los adversarios políticos. Sin embargo, una investigación sobre las elecciones presidenciales estadounidenses de 2024 demostró que la categoría predominante fue la de las falsedades adeptas (fanfakes) con un 43,5%, seguida de las adversariales (foefakes) con un 34,8%, mientras que las oscuras (darkfakes) y las aduladoras (glowfakes) se situaron en un 10,5% y 10,1% respectivamente.

Estos datos indican que los contenidos ultrafalsos creados con IA Gen han ampliado las fronteras de la desinformación electoral creando una nueva función comunicativa estratégica. El uso de contenidos sintéticos ya no solo sirve para atacar al oponente, sino para fabricar mensajes engañosos e ilusiones sugestivas diseñadas para elogiar, idealizar y ensalzar a los líderes propios. Esto reconfigura la construcción de la imagen pública de los candidatos y abre un nuevo escenario que agrava las vulnerabilidades en los sistemas democráticos, agudizando el potencial negativo de la desinformación, en este caso asistida por IA Gen.