Art 38/26. La democracia tiene un nuevo enemigo; el mal uso de la inteligencia artificial

Ya no hace falta manipular las urnas. Basta con manipular lo que los ciudadanos creen antes de llegar a ellas.


Vamos a ponernos en situación; imagina que estamos a tres días de unas elecciones generales en España (por ejemplo).

Son las ocho de la mañana. Abres WhatsApp y recibes un vídeo. Aparece un candidato político reconociendo que ha recibido dinero ilegalmente. Su voz es convincente. Sus gestos parecen auténticos. El vídeo dura 35 segundos y está perfectamente subtitulado.

Lo compartes con tus amigos. Porque, reconozcámoslo, ¿quién no ha compartido alguna vez algo que le ha indignado sin comprobar antes si era cierto?

A las diez, aparece otro vídeo. Esta vez es el candidato de otro partido anunciando que va a recortar las pensiones.

A mediodía, circula una grabación de una supuesta conversación privada en la que dos dirigentes hablan de amañar las elecciones y que todo es un fraude.

Por la tarde, miles de cuentas publican comentarios indignados. Algunas parecen ciudadanos normales. Otras son perfiles recién creados. Todas contribuyen a que la historia parezca mucho más grande de lo que realmente es. Y los que están verificando todo son cuatro personas.

Y al día siguiente, alguien publica un desmentido.

Pero ya da igual.

El primer vídeo ha conseguido cientos de miles de visualizaciones. El desmentido apenas llega a unos pocos miles de personas. Y una parte de los ciudadanos ya ha incorporado aquella información a su percepción del candidato.

¿Ha ocurrido realmente? No.

¿Podría ocurrir? Perfectamente. De hecho, ya lo estamos viendo.

Así que hoy hablaremos de la IA en el mundo de la política: ¡Bienvenidos a la nueva frontera de la manipulación política!

1. Ya no necesitamos fabricar una mentira. Podemos fabricar una realidad completa.

Durante décadas, la propaganda política ha utilizado periódicos afines, emisoras de radio, carteles, rumores y campañas de comunicación.

Nada nuevo bajo el sol. Hasta ahora.

La diferencia es que ahora la inteligencia artificial permite hacerlo a una velocidad, un coste y una escala que antes eran impensables.

Podemos fabricar una declaración de un político que nunca pronunció. Clonar su voz. Crear fotografías de acontecimientos inexistentes. Generar conversaciones falsas, testimonios de supuestos ciudadanos y páginas web que imitan a medios de comunicación reales.

Y no necesitamos que todo sea perfecto.

De hecho, una de las conclusiones más interesantes de las investigaciones europeas es que muchas operaciones de desinformación no necesitan deepfakes sofisticados. Basta con manipular imágenes auténticas, cambiar un titular, sacar una declaración de contexto o combinar una fotografía real con una historia inventada.

La Comisión Europea documentó precisamente este fenómeno en su análisis de las elecciones de 2024.

El problema ya no es solamente distinguir entre una imagen real y una falsa. Es distinguir entre una historia verdadera y una historia diseñada para que parezca verdadera.

Y aquí aparece un efecto perverso: cuando sabemos que todo puede falsificarse, también empezamos a desconfiar de las pruebas auténticas.

Es lo que se conoce como liar's dividend: el beneficio que obtiene quien puede desacreditar una prueba verdadera alegando que es falsa.

Una maravilla para cualquier político al que pillen diciendo algo inconveniente. No pondré ejemplos aunque ganas no faltan.

2. Cinco maneras de manipular unas elecciones con inteligencia artificial

Vamos a bajar esto a tierra. ¿Cómo podría utilizarse realmente la IA para intentar condicionar unas elecciones?

Primera: fabricar declaraciones que nunca existieron.

Un audio, una fotografía o un vídeo falsificado de un candidato puede circular durante horas antes de que llegue una rectificación.

No hace falta que millones de personas lo crean. Basta con que llegue a suficientes votantes en el momento adecuado.

Segunda: crear miles de ciudadanos que no existen.

La IA permite generar perfiles, fotografías, comentarios y conversaciones aparentemente humanas.

Podemos fabricar una falsa sensación de consenso: que parezca que todo el mundo está indignado con un candidato, que una determinada propuesta tiene un apoyo masivo o que una noticia está provocando una reacción social extraordinaria.

No son miles de ciudadanos opinando. Pueden ser unas pocas personas coordinando miles de identidades digitales.

Tercera: personalizar la mentira.

Esta es posiblemente una de las amenazas más sofisticadas.

Imaginemos una campaña que identifica diferentes preocupaciones entre los ciudadanos: pensiones, inmigración, vivienda, sanidad, empleo juvenil o impuestos. Seguro que os suenan todas ellas.

La IA permite generar mensajes distintos para cada audiencia, adaptando argumentos, lenguaje y formatos.

Un jubilado puede recibir un mensaje alarmista sobre sus pensiones. Un joven, otro sobre la imposibilidad de acceder a una vivienda. Un autónomo, otro sobre una supuesta subida de impuestos.

No hace falta que todos reciban la misma mentira.

Cada uno puede recibir exactamente aquella que tiene más posibilidades de despertar su preocupación. Son manipulaciones quirúrgicas. Ya no disparas un mensaje contra una multitud esperando que alguien se dé por aludido. Puedes adaptar miles de mensajes para que cada persona reciba exactamente el que más posibilidades tiene de influir en ella.

Cuarta: manipular el algoritmo, no solamente el contenido.

Podemos tener una noticia falsa, pero también podemos conseguir que esa noticia aparezca continuamente en nuestras pantallas.

Mediante cuentas coordinadas, automatización y técnicas de amplificación artificial se puede intentar que un asunto parezca mucho más relevante de lo que realmente es.

Y hay algo todavía más preocupante: los sistemas de recomendación pueden contribuir a amplificar contenidos polarizadores si sus mecanismos de distribución premian la interacción.

No hace falta controlar una red social para intentar manipular lo que sus usuarios terminan viendo.

Quinta: atacar la confianza en el propio sistema electoral.

Esta es quizá la más peligrosa.

No se trata de convencerte de que votes a un partido determinado. Se trata de conseguir que creas que todos hacen trampas, que las instituciones están compradas, que los resultados están manipulados y que votar no sirve para nada.

Si consigues que una parte de la ciudadanía deje de confiar en el resultado electoral, has conseguido un objetivo político de enorme importancia incluso sin cambiar un solo voto.

Y eso es especialmente grave: puedes erosionar una democracia sin necesidad de alterar una sola papeleta. Y esto resulta especialmente útil para quienes buscan debilitar la confianza en las instituciones, desmovilizar a una parte del electorado o conseguir que los ciudadanos terminen pensando que todos son iguales y que nada merece la pena. Porque cuando la gente deja de creer en la democracia, alguien siempre intenta aprovecharse de ese vacío

 

3. Esto no es ciencia ficción. Ya tenemos precedentes.

En Eslovaquia, justo antes de las elecciones parlamentarias de 2023, circuló una grabación manipulada que supuestamente recogía una conversación entre un dirigente político y una periodista hablando de cómo amañar las elecciones. Los verificadores encontraron indicios de manipulación mediante IA. Nunca se pudo demostrar que aquel episodio cambiara el resultado electoral, pero sí mostró lo vulnerable que puede ser la conversación pública en los días decisivos de una campaña.

Y en Estados Unidos, durante las primarias de New Hampshire de 2024, miles de votantes recibieron llamadas automáticas con una voz clonada de Joe Biden que les animaba a no participar en las primarias.

La tecnología ya estaba ahí.

Ahora bien, conviene ser rigurosos: no existe evidencia sólida de que los deepfakes hayan cambiado por sí solos el resultado de las grandes elecciones europeas de 2024. El Alan Turing Institute estudió estos procesos y encontró numerosos intentos de manipulación, pero no pruebas de un impacto determinante sobre los resultados.

Eso no significa que el riesgo sea pequeño. Significa que debemos distinguir entre la capacidad de manipular y la demostración de que se ha conseguido cambiar el resultado de unas elecciones.

Y hay una amenaza que va mucho más allá de un vídeo falso: la manipulación sistemática de la conversación pública.

La Comisión Europea, precisamente, acaba de abrir una consulta sobre la actualización de sus directrices electorales bajo el Reglamento de Servicios Digitales.

Entre las propuestas están:

·       Etiquetado visible de deepfakes que se mantenga cuando se compartan.

·       Detección temprana de redes de comportamiento no auténtico coordinado.

·       Pruebas de resistencia de los algoritmos de recomendación antes de las elecciones.

·       Mayor protección frente a la suplantación de candidatos.

·       Informes públicos de las plataformas después de los procesos electorales.

La consulta estará abierta hasta el 23 de noviembre de 2026. Siendo de los pioneros ya volvemos a llegar tarde.

 

4. ¿Y España? ¿Estamos preparados?

España no es una excepción.

Nuestro ecosistema político tiene ingredientes especialmente sensibles: polarización extrema, desconfianza institucional, enfrentamiento partidista y una enorme circulación de información a través de redes sociales y aplicaciones de mensajería.

La inteligencia artificial puede convertir todos esos ingredientes en combustible.

Además, no necesitamos imaginar que una potencia extranjera tenga que intervenir directamente. Una operación de manipulación puede proceder de actores estatales, organizaciones privadas, grupos ideológicos, redes de desinformación o incluso individuos que buscan notoriedad.

El Observatorio Complutense de la Desinformación lleva años investigando estos fenómenos y desarrollando metodologías de observación electoral en distintos países.

Y la Unión Europea está reforzando sus mecanismos de respuesta.

De hecho, el 10 de noviembre de 2026, la Comisión Europea abrió una consulta para actualizar sus directrices electorales bajo el Reglamento de Servicios Digitales, incorporando expresamente los riesgos de la inteligencia artificial generativa, los deepfakes y la manipulación de los sistemas de recomendación.

España también ha activado mecanismos de coordinación institucional para proteger sus procesos electorales. La Red de Coordinación para la Seguridad en Procesos Electorales existe desde 2019. El Ministerio del Interior ha comunicado su activación para las elecciones del 29 de noviembre de 2026, con participación de organismos como la Junta Electoral Central, el CNI, el INCIBE y la Agencia Española de Protección de Datos.

Pero no nos engañemos: ninguna regulación puede impedir por sí sola que alguien fabrique un vídeo falso y lo distribuya por WhatsApp.

La batalla también se juega en la educación, en el periodismo, en las plataformas y, sobre todo, en nuestra capacidad individual para no convertirnos en distribuidores gratuitos de propaganda.

5. ¿Qué podemos hacer para evitarlo?

No existe una vacuna tecnológica que elimine la manipulación. Pero sí podemos construir defensas bastante eficaces.

Como ciudadanos (nosotros/as somos la principal barrera):

    • No compartir inmediatamente vídeos, audios o mensajes escandalosos, especialmente cuando aparecen a pocos días de unas elecciones.
    • Buscar la noticia en varios medios independientes y comprobar si existe una fuente original.
    • Desconfiar de las capturas de pantalla sin enlace, fecha o contexto.
    • Verificar las comunicaciones electorales en las fuentes oficiales. En España, el Ministerio del Interior y la Junta Electoral Central.
    • No confundir viralidad con credibilidad. Que algo tenga dos millones de visualizaciones no significa que sea verdad.
    • Utilizar herramientas de verificación y consultar a verificadores independientes como Maldita.es, Newtral o EFE Verifica.

Como instituciones:

    • Disponer de equipos especializados en detectar operaciones coordinadas de manipulación.
    • Comunicar rápidamente las incidencias electorales y ofrecer información verificable.
    • Proteger los sistemas informáticos y las bases de datos electorales.
    • Exigir transparencia sobre la publicidad política y su segmentación.
    • Establecer mecanismos ágiles para denunciar suplantaciones y contenidos manipulados.

Como plataformas tecnológicas:

    • Identificar y etiquetar adecuadamente los contenidos sintéticos.
    • Conservar las señales de procedencia de los contenidos cuando sea técnicamente posible.
    • Detectar redes coordinadas de cuentas falsas.
    • Ofrecer transparencia sobre los anuncios políticos y los mecanismos de recomendación.
    • Actuar con rapidez ante las suplantaciones y las campañas de manipulación coordinada, respetando siempre la libertad de expresión.

Y aquí hay una responsabilidad que no podemos olvidar, sí, no me olvido de los que intentan llevarse el gato al agua: los partidos políticos.

Todos, sin excepción, deberían comprometerse a no utilizar contenidos falsificados para desacreditar a sus adversarios, a identificar claramente sus contenidos sintéticos y a no utilizar redes artificiales para simular apoyo ciudadano.

La democracia no puede depender de que sus protagonistas se comporten bien por casualidad. Y como bien sabéis los bulos se viralizan a velocidades supersónicas, los desmentidos y verificaciones pasan después desapercibidos.

Necesitamos reglas, transparencia y consecuencias para quienes sean responsables de esas manipulaciones.

6. La última frontera: proteger nuestra capacidad de pensar libremente.

Voy terminando con algo que me preocupa especialmente.

Hasta ahora, cuando recibíamos una información política, podíamos preguntarnos quién la había escrito, qué medio la publicaba y qué intereses podía haber detrás.

Ahora, además, también tendremos que preguntarnos quién ha generado esa información, con qué datos, para qué público y con qué objetivo.

Y esto afecta a algo mucho más importante que unas elecciones: nuestra autonomía como ciudadanos.

Porque la democracia no consiste solamente en depositar una papeleta en una urna cada cuatro años.

Consiste en disponer de información suficiente para tomar decisiones libres, contrastar opiniones, cuestionar a nuestros gobernantes y construir nuestro propio criterio.

Si alguien consigue manipular sistemáticamente el entorno informativo en el que tomamos esas decisiones, está interfiriendo en nuestra libertad, aunque nunca llegue a tocar una urna.

Y aquí va mi reflexión final.

La inteligencia artificial puede ayudarnos a comprender mejor el mundo, detectar corrupción, analizar programas electorales, contrastar promesas políticas y hacer nuestras instituciones más transparentes.

También puede convertirse en una de las herramientas de manipulación más poderosas que hayamos conocido.

La tecnología, en sí misma, no tiene ideología propia. Pero quienes la utilizan sí pueden tener intereses muy concretos y no siempre son mejorar la cosa pública.

Por eso no debemos combatir la inteligencia artificial. Debemos combatir su utilización para engañar, manipular y condicionar la voluntad de los ciudadanos.

No podemos permitir que la democracia se convierta en un experimento de ingeniería social dirigido por quienes tienen más dinero, más datos y mejores algoritmos.

Porque hay algo que ninguna máquina debería decidir por nosotros/as:

Qué debemos pensar, a quién debemos creer y a quién debemos votar.

Y si llegamos a unas elecciones en las que ya no sabemos distinguir entre una declaración auténtica y una fabricada, entre una opinión ciudadana y una campaña automatizada, tendremos un problema mucho mayor que cualquier resultado electoral.

Tendremos una democracia en la que la libertad de elección seguirá existiendo sobre el papel, pero quizá estará siendo manipulada antes incluso de que lleguemos a la urna.

La IA puede fabricar una mentira en segundos. Lo que no podemos permitir es que termine fabricando nuestra democracia. Porque entonces la democracia seguirá llamándose democracia, pero habrá dejado de pertenecernos

 








 

Comentarios

Entradas populares de este blog

La realidad supera la ficción

Reseña sobre el “Curso sobre competencias digitales”. Conocimientos, habilidades y actitudes para la Sociedad Red. CCCB