La Unión Europea ha dado un paso decisivo en la lucha contra uno de los usos más dañinos de la inteligencia artificial: la creación de contenido sexual falso sin el consentimiento de las personas. España fue el impulsor clave de un acuerdo alcanzado la semana pasada entre el Parlamento Europeo, el Consejo y la Comisión para prohibir los sistemas de IA capaces de generar los llamados deepfakes sexuales.
La medida vetará la comercialización, puesta en servicio y uso de herramientas que produzcan o manipulen imágenes, vídeos o audios en los que aparezcan personas en situaciones íntimas sin su consentimiento explícito. La prohibición también abarca los contenidos que reproduzcan o simulen pornografía infantil, lo que supone un avance significativo en la protección de los menores en el entorno digital.
¿Qué son los deepfakes y cómo funcionan?
Los deepfakes son contenidos sintéticos generados mediante inteligencia artificial que reproducen con un realismo extremo a personas diciendo o haciendo cosas que nunca ocurrieron. Su funcionamiento se basa en redes neuronales de aprendizaje profundo, concretamente en las denominadas redes generativas antagónicas (GAN, por sus siglas en inglés), que se entrenan a partir de grandes volúmenes de datos visuales y auditivos disponibles en internet.
El resultado son simulaciones prácticamente indistinguibles de la realidad. La agencia europea de policía, Europol, advierte en uno de sus informes que esta tecnología puede mostrar a personas haciendo o diciendo cosas que jamás hicieron, o incluso fabricar individuos que nunca existieron, lo que representa una amenaza directa para la veracidad informativa y la confianza pública.
Una amenaza con múltiples víctimas
Según el análisis de Europol, los deepfakes constituyen una amenaza multifacética que afecta de forma especialmente grave a distintos colectivos. Las mujeres y los menores de edad son los principales objetivos de los deepfakes sexuales no consentidos, que pueden destruir reputaciones, provocar graves daños psicológicos y arruinar vidas personales y profesionales.
Pero las consecuencias van más allá del ámbito privado. La manipulación de imágenes de líderes políticos o empresariales puede desencadenar crisis de confianza, distorsionar la opinión pública y erosionar la credibilidad de las instituciones. En el plano judicial, estos contenidos falsos pueden convertirse en pruebas manipuladas que dificulten la administración de justicia.
Tampoco es menor el riesgo para la democracia: los deepfakes se han convertido en una herramienta habitual dentro de campañas de desinformación, capaces de socavar la confianza en los medios de comunicación y en los procesos electorales.
El contexto político: de Meloni a Óscar López
La alarma sobre esta tecnología ha llegado incluso a los más altos niveles de gobierno en Europa. La primera ministra italiana, Giorgia Meloni, publicó recientemente una imagen falsa generada con IA en la que su rostro había sido superpuesto al cuerpo de una mujer en ropa interior, denunciando así públicamente los riesgos de esta tecnología.
En España, el ministro para la Transformación Digital y de la Función Pública, Óscar López, celebró el acuerdo y recordó que el Gobierno español sigue «liderando el despliegue de un modelo europeo propio de IA, que ha de caracterizarse por ser el más confiable de todos». La medida se articula dentro de la reforma de la Ley Europea de Inteligencia Artificial y complementa la Ley Orgánica española para la protección de menores en entornos digitales, que endurecerá las penas por la creación y difusión de deepfakes de contenido sexual.
Más allá de la prohibición
El acuerdo europeo no se limita a las prohibiciones. También refuerza la obligación de alfabetización digital en materia de IA para proveedores y responsables de su despliegue, con el respaldo de las administraciones públicas. Asimismo, mantiene un registro simplificado para sistemas de IA que no impliquen riesgos directos para los ciudadanos.
Europa envía así una señal clara: el desarrollo tecnológico no puede avanzar a costa de los derechos fundamentales de las personas. La lucha contra los deepfakes ya no es solo una cuestión técnica, sino un compromiso político y legal de primer orden.
