La Unión Europea ha aprobado la propuesta del Gobierno de España para prohibir los 'deepfakes' sexuales en todo su territorio. Este acuerdo, alcanzado en una negociación entre el Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea, responde a la necesidad de proteger a las personas de la manipulación digital no consensuada. La enmienda incluye la prohibición de generar o manipular imágenes y vídeos que identifiquen a personas en actividades sexuales sin su consentimiento, así como la creación de pornografía infantil. El ministro Óscar López destacó que esta medida refuerza el compromiso de España con un modelo europeo de inteligencia artificial confiable y seguro, alineado con otras iniciativas para proteger a menores en entornos digitales. La ratificación formal del acuerdo se espera antes del receso de verano.
La Unión Europea prohíbe los ‘deepfakes’ sexuales
El acuerdo alcanzado en la madrugada del 7 de mayo entre el Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea marca un hito en la regulación de la Inteligencia Artificial (IA) en Europa. La propuesta presentada por el Gobierno de España ha sido aprobada, lo que permitirá prohibir en toda la UE la introducción, uso y comercialización de sistemas de IA que generen ‘deepfakes’ sexuales.
Esta iniciativa surge tras la controversia provocada por Grok, un asistente virtual de la red social X, que creó imágenes inapropiadas de mujeres y menores. Desde enero, España ha trabajado para incluir esta medida en la reforma de la Ley Europea de IA, logrando finalmente el apoyo necesario para su implementación.
La enmienda aprobada establece dos prácticas específicas que quedarán prohibidas: aquellas que generen o manipulen imágenes, vídeos o audios realistas que involucren partes íntimas o identifiquen a personas en situaciones sexuales sin su consentimiento expreso, así como las que produzcan pornografía infantil.
Óscar López, ministro para la Transformación Digital y de la Función Pública, celebró el acuerdo destacando el liderazgo de España en el desarrollo de un modelo europeo confiable para la IA. “Este acuerdo sigue la línea de las iniciativas impulsadas por nuestro Gobierno en los últimos meses”, afirmó López, haciendo referencia a la Ley Orgánica para la protección de menores en entornos digitales actualmente en tramitación.
Dicha ley se posiciona como una normativa innovadora en Europa al reformar el Código Penal para penalizar tanto los ‘deepfakes’ sexuales como el grooming. Esta última práctica será considerada un agravante para ciertos delitos sexuales. La legislación busca garantizar derechos fundamentales como el acceso a contenidos adecuados y la protección de datos personales para niñas, niños y adolescentes.
En cuanto a la ley de IA, se ha generado un intenso debate sobre si trasladar las obligaciones del Reglamento a normativas sectoriales existentes. España se opuso firmemente a esta desregulación que podría fragmentar el mercado interior. Finalmente, solo se transfirió legislación relacionada con maquinaria industrial bajo mecanismos específicos de salvaguarda.
A su vez, se logró mantener un registro simplificado para sistemas considerados no riesgosos según el Anexo III del Reglamento. Esto facilitará el control por parte de las autoridades supervisores. Además, se reafirmó la obligación de alfabetización sobre IA para proveedores y responsables del despliegue con apoyo gubernamental.
El Gobierno español ha valorado positivamente este acuerdo como parte de su compromiso por acompañar a las empresas hacia una innovación responsable en inteligencia artificial. Se espera que este acuerdo político sea ratificado formalmente por el pleno del Parlamento y los ministros antes del receso veraniego.
La Unión Europea ha acordado, a propuesta del Gobierno de España, prohibir en todo el territorio comunitario la introducción en el mercado, puesta en servicio y uso de sistemas de Inteligencia Artificial que generen 'deepfakes' sexuales.
La propuesta se presentó tras la polémica generada por desnudos de mujeres y menores creados por Grok, un asistente virtual de la red social X. Esto llevó a España a buscar una regulación más estricta sobre el uso de esta tecnología.
La enmienda prohíbe dos prácticas: la generación o manipulación de imágenes, vídeos o audios realistas ('deepfakes') que identifiquen a personas en actividades sexuales sin su consentimiento expreso, y la generación o manipulación de pornografía infantil.
Se ha debatido sobre la simplificación de la ley de IA y las obligaciones del Reglamento de IA. España se opuso a trasladar estas obligaciones a normas sectoriales ya existentes para evitar desregulación y fragmentación del mercado interior.
La ley incluye reformas al Código Penal para penalizar tanto los 'deepfakes' sexuales como el grooming, asegurando así una mayor protección para niños y adolescentes en entornos digitales.
El acuerdo político deberá ser ratificado formalmente por el pleno del Parlamento y los ministros en el Consejo, lo cual se espera que ocurra antes del receso de verano.