La Unión Europea prohíbe los ‘deepfakes’ sexuales
El acuerdo alcanzado en la madrugada del 7 de mayo entre el Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea marca un hito en la regulación de la Inteligencia Artificial (IA) en Europa. La propuesta presentada por el Gobierno de España ha sido aprobada, lo que permitirá prohibir en toda la UE la introducción, uso y comercialización de sistemas de IA que generen ‘deepfakes’ sexuales.
Esta iniciativa surge tras la controversia provocada por Grok, un asistente virtual de la red social X, que creó imágenes inapropiadas de mujeres y menores. Desde enero, España ha trabajado para incluir esta medida en la reforma de la Ley Europea de IA, logrando finalmente el apoyo necesario para su implementación.
Aprobación de prácticas prohibidas
La enmienda aprobada establece dos prácticas específicas que quedarán prohibidas: aquellas que generen o manipulen imágenes, vídeos o audios realistas que involucren partes íntimas o identifiquen a personas en situaciones sexuales sin su consentimiento expreso, así como las que produzcan pornografía infantil.
Óscar López, ministro para la Transformación Digital y de la Función Pública, celebró el acuerdo destacando el liderazgo de España en el desarrollo de un modelo europeo confiable para la IA. “Este acuerdo sigue la línea de las iniciativas impulsadas por nuestro Gobierno en los últimos meses”, afirmó López, haciendo referencia a la Ley Orgánica para la protección de menores en entornos digitales actualmente en tramitación.
Ley pionera en protección al menor
Dicha ley se posiciona como una normativa innovadora en Europa al reformar el Código Penal para penalizar tanto los ‘deepfakes’ sexuales como el grooming. Esta última práctica será considerada un agravante para ciertos delitos sexuales. La legislación busca garantizar derechos fundamentales como el acceso a contenidos adecuados y la protección de datos personales para niñas, niños y adolescentes.
En cuanto a la ley de IA, se ha generado un intenso debate sobre si trasladar las obligaciones del Reglamento a normativas sectoriales existentes. España se opuso firmemente a esta desregulación que podría fragmentar el mercado interior. Finalmente, solo se transfirió legislación relacionada con maquinaria industrial bajo mecanismos específicos de salvaguarda.
Simplificación y alfabetización en IA
A su vez, se logró mantener un registro simplificado para sistemas considerados no riesgosos según el Anexo III del Reglamento. Esto facilitará el control por parte de las autoridades supervisores. Además, se reafirmó la obligación de alfabetización sobre IA para proveedores y responsables del despliegue con apoyo gubernamental.
El Gobierno español ha valorado positivamente este acuerdo como parte de su compromiso por acompañar a las empresas hacia una innovación responsable en inteligencia artificial. Se espera que este acuerdo político sea ratificado formalmente por el pleno del Parlamento y los ministros antes del receso veraniego.
Preguntas sobre la noticia
¿Qué ha acordado la Unión Europea respecto a los 'deepfakes' sexuales?
La Unión Europea ha acordado, a propuesta del Gobierno de España, prohibir en todo el territorio comunitario la introducción en el mercado, puesta en servicio y uso de sistemas de Inteligencia Artificial que generen 'deepfakes' sexuales.
¿Cuál fue la razón detrás de esta propuesta?
La propuesta se presentó tras la polémica generada por desnudos de mujeres y menores creados por Grok, un asistente virtual de la red social X. Esto llevó a España a buscar una regulación más estricta sobre el uso de esta tecnología.
¿Qué prácticas específicas se prohíben con esta enmienda?
La enmienda prohíbe dos prácticas: la generación o manipulación de imágenes, vídeos o audios realistas ('deepfakes') que identifiquen a personas en actividades sexuales sin su consentimiento expreso, y la generación o manipulación de pornografía infantil.
¿Qué otros aspectos se han discutido sobre la ley de IA?
Se ha debatido sobre la simplificación de la ley de IA y las obligaciones del Reglamento de IA. España se opuso a trasladar estas obligaciones a normas sectoriales ya existentes para evitar desregulación y fragmentación del mercado interior.
¿Qué implicaciones tiene esta legislación para la protección de menores?
La ley incluye reformas al Código Penal para penalizar tanto los 'deepfakes' sexuales como el grooming, asegurando así una mayor protección para niños y adolescentes en entornos digitales.
¿Cuándo se espera que este acuerdo sea ratificado formalmente?
El acuerdo político deberá ser ratificado formalmente por el pleno del Parlamento y los ministros en el Consejo, lo cual se espera que ocurra antes del receso de verano.
Si (
No(
