La Comisión de Peticiones del Parlamento Europeo decidió este martes mantener abiertos y seguir analizando dos requerimientos para intervenir sobre el desarrollo de la inteligencia artificial (IA) para generar falsas imágenes pornográficas y, en particular, contenidos pedófilos.
Todos los grupos políticos que intervinieron en el debate coincidieron en el riesgo de la IA en relación con la proliferación de contenidos “ultrafalsos” relacionados con la pornografía o los desnudos no consentidos así como sobre la pornografía infantil.
También la Comisión Europea dijo ser consciente de los peligros que entraña el mal uso de esa tecnología y el Ejecutivo comunitario aseguró que vigilará de cerca la implementación de la novedosa normativa aprobada en marzo en la UE, que se convirtió en la primera jurisdicción del mundo en enmarcar legalmente la IA.
“Cada día son más las víctimas que han denunciado la creación y difusión de imágenes de contenido sexual elaboradas con inteligencia artificial sin su consentimiento, desde personas famosas como la cantante Taylor Swift o la actriz Emma Watson hasta las alumnas de un instituto en Almendralejo”, señaló una de las peticionarias, Gabriela Vicente.
El pasado septiembre, ese pequeño municipio de la comunidad española de Extremadura saltó a los medios de comunicación internacionales cuando una veintena de madres y padres de adolescentes denunciaron que circulaban falsas fotos pornográficas de estas generadas con inteligencia artificial.
“No eran reales, pero sí que lo parecían porque fueron creadas con aplicaciones de inteligencia artificial como ClothOff o DeepNude que, para mi sorpresa, se encuentran al alcance de todos”, dijo Vicente.
La segunda petición sobre el mismo asunto, presentada por Lorena Portavales Rodríguez -quien no intervino en la audiencia- se refería específicamente a la relación entre la IA y la pornografía infantil. “Compartimos la preocupación de la ponente. Los últimos avances den la IA incluyen contenidos ultrafalsos (“deep fake”) en materia de pornografía infantil” que “es un delito penal en los Estados miembros”, señaló la Experta del Ejecutivo comunitario Yordanka Ivanova.
La eurofuncionaria explicó cómo la inminente legislación comunitaria sobre IA “prohíbe también una serie de prácticas nocivas y dañinas, sobre todo los actos que explotan la vulnerabilidad de los niños” y exige “que los proveedores eviten la difusión de material sexual infantil, incluyendo el material producido por IA”.
Además, obligará a que los contenidos ultrafalsos se etiqueten como tales “para garantizar que el contenido generado por IA pueda detectarse de una manera fiable”.
La Comisión Europea, por su parte, también seguirá escrutando el desarrollo de la inteligencia artificial y “analizando ejemplos concretos” relativos a riesgos relacionados sobre los “derechos fundamentales, la salud, el desarrollo de la IA y sus efectos secundarios”.
Además de a través de la Ley de Inteligencia Artificial, a nivel comunitario el problema se puede abordar también a través de la Directiva contra la violencia contra las mujeres y del Reglamento para prevenir y combatir el abuso sexual a menores.
