UE acuerda prohibir IA que genere deepfakes sexuales sin consentimiento

Los países de la Unión Europea acordaron este viernes solicitar la prohibición de sistemas de inteligencia artificial que permitan crear imágenes sexualizadas sin consentimiento y pornografía infantil. La medida, propuesta por España y respaldada por Francia, Alemania, Irlanda y otros países, forma parte de las negociaciones para reformar la Ley de IA europea.

La decisión surge tras la polémica de diciembre y enero en X (anteriormente Twitter), donde se viralizaron miles de deepfakes sexuales de mujeres reales. Según el Centro para Contrarrestar el Odio Digital, los usuarios generaron tres millones de imágenes sexualizadas en solo 11 días, incluyendo más de 33.000 de menores.

La propuesta busca prohibir todos los sistemas capaces de generar, manipular o reproducir imágenes, videos o audios realistas de partes íntimas o actividades sexuales sin consentimiento expreso. Esto incluiría herramientas como Grok de xAI, que aunque limitó estas funciones tras la controversia, aún permite ciertas creaciones "creativas" con figuras públicas.

Elon Musk respondió al escándalo restringiendo la generación de estas imágenes solo a usuarios de pago y modificando las políticas de Grok. Sin embargo, el sistema mantiene criterios diferenciados entre personas comunes y figuras públicas, permitiendo cierto contenido "creativo" con celebridades.

La iniciativa se enmarca en un proceso más amplio de simplificación regulatoria europea que busca adaptar las normas a los rápidos avances de la IA. Los funcionarios europeos enfatizan que no se trata de desregular, sino de reducir cargas administrativas innecesarias para las empresas.

Para América Latina, esta medida europea podría servir como referencia para el desarrollo de marcos regulatorios propios, especialmente considerando que la región enfrenta desafíos similares en violencia digital de género y protección de menores en entornos digitales.

Fuente original: El País — Tecnología

Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.