El chatbot Grok de Elon Musk está poniendo a prueba la capacidad de Europa para combatir los deepfakes y la manipulación digital de imágenes en línea, incluso después de que los reguladores lograron una rara victoria al obligar a xAI de Musk a frenar la creación de imágenes sexualizadas.
xAI dijo el miércoles por la noche que había restringido la edición de imágenes para los usuarios de Grok AI después de que el chatbot generara miles de imágenes sexualizadas de mujeres y menores que alarmaron a los reguladores globales. La marcha atrás de Musk, quien inicialmente se burló de la tendencia, pone de relieve la dificultad de controlar las herramientas de IA que abaratan y facilitan la creación de contenido explícito. Se trata del último enfrentamiento entre Europa y Musk, tras las disputas sobre la interferencia electoral , la moderación de contenido y la libertad de expresión.
Muchos reguladores aún están luchando por desarrollar leyes y reglas para gobernar la IA, con interrogantes sobre qué constituye desnudez, cómo definir el consentimiento y quién tiene la responsabilidad: el usuario o la plataforma. «Es realmente una zona gris en lo que respecta a la creación de imágenes de desnudos», dijo a Reuters Ängla Pändel, abogada de privacidad y protección de datos de Mannheimer Swartling con sede en Estocolmo. El regulador británico Ofcom, uno de los que más se expresa sobre el tema, dio la bienvenida a la medida de Musk, pero dijo que su investigación sobre xAI por las imágenes de Grok continuaría. «Nuestra investigación formal sigue en curso», declaró un portavoz. «Trabajamos incansablemente para avanzar y obtener respuestas sobre qué falló y qué se está haciendo para solucionarlo».
LOS FUNCIONARIOS AÚN SE NECESITA UNA APLICACIÓN MÁS FIRME
A principios de este mes, Grok creó imágenes hiperrealistas de mujeres en X, manipuladas para que parecieran llevar bikinis diminutos, poses degradantes o incluso estar cubiertas de moretones. Algunas menores fueron despojadas digitalmente de su ropa interior, quedando en traje de baño. Hasta el miércoles, Reuters descubrió que el chatbot aún producía imágenes sexualizadas de forma privada bajo demanda. Esto parecía haberse frenado, al menos en ciertas zonas geográficas, el jueves. xAI de Musk dijo que estaba bloqueando a los usuarios. Generar imágenes de personas con ropa escasa en «jurisdicciones donde es ilegal». No se identificaron dichas jurisdicciones.
En Malasia e Indonesia, el gobierno impuso prohibiciones temporales a Grok , mientras que los reguladores de la UE y el Reino Unido calificaron las imágenes de ilegales. El Reino Unido, Francia e Italia iniciaron investigaciones , pero se enfrentaron a peticiones de medidas más contundentes. «Se necesita una aplicación más estricta de la Ley de Servicios Digitales (DSA) para detener las aplicaciones y plataformas que sexualizan o desnudan a mujeres y niños», dijo la eurodiputada demócrata cristiana Nina Carberry, quien calificó la última medida, un «paso positivo». Un portavoz de la Comisión Europea dijo que si los cambios de Grok no fueran efectivos, la Comisión seguiría utilizando todas las herramientas de aplicación de la DSA de la UE contra la plataforma.
ZONA GRIS LEGAL, GRAN CARGA PARA LAS VÍCTIMAS
La Ley de Seguridad en Línea del Reino Unido convierte en «un delito prioritario» compartir imágenes íntimas sin consentimiento, incluidas las falsificaciones generadas por inteligencia artificial, dijo Alexander Brown, abogado de protección de datos con sede en el Reino Unido en Simmons & Simmons. «Esto significa que X debe tomar medidas proactivas y proporcionadas para evitar que dicho contenido aparezca en su plataforma y eliminarlo rápidamente cuando lo detecte», dijo.
El regulador británico puede multar a una empresa con hasta el 10% de sus ingresos en los casos más graves de incumplimiento o pedir a un tribunal que exija a los proveedores de servicios de Internet que bloqueen el sitio. Para las personas, llevar las plataformas a los tribunales es «un proceso realmente difícil y pesado», dijo Anders Bergsten, abogado de Mannheimer Swartling, citando el costo emocional para las víctimas. Los deepfakes existen desde hace años , mucho antes de la llegada de las aplicaciones de IA, aunque se limitaban en gran medida a los rincones más oscuros de la web. El poder de publicación de X otorga a Grok un alcance sin precedentes.
«La capacidad de publicación sin fricciones permite que los deepfakes se propaguen a gran escala», dijo la abogada estadounidense Carrie Goldberg, que trabaja con víctimas de acoso cibernético. Las leyes en Gran Bretaña y Suecia prohíben compartir imágenes de desnudos sin consentimiento. Gran Bretaña está ampliando la legislación para incluir la creación de dichas imágenes. Según la DSA, suspender un servicio se considera un último recurso. La Ley de IA de la UE tampoco contiene ninguna disposición sobre imágenes de desnudos de adultos, solo obligaciones de transparencia para deepfakes, dijeron los expertos.
El primer ministro británico, Keir Starmer, celebró la decisión de X el jueves, pero advirtió: «La libertad de expresión no es la libertad de violar el consentimiento. Las imágenes de mujeres jóvenes no son propiedad pública y su seguridad no está en debate». «Si necesitamos fortalecer aún más las leyes existentes, estamos dispuestos a hacerlo».
Información de Supantha Mukherjee en Estocolmo y Sam Tobin en Londres; editado por Adam Jourdan, Kenneth Li y Elaine Hardcastle.
Fuente: reuters
