El regulador de medios de Gran Bretaña inició el lunes una investigación sobre X de Elon Musk por preocupaciones sobre su chatbot Grok AI que estaba creando imágenes deepfake sexualmente íntimas en violación de su deber de proteger a las personas en Reino Unido de contenido ilegal.
El gobierno británico dijo que esta semana entrará en vigor una nueva ley que tipifica como delito la creación de deepfakes sexuales para abordar las imágenes, a las que llamó «armas de abuso». La ministra de Tecnología, Liz Kendall, dijo a los legisladores el lunes que el gobierno también planea una legislación que abordará el problema desde la fuente, haciendo ilegal que las empresas suministren herramientas diseñadas para crear deepfakes. La investigación de Ofcom aumenta la presión sobre la plataforma de redes sociales del hombre más rico del mundo, que ya enfrenta una creciente protesta pública, así como investigaciones criminales y regulatorias en todo el mundo, desde Francia hasta la India.
«Los informes sobre el uso de Grok para crear y compartir imágenes íntimas ilegales no consentidas y material de abuso sexual infantil en X han sido profundamente preocupantes», afirmó en un comunicado. Las plataformas deben proteger a las personas en Gran Bretaña del contenido ilegal, dijo el regulador, y agregó que no «dudaría en investigar cuando sospechemos que las empresas están fallando en sus deberes, especialmente cuando existe un riesgo de daño a los niños».
Cuando se le preguntó el lunes sobre la investigación, X señaló una declaración anterior en la que decía que toma medidas contra el contenido ilegal en la plataforma, incluido el material de abuso sexual infantil, eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las fuerzas del orden según sea necesario. «Cualquiera que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal», afirmó.
STARMER: LAS IMÁGENES DE GROK SON ‘REPUGNANTES’ E ‘ILEGALES’ El regulador se encuentra bajo presión para actuar después de que el primer ministro Keir Starmer calificara el jueves las imágenes de «repugnantes» e «ilegales». Musk, según declaró, tenía que «controlar» a Grok. Tras las medidas iniciales contra los sitios de pornografía que no contaban con controles de edad efectivos, el caso Grok probablemente será la primera gran prueba de la ley de seguridad en línea de Gran Bretaña, que se promulgó en 2023 pero que Ofcom está implementando por etapas.
Cuando el lunes se le preguntó si se podía prohibir X, el secretario de Negocios, Peter Kyle, dijo: «Sí, por supuesto», pero señaló que el poder para hacerlo recaía en Ofcom. Musk escribió en X el sábado que, al centrarse en Grok y X, el gobierno británico «sólo quiere suprimir la libertad de expresión».
Kendall dijo el lunes que no era un asunto de libertad de expresión. «Se trata de abordar la violencia contra las mujeres y las niñas», dijo a los legisladores. «Se trata de defender los valores británicos básicos de decencia y respeto y garantizar que los estándares que esperamos fuera de línea se mantengan en línea, y se trata de ejercer nuestro poder soberano». Dijo que las víctimas y el público esperaban una acción rápida y decisiva de Ofcom, y agregó que X podría actuar ahora para garantizar que no se pueda compartir material ilegal en su plataforma. Según la ley de seguridad en línea, las plataformas tecnológicas deben evitar que los usuarios británicos se encuentren con contenido ilegal y eliminarlo una vez que tengan conocimiento de ello.
CRECIENTE CLAMOR INTERNACIONAL
X ha enfrentado condenas en otros países debido a esta función, que puede producir imágenes de mujeres y menores con ropa escasa. Las autoridades francesas denunciaron a X ante la fiscalía y los organismos reguladores, calificando el contenido de » manifiestamente ilegal «, mientras que las autoridades indias también exigieron explicaciones. Indonesia y Malasia bloquearon temporalmente Grok durante el fin de semana.
X dijo que ha restringido las solicitudes para desnudar a personas en imágenes a los usuarios que pagan. Ofcom investigará si X no evaluó el riesgo de que la gente en Gran Bretaña viera contenido ilegal y si consideró el riesgo para los niños. En los casos más graves de incumplimiento, podría pedir a un tribunal que exija a «los proveedores de pagos o anunciantes que retiren sus servicios de una plataforma» o que haga que los proveedores de servicios de Internet bloqueen el acceso a un sitio en Gran Bretaña.
Información de Sam Tabahriti, Paul Sandle, Andrew MacAskill y Muvija M; Edición de Kate Holton, Sharon Singleton y Joe Bavier.
Fuente: reuters
