X, el robot de Elon Musk, se enfrenta a una investigación de la Unión Europea sobre si difunde contenido ilegal, tras la indignación pública por la difusión de imágenes sexualizadas manipuladas por su chatbot de inteligencia artificial Grok.
La Comisión Europea, el brazo ejecutivo del bloque de 27 naciones, dijo el lunes que investigaría si la plataforma de redes sociales X protegió a los consumidores al evaluar y mitigar adecuadamente los riesgos relacionados con las funcionalidades de Grok. La investigación se produce dos semanas después de que el regulador de medios británico Ofcom lanzara su propia investigación por preocupaciones de que Grok estuviera creando imágenes deepfake sexualmente íntimas, y después de que Indonesia, Filipinas y Malasia bloquearan temporalmente el chatbot.
La Comisión dijo a principios de este mes que las imágenes generadas por inteligencia artificial de mujeres y niños desnudos que se compartían en X eran ilegales y atroces, uniéndose a la condena en todo el mundo. «Las falsificaciones sexuales no consentidas de mujeres y niños son una forma violenta e inaceptable de degradación», dijo la jefa de tecnología de la UE, Henna Virkkunen, en un comunicado.
LAS IMÁGENES DEEPFAKE ALARMARON A LOS REGULADORES A NIVEL MUNDIAL
X hizo referencia a un comunicado emitido el 14 de enero en el que afirmaba que su propietario, xAI, había restringido la edición de imágenes para los usuarios de Grok AI y les había prohibido, según su ubicación, generar imágenes de personas con ropa reveladora en «jurisdicciones donde es ilegal». No identificó los países. Filipinas y Malasia restablecieron el acceso a Grok después de que xAI dijera que había instalado medidas de seguridad adicionales.
La medida de la Comisión en virtud de la Ley de Servicios Digitales de la UE, que exige a las grandes tecnológicas hacer más para combatir el contenido ilegal y dañino en línea, se produjo después de que Grok de xAI produjera imágenes sexualizadas de mujeres y menores. Esto alarmó a los reguladores globales. Las empresas se arriesgan a recibir multas de hasta el 6% de su facturación anual global por infracciones de la DSA.
Si bien los cambios implementados por xAI fueron bien recibidos, no resuelven todos los problemas ni los riesgos sistémicos, declaró a la prensa un alto funcionario del ejecutivo el lunes. La Comisión consideró que X no realizó una evaluación ad hoc al implementar las funcionalidades de Grok en Europa, añadió el funcionario.
LA INVESTIGACIÓN DE LA UE CORRE EL RIESGO DE IRRITAR A TRUMP
La investigación corre el riesgo de antagonizar a la administración del presidente Donald Trump, ya que la ofensiva de la UE contra las grandes tecnológicas ha provocado críticas e incluso la amenaza de aranceles estadounidenses. «Con esta investigación, determinaremos si X cumplió con sus obligaciones legales bajo la DSA, o si trató los derechos de los ciudadanos europeos, incluidos los de las mujeres y los niños, como daños colaterales de su servicio», dijo Virkkunen.
La legisladora europea Regina Doherty dijo que el caso expuso debilidades más amplias en cómo se regulan y aplican las tecnologías de IA.
La Ley de IA debe seguir siendo una legislación vigente. Si se detectan deficiencias en su aplicación o supervisión, es nuestra responsabilidad abordarlas. Las leyes de la UE deben ser aplicables en tiempo real cuando se produzcan daños graves, afirmó.
Los reguladores de la UE también ampliaron una investigación sobre X abierta en diciembre de 2023 para establecer si ha evaluado y mitigado adecuadamente todos los riesgos sistémicos relacionados con sus denominados sistemas de recomendación, incluido el impacto de su cambio recientemente anunciado a un sistema basado en Grok. Dijeron que X, que recibió una multa de 150 millones de euros en diciembre por incumplir sus obligaciones de transparencia bajo la DSA, podría enfrentar medidas provisionales en ausencia de ajustes significativos en su servicio.
Información adicional de Sam Tabahriti; redacción de Richard Lough; edición de William James y Alexander Smith.
Fuente: reuters
