España ha ordenado a los fiscales que investiguen las plataformas de redes sociales X, Meta y TikTok por supuestamente difundir material de abuso sexual infantil generado por inteligencia artificial, mientras los reguladores europeos intensifican el escrutinio de las grandes tecnológicas por contenido dañino e ilegal.
El anuncio del primer ministro Pedro Sánchez se produce en medio de una ofensiva más amplia contra las plataformas en línea , a las que los reguladores acusan de prácticas que van desde el comportamiento anticompetitivo en la publicidad digital hasta el diseño deliberado de funciones adictivas. TikTok dijo más tarde el martes que el material de abuso sexual infantil era «aborrecible y categóricamente prohibido en nuestra plataforma».
«TikTok cuenta con sistemas sólidos para frustrar los intentos de explotar o dañar a los jóvenes, y seguimos priorizando e invirtiendo en tecnologías avanzadas para estar un paso por delante de los malos actores», dijo un portavoz de la empresa en un comunicado enviado por correo electrónico. X y Meta no respondieron inmediatamente a las solicitudes de comentarios. La medida -la primera de un paquete de regulaciones sobre redes sociales que Sánchez dio a conocer en una cumbre gubernamental en Dubai a principios de este mes- se basó en un informe técnico de tres ministerios, dijo posteriormente su oficina en un comunicado.
La portavoz del gobierno, Elma Saiz, dijo a los periodistas que las autoridades «no pueden permitir que los algoritmos amplifiquen o encubran» tales delitos, y agregó que la seguridad, la privacidad y la dignidad de los niños estaban en riesgo. Por otra parte, el martes, la Comisión de Protección de Datos de Irlanda dijo que había abierto una investigación formal sobre el chatbot xAI Grok de X por el procesamiento de datos personales y su potencial para generar imágenes y videos sexualizados dañinos, incluso de niños.La DPC es el principal regulador de la UE para X de Elon Musk porque las operaciones de la empresa estadounidense en la UE tienen su sede en Irlanda.
ESCRUTINIO GLOBAL DE LAS PLATAFORMAS TECNOLÓGICAS
Uno de cada cinco jóvenes en España, en su mayoría niñas, dicen que imágenes falsas de ellos desnudos fueron creadas por IA y compartidas en línea cuando eran menores, dijo la oficina de Sánchez, citando al grupo de derechos Save the Children. «Estas plataformas están socavando la salud mental, la dignidad y los derechos de nuestros niños», escribió Sánchez en X. «El Estado no puede permitir esto. La impunidad de estos gigantes debe terminar». Dijo que el Ministerio de Justicia pedirá a los fiscales que «investiguen los delitos que X, Meta y TikTok pueden estar cometiendo a través de la creación y difusión de pornografía infantil utilizando su IA».
España no es el único país que está tomando medidas drásticas contra las plataformas de redes sociales. Otros gobiernos han abierto investigaciones , impuesto prohibiciones y solicitado salvaguardias en un esfuerzo global cada vez mayor para frenar el material ilegal. La Comisión Europea investiga a Meta, TikTok y Grok bajo la Ley de Servicios Digitales de la Unión Europea, mientras que Francia, Brasil y Canadá han presentado quejas contra Grok por distribución ilegal de contenido.
Hace dos semanas, Sánchez esbozó nuevas medidas para abordar el abuso en línea y proteger a los niños, incluida una propuesta de prohibición del acceso a las redes sociales para los menores de 16 años. Ese mismo día, la policía francesa allanó las oficinas de X de Musk y los fiscales ordenaron al multimillonario enfrentar preguntas en una investigación cada vez más amplia. En noviembre, Sánchez dijo que el parlamento español investigaría a Meta por posibles violaciones de privacidad que involucran a usuarios de Facebook e Instagram. El año pasado, la Internet Watch Foundation, con sede en Gran Bretaña, detectó 3.440 vídeos de IA sobre abuso sexual infantil, en comparación con solo 13 en 2024.
Información de David Latona y Victoria Waldersee; información adicional de Charlie Devereux, Emma Pinedo y Jennifer O’Mahony; edición de Alex Richardson y Mark Potter.
Fuente: reuters
