Meta Platforms La Junta de Supervisión está revisando el manejo por parte de la compañía de dos imágenes sexualmente explícitas de celebridades femeninas generadas por IA que circularon en sus servicios de Facebook e Instagram, dijo la junta el martes.
La junta, que está financiada por el gigante de las redes sociales pero opera independientemente de él, utilizará los dos ejemplos para evaluar la efectividad general de las políticas y prácticas de cumplimiento de Meta en torno a falsificaciones pornográficas creadas utilizando inteligencia artificial, dijo en una publicación de blog. Proporcionó descripciones de las imágenes en cuestión, pero no nombró a las mujeres famosas representadas en ellas para «evitar mayores daños», dijo un portavoz de la junta.
Los avances en la tecnología de inteligencia artificial han hecho que las imágenes, clips de audio y videos fabricados sean prácticamente indistinguibles del contenido real creado por humanos, lo que ha resultado en una avalancha de falsificaciones sexuales que proliferan en línea, en su mayoría representando a mujeres y niñas. En un caso especialmente sonado a principios de este año, la plataforma de redes sociales X, propiedad de Elon Musk, impidió brevemente a los usuarios buscar todas las imágenes de la estrella del pop estadounidense Taylor Swift después de luchar por controlar la difusión de imágenes falsas y explícitas de ella.
Algunos ejecutivos de la industria han pedido una legislación que criminalice la creación de «falsificaciones profundas» dañinas y exijan que las empresas de tecnología impidan tales usos de sus productos. Según las descripciones de sus casos de la Junta de Supervisión, uno de ellos involucra una imagen generada por IA de una mujer desnuda que se asemeja a una figura pública de la India, publicada por una cuenta en Instagram que solo comparte imágenes de mujeres indias generadas por IA.
La otra imagen, dijo la junta, apareció en un grupo de Facebook para compartir creaciones de IA y presentaba una representación generada por IA de una mujer desnuda que se asemeja a «una figura pública estadounidense» con un hombre tocándole el pecho. Meta eliminó la imagen que representa a la mujer estadounidense por violar su política de intimidación y acoso, que prohíbe «dibujos o photoshops sexualizados despectivos», pero inicialmente dejó la que mostraba a la mujer india y solo cambió de rumbo después de que la junta la seleccionó para su revisión. En una publicación separada, Meta reconoció los casos y se comprometió a implementar las decisiones de la junta.
Informe de Katie Paul; Edición de Stephen Coates
Fuente: reuters
