Olga Loiek, una estudiante de la Universidad de Pensilvania, buscaba una audiencia en Internet, pero no así.
Poco después de lanzar un canal de YouTube en noviembre del año pasado, Loiek, una joven ucraniana de 21 años, descubrió que su imagen había sido tomada y transformada mediante inteligencia artificial para crear alter egos en las plataformas de redes sociales chinas.
Sus dobles digitales, como «Natasha», afirmaban ser mujeres rusas que hablaban chino con fluidez y querían agradecer a China por su apoyo a Rusia y ganar un poco de dinero vendiendo productos como dulces rusos. Es más, las cuentas falsas tenían cientos de miles de seguidores en China, muchos más que la propia Loiek.
«Esto es literalmente como si mi cara hablara en mandarín y, al fondo, estuviera viendo el Kremlin y Moscú, y estuviera hablando de lo grandes que son Rusia y China», dijo Loiek a Reuters. «Eso fue realmente espeluznante, porque son cosas que nunca diría en la vida».
El caso de Loiek es representativo de un número cada vez mayor de lo que a primera vista parecen ser mujeres rusas en las redes sociales chinas que muestran su amor por China en un chino fluido y dicen que buscan apoyar a Rusia en la guerra vendiendo importaciones de su tierra natal.
Ninguno de ellos existe, sin embargo. Son generados por IA a través de la apropiación indebida de clips de mujeres reales encontrados en línea, a menudo sin su conocimiento, y los videos que crean los avatares falsos se utilizan para presentar productos a hombres chinos solteros, dicen los expertos. Las cuentas creadas con la imagen de Loiek tienen cientos de miles de seguidores y han vendido decenas de miles de dólares en productos, incluidos caramelos. Algunas de las publicaciones contienen un descargo de responsabilidad que dice que pueden haber sido creadas con IA.
Avatares como la influencia de Loiek en la asociación «sin límites» Rusia-China, declarada entre los dos países en 2022, cuando el presidente ruso Vladimir Putin visitó Beijing pocos días antes de que Rusia invadiera Ucrania. Jim Chai, director ejecutivo de XMOV, una empresa que desarrolla tecnología avanzada de inteligencia artificial y que no está involucrada en la situación de Loiek, dice que la tecnología para crear este tipo de imágenes es «muy común porque mucha gente la usa en China».
«Por ejemplo, para producir mi propio ser humano digital 2D, sólo necesito grabar un vídeo de 30 minutos de mí mismo y luego de terminarlo, vuelvo a trabajar el vídeo. Por supuesto, parece muy real y, por supuesto, Si cambias el idioma, lo único que tienes que ajustar es la sincronización de labios», dijo Chai. La inteligencia artificial es un tema muy debatido y la historia de Loiek arroja luz sobre los riesgos de sus aplicaciones potencialmente ilegales o poco éticas a medida que las poderosas herramientas para crear y difundir contenido se vuelven comunes en todo el mundo.
Las preocupaciones sobre la contribución de la IA a la desinformación, las noticias falsas y el material protegido por derechos de autor se han intensificado en los últimos meses en medio de la creciente popularidad de los sistemas de IA generativa como Chat GPT. En enero, China emitió un borrador de directrices para estandarizar la industria de la IA, proponiendo formar más de 50 estándares nacionales y para toda la industria para 2026. La Ley de IA de la Unión Europea, que impone estrictas obligaciones de transparencia a los sistemas de IA de alto riesgo, entró en vigor este mes y establece un posible punto de referencia mundial.
Aún así, Xin Dai, profesor asociado de la Facultad de Derecho de la Universidad de Pekín, dijo que la regulación está luchando por alcanzar el ritmo del desarrollo de la IA. «Sólo podemos predecir que con herramientas cada vez más potentes para crear información, crear contenidos y difundir contenidos estarán disponibles básicamente cada minuto», dijo Dai. «Creo que lo crítico aquí es que el volumen es simplemente demasiado grande… no sólo en China, sino también en Internet en general en todas partes», añadió.
Edición de Antoni Slodkowski, Kevin Krolicki y Miral Fahmy
Fuente: reuters
