Meta dijo el miércoles que había encontrado contenido «probablemente generado por IA» utilizado de manera engañosa en sus plataformas de Facebook e Instagram, incluidos comentarios que elogiaban el manejo de Israel de la guerra en Gaza publicados debajo de publicaciones de organizaciones de noticias globales y legisladores estadounidenses.
La compañía de redes sociales, en un informe de seguridad trimestral, dijo que las cuentas se hacían pasar por estudiantes judíos, afroamericanos y otros ciudadanos preocupados, dirigidos a audiencias en Estados Unidos y Canadá. Atribuyó la campaña a la empresa de marketing político STOIC, con sede en Tel Aviv. STOIC no respondió de inmediato a una solicitud de comentarios sobre las acusaciones.
POR QUÉ ES IMPORTANTE
Si bien Meta ha encontrado fotografías de perfil básicas generadas por inteligencia artificial en operaciones de influencia desde 2019, el informe es el primero en revelar el uso de tecnología de inteligencia artificial generativa basada en texto desde que surgió a fines de 2022.
A los investigadores les preocupa que la IA generativa, que puede producir de forma rápida y económica textos, imágenes y audio similares a los humanos, pueda conducir a campañas de desinformación más efectivas e influir en las elecciones. En una llamada de prensa, los ejecutivos de seguridad de Meta dijeron que eliminaron la campaña israelí temprano y que no creían que las nuevas tecnologías de inteligencia artificial hubieran impedido su capacidad para interrumpir las redes de influencia, que son intentos coordinados de enviar mensajes. Los ejecutivos dijeron que no habían visto redes de este tipo que desplegaran imágenes de políticos generadas por IA lo suficientemente realistas como para confundirlas con fotografías auténticas.
CITA CLAVE
«Hay varios ejemplos en estas redes de cómo utilizan probablemente herramientas de IA generativa para crear contenido. Tal vez les dé la capacidad de hacerlo más rápido o con más volumen. Pero en realidad no ha afectado nuestra capacidad para detectarlos. «, dijo el jefe de investigaciones de amenazas de Meta, Mike Dvilyanski.
POR LOS NÚMEROS
El informe destacó seis operaciones de influencia encubiertas que Meta interrumpió en el primer trimestre.
Además de la red STOIC, Meta cerró una red con sede en Irán centrada en el conflicto entre Israel y Hamas, aunque no identificó ningún uso de IA generativa en esa campaña.
CONTEXTO
Meta y otros gigantes tecnológicos han luchado por encontrar la manera de abordar el posible uso indebido de las nuevas tecnologías de inteligencia artificial, especialmente en las elecciones. Los investigadores han encontrado ejemplos de generadores de imágenes de empresas como OpenAI y Microsoft producir fotografías con desinformación relacionada con la votación , a pesar de que esas empresas tienen políticas contra dicho contenido. Las empresas han hecho hincapié en los sistemas de etiquetado digital para marcar los contenidos generados por IA en el momento de su creación, aunque las herramientas no funcionan con texto y los investigadores tienen dudas sobre su eficacia.
QUE SIGUE
Meta enfrenta pruebas clave de sus defensas con las elecciones en la Unión Europea a principios de junio y en Estados Unidos en noviembre.
Informe de Katie Paul; Edición de Rod Nickel
Fuente: reuters
