OpenAI, liderada por Sam Altman, dijo el jueves que había interrumpido cinco operaciones encubiertas de influencia que buscaban utilizar sus modelos de inteligencia artificial para «actividades engañosas» en Internet.
La firma de inteligencia artificial dijo que los actores de amenazas utilizaron sus modelos de inteligencia artificial para generar comentarios breves, artículos más largos en una variedad de idiomas, nombres inventados y biografías de cuentas de redes sociales durante los últimos tres meses. Estas campañas, que incluyeron actores amenazantes de Rusia, China, Irán e Israel, también se centraron en temas como la invasión rusa de Ucrania, el conflicto en Gaza, las elecciones indias, la política en Europa y Estados Unidos, entre otros. Las operaciones engañosas fueron un «intento de manipular la opinión pública o influir en los resultados políticos», dijo OpenAI en un comunicado.
El informe de la firma con sede en San Francisco es el último en generar preocupaciones de seguridad sobre el posible uso indebido de la tecnología de inteligencia artificial de generación, que puede producir rápida y fácilmente texto, imágenes y audio similares a los humanos.
Respaldado por Microsoft OpenAI dijo el martes que formó un Comité de Seguridad que estaría dirigido por miembros de la junta, incluido el director ejecutivo Sam Altman, mientras comienza a entrenar su próximo modelo de IA. Las campañas engañosas no se han beneficiado de una mayor participación o alcance de la audiencia debido a los servicios de la empresa de inteligencia artificial, dijo OpenAI en el comunicado.
OpenAI dijo que estas operaciones no utilizaron únicamente material generado por IA, sino que también incluyeron textos escritos manualmente o memes copiados de Internet. Por separado, MetaPlataformas, en su informe trimestral de seguridad del miércoles, dijo que había encontrado contenido «probablemente generado por IA» utilizado de manera engañosa en sus plataformas de Facebook e Instagram, incluidos comentarios que elogiaban el manejo de Israel de la guerra en Gaza publicados debajo de publicaciones de organizaciones de noticias globales y legisladores estadounidenses.
Información de Jaspreet Singh en Bengaluru; Edición de Alan Barona.
Fuente: reuters
