La firma estadounidense de ciberseguridad propiedad de Google, Mandiant, dijo el jueves que había visto un aumento en el uso de la inteligencia artificial (IA) para realizar campañas de manipulación de información en línea en los últimos años, aunque el uso de la tecnología en otras intrusiones digitales había sido limitado hasta ahora.
Los investigadores de la empresa con sede en Virginia encontraron «numerosos casos» desde 2019 en los que el contenido generado por IA, como imágenes de perfil fabricadas, se había utilizado en campañas de influencia en línea con motivaciones políticas.
Estos incluyeron campañas de grupos alineados con los gobiernos de Rusia, China, Irán, Etiopía, Indonesia, Cuba, Argentina, México, Ecuador y El Salvador, según el informe.
Se produce en medio de un auge reciente en los modelos generativos de IA como ChatGPT, que facilitan mucho la creación de videos, imágenes, texto y código de computadora falsos y convincentes. Los funcionarios de seguridad han advertido sobre el uso de estos modelos por parte de los ciberdelincuentes.
La IA generativa permitiría a los grupos con recursos limitados producir contenido de mayor calidad para campañas de influencia a escala, dijeron los investigadores de Mandiant.
Una campaña de información a favor de China llamada Dragonbridge , por ejemplo, se había expandido «exponencialmente» en 30 plataformas sociales y 10 idiomas diferentes desde que comenzó por primera vez apuntando a los manifestantes a favor de la democracia en Hong Kong en 2019, dijo Sandra Joyce, vicepresidenta de Mandiant Intelligence. .
Sin embargo, el impacto de tales campañas fue limitado. «Desde el punto de vista de la efectividad, no hay muchas victorias allí», dijo. «Realmente todavía no han cambiado el curso del panorama de amenazas».
China ha negado las acusaciones de EE. UU. de participación en campañas de influencia de este tipo en el pasado.
Mandiant, que ayuda a las organizaciones públicas y privadas a responder a las infracciones digitales, dijo que aún no había visto que la IA desempeñara un papel clave en las amenazas de Rusia, Irán, China o Corea del Norte. Se espera que el uso de IA para intrusiones digitales se mantenga bajo a corto plazo, dijeron los investigadores.
«Hasta ahora, no hemos visto una sola respuesta a incidentes en la que la IA desempeñó un papel», dijo Joyce. «Realmente no se han llevado a ningún tipo de uso práctico que supere lo que se podría hacer con las herramientas normales que hemos visto».
Pero agregó: «Podemos estar muy seguros de que este será un problema que se hará más grande con el tiempo».
Información de Zeba Siddiqui en San Francisco; Editado por Alexandra Hudson
Fuente: reuters
