¿Qué riesgos plantean los modelos avanzados de IA en las manos equivocadas?

La administración Biden está preparada para abrir un nuevo frente en su esfuerzo por salvaguardar la IA estadounidense de China y Rusia con planes preliminares para colocar barreras alrededor de los modelos de IA más avanzados, informó Reuters el miércoles .
A los investigadores del gobierno y del sector privado les preocupa que los adversarios estadounidenses puedan utilizar los modelos, que extraen grandes cantidades de texto e imágenes para resumir información y generar contenido, para lanzar ciberataques agresivos o incluso crear potentes armas biológicas.
Estas son algunas de las amenazas que plantea la IA:

DEEPFAKES Y DESINFORMACIÓN

Los deepfakes (videos realistas pero inventados creados por algoritmos de inteligencia artificial entrenados en abundantes imágenes en línea) están apareciendo en las redes sociales, desdibujando la realidad y la ficción en el mundo polarizado de la política estadounidense.
Si bien estos medios sintéticos existen desde hace varios años, durante el último año se han visto impulsados ​​por una serie de nuevas herramientas de «IA generativa», como Midjourney, que hacen que sea barato y fácil crear deepfakes convincentes.
Herramientas de creación de imágenes impulsadas por inteligencia artificial de empresas como OpenAI y Microsoft, se puede utilizar para producir fotografías que podrían promover elecciones o desinformación relacionada con la votación, a pesar de que cada uno tiene políticas contra la creación de contenido engañoso, dijeron investigadores en un informe de marzo .
Algunas campañas de desinformación simplemente aprovechan la capacidad de la IA para imitar artículos de noticias reales como medio para difundir información falsa.
Si bien las principales plataformas de redes sociales como Facebook, Twitter y YouTube se han esforzado por prohibir y eliminar los deepfakes, su eficacia para controlar dicho contenido varía.
Por ejemplo, el año pasado, un sitio de noticias controlado por el gobierno chino que utilizaba una plataforma de inteligencia artificial generativa impulsó una afirmación falsa que había circulado previamente de que Estados Unidos estaba administrando un laboratorio en Kazajstán para crear armas biológicas para usar contra China, informó el Departamento de Seguridad Nacional (DHS). ) dijo en su evaluación de amenazas nacionales para 2024.
El asesor de seguridad nacional, Jake Sullivan, hablando en un evento de IA en Washington el miércoles, dijo que el problema no tiene soluciones fáciles porque combina la capacidad de la IA con «la intención de actores estatales y no estatales de utilizar la desinformación a escala, para perturbar democracias, para promover la propaganda, para dar forma a la percepción en el mundo».
«En este momento la ofensiva está superando a la defensiva», dijo.

ARMAS BIOLÓGICAS

La comunidad de inteligencia, los grupos de expertos y los académicos estadounidenses están cada vez más preocupados por los riesgos que plantea el hecho de que actores extranjeros malintencionados obtengan acceso a capacidades avanzadas de IA. Investigadores de Gryphon Scientific, y Rand Corporation, Señaló que los modelos avanzados de IA pueden proporcionar información que podría ayudar a crear armas biológicas.
Gryphon estudió cómo los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) -programas informáticos que se basan en cantidades masivas de texto para generar respuestas a consultas- podrían ser utilizados por actores hostiles para causar daño en el dominio de las ciencias biológicas y descubrió que «pueden proporcionar información que podría ayudar un actor malicioso en la creación de un arma biológica al proporcionar información útil, precisa y detallada en cada paso de este camino».
Descubrieron, por ejemplo, que un LLM podría proporcionar conocimientos de nivel postdoctoral para solucionar problemas cuando se trabaja con un virus con capacidad pandémica.
La investigación de Rand demostró que los LLM podrían ayudar en la planificación y ejecución de un ataque biológico. Descubrieron que un LLM podría, por ejemplo, sugerir métodos de administración en aerosol para la toxina botulínica.

CIBERARMAS

DHS dijo que los ciberactores, probablemente utilizaría la IA para «desarrollar nuevas herramientas» que «permitan ciberataques a mayor escala, más rápidos, eficientes y más evasivos» contra infraestructuras críticas, incluidos oleoductos y ferrocarriles, en su evaluación de amenazas nacionales de 2024.
China y otros adversarios están desarrollando tecnologías de inteligencia artificial que podrían socavar las defensas cibernéticas de Estados Unidos, dijo el DHS, incluidos programas de inteligencia artificial generativa que respaldan ataques de malware.
Microsoft dijo en un informe de febrero que había rastreado grupos de piratería afiliados a los gobiernos de China y Corea del Norte, así como a la inteligencia militar rusa y a la Guardia Revolucionaria de Irán, mientras intentaban perfeccionar sus campañas de piratería utilizando grandes modelos de lenguaje.
La compañía anunció el hallazgo mientras implementaba una prohibición general de que los grupos de piratería respaldados por el estado utilicen sus productos de inteligencia artificial.

NUEVOS ESFUERZOS PARA ABORDAR LAS AMENAZAS

Un grupo bipartidista de legisladores dio a conocer un proyecto de ley el miércoles por la noche que facilitaría a la administración Biden imponer controles de exportación a los modelos de IA, en un intento por salvaguardar la preciada tecnología estadounidense contra malos actores extranjeros.
El proyecto de ley, patrocinado por los republicanos de la Cámara de Representantes Michael McCaul y John Molenaar y los demócratas Raja Krishnamoorthi y Susan Wild, también otorgaría al Departamento de Comercio autoridad expresa para prohibir a los estadounidenses trabajar con extranjeros para desarrollar sistemas de inteligencia artificial que representen riesgos para la seguridad nacional de Estados Unidos.
Tony Samp, asesor de políticas de IA en DLA Piper en Washington, dijo que los formuladores de políticas en Washington están tratando de «fomentar la innovación y evitar regulaciones estrictas que sofocan la innovación» mientras buscan abordar los muchos riesgos que plantea la tecnología.
Pero advirtió que «tomar medidas enérgicas contra el desarrollo de la IA a través de la regulación podría inhibir avances potenciales en áreas como el descubrimiento de fármacos, la infraestructura, la seguridad nacional y otras, y ceder terreno a los competidores en el extranjero».
Información de Alexandra Alper; Edición de Anna Driver y Stephen Coates
Fuente:reuters

Artículos Relacionados

DEJA UN COMENTARIO:

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.