El Pentágono está presionando a las principales empresas de inteligencia artificial, incluidas OpenAI y Anthropic, para que hagan que sus herramientas de inteligencia artificial estén disponibles en redes clasificadas sin muchas de las restricciones estándar que las empresas aplican a los usuarios.
Durante un evento en la Casa Blanca el martes, el director de tecnología del Pentágono, Emil Michael, dijo a los ejecutivos de tecnología que el ejército tiene como objetivo hacer que los modelos de IA estén disponibles en dominios clasificados y no clasificados, según dos personas familiarizadas con el asunto. El Pentágono está “avanzando para implementar capacidades de inteligencia artificial de vanguardia en todos los niveles de clasificación”, dijo a Reuters un funcionario que solicitó el anonimato.
Es el último avance en las negociaciones en curso entre el Pentágono y las principales empresas de IA generativa sobre cómo Estados Unidos utilizará la IA en un futuro campo de batalla que ya está dominado por enjambres de drones autónomos, robots y ciberataques. Es probable que los comentarios de Michael también intensifiquen un debate ya polémico sobre el deseo de los militares de utilizar la IA sin restricciones y la capacidad de las empresas tecnológicas de establecer límites sobre cómo se implementan sus herramientas.
Muchas empresas de IA están desarrollando herramientas personalizadas para el ejército estadounidense, la mayoría de las cuales solo están disponibles en redes no clasificadas, generalmente utilizadas por la administración militar. Solo una empresa de IA, Anthropic, está disponible en entornos clasificados a través de terceros, pero el gobierno sigue sujeto a sus políticas de uso. Las redes clasificadas se utilizan para gestionar una amplia gama de tareas más sensibles, como la planificación de misiones o la selección de objetivos de armas. Reuters no pudo determinar cómo ni cuándo el Pentágono planeaba implementar chatbots de IA en redes clasificadas.
Los oficiales militares esperan aprovechar el poder de la IA para sintetizar información y así ayudar a tomar decisiones. Sin embargo, si bien estas herramientas son potentes, pueden cometer errores e incluso inventar información que a primera vista podría parecer plausible. Estos errores en entornos clasificados podrían tener consecuencias fatales, según los investigadores de IA. Las empresas de IA han buscado minimizar las desventajas de sus productos incorporando salvaguardas en sus modelos y exigiendo a los clientes que cumplan ciertas directrices.
Sin embargo, los funcionarios del Pentágono se han mostrado indignados por estas restricciones, argumentando que deberían poder implementar herramientas comerciales de IA siempre que cumplan con la legislación estadounidense. Esta semana, OpenAI llegó a un acuerdo con el Pentágono para que los militares pudieran usar sus herramientas, incluido ChatGPT, en una red no clasificada llamada genai.mil, que se ha implementado para más de 3 millones de empleados del Departamento de Defensa.
Como parte del acuerdo, OpenAI acordó eliminar muchas de sus restricciones habituales para los usuarios, aunque aún existen algunas restricciones. Alfabeto Google y xAI ya habían llegado a acuerdos similares anteriormente. En un comunicado, OpenAI dijo que el acuerdo de esta semana es específico para el uso no clasificado a través de genai.mil., Ampliar ese acuerdo requeriría un acuerdo nuevo o modificado, dijo un portavoz. Discusiones similares entre Anthropic, rival de OpenAI, y el Pentágono han sido significativamente más polémicas, según informó Reuters anteriormente.
Ejecutivos de Anthropic han comunicado a oficiales militares que no quieren que su tecnología se utilice para apuntar armas de forma autónoma ni para realizar vigilancia interna en Estados Unidos. Los productos de Anthropic incluyen un chatbot llamado Claude. “Anthropic se compromete a proteger el liderazgo de Estados Unidos en IA y a ayudar al gobierno estadounidense a contrarrestar las amenazas extranjeras, brindando a nuestros combatientes acceso a las capacidades de IA más avanzadas”, declaró un portavoz de Anthropic.
“Claude ya se utiliza ampliamente en misiones de seguridad nacional por parte del gobierno estadounidense y mantenemos conversaciones productivas con el Departamento de Guerra sobre cómo continuar con esta labor”. El presidente Donald Trump ha ordenado al Departamento de Defensa que cambie su nombre a Departamento de Guerra , un cambio que requerirá la acción del Congreso.
Información de David Jeans en Nueva York y Deepa Seetharaman en San Francisco; Edición de Kenneth Li y Matthew Lewis.
Fuente: reuters
