El Pentágono está en desacuerdo con el desarrollador de inteligencia artificial Anthropic sobre las salvaguardas que impedirían al gobierno desplegar su tecnología para apuntar armas de forma autónoma y realizar vigilancia interna en Estados Unidos, dijeron a Reuters tres personas familiarizadas con el asunto.
Los debates representan una prueba temprana para ver si Silicon Valley, que goza de la buena reputación de Washington tras años de tensiones, puede influir en la forma en que el personal militar y de inteligencia estadounidense despliega una IA cada vez más poderosa en el campo de batalla. Después de extensas conversaciones bajo un contrato por un valor de hasta 200 millones de dólares. El Departamento de Defensa de Estados Unidos y Anthropic se encuentran en un punto muerto, dijeron seis personas familiarizadas con el asunto, bajo condición de anonimato.
La posición de la compañía sobre cómo se pueden utilizar sus herramientas de inteligencia artificial ha intensificado los desacuerdos entre ella y la administración Trump, cuyos detalles no se han informado anteriormente. Un portavoz del Departamento de Defensa, que la administración Trump rebautizó como Departamento de Guerra, no respondió de inmediato a las solicitudes de comentarios. Anthropic afirmó que su inteligencia artificial es «ampliamente utilizada para misiones de seguridad nacional por el gobierno de Estados Unidos y estamos en conversaciones productivas con el Departamento de Guerra sobre formas de continuar ese trabajo».
La disputa, que podría amenazar el negocio de Anthropic en el Pentágono, llega en un momento delicado para la empresa. La startup con sede en San Francisco se prepara para una posible oferta pública de venta. También ha invertido importantes recursos en atraer a empresas de seguridad nacional estadounidenses y ha buscado un papel activo en la formulación de políticas gubernamentales de inteligencia artificial.
Anthropic es uno de los pocos grandes desarrolladores de inteligencia artificial que obtuvieron contratos del Pentágono el año pasado. Otros fueron Google de Alphabet, xAI y OpenAI de Elon Musk.
ARMAS DE OBJETIVO
En sus conversaciones con funcionarios del gobierno, los representantes de Anthropic expresaron su preocupación de que sus herramientas podrían usarse para espiar a estadounidenses o ayudar a apuntar armas sin suficiente supervisión humana, dijeron algunas de las fuentes a Reuters. El Pentágono se ha mostrado indignado por las directrices de la compañía. De acuerdo con un memorando del departamento del 9 de enero sobre la estrategia de IA, los funcionarios del Pentágono han argumentado que deberían poder implementar tecnología de IA comercial independientemente de las políticas de uso de las empresas, siempre que cumplan con la legislación estadounidense, según fuentes.
Aun así, los funcionarios del Pentágono probablemente necesitarían la cooperación de Anthropic de ahora en adelante. Sus modelos están entrenados para evitar tomar medidas que puedan causar daños, y el personal de Anthropic sería quien reequipararía su IA para el Pentágono, según algunas fuentes. La cautela de Anthropic ya ha generado conflictos con la administración Trump anteriormente, Semafor ha…, reportado. En un ensayo en su blog personal, el director ejecutivo de Anthropic, Dario Amodei, advirtió esta semana que la IA debería apoyar la defensa nacional «en todas las formas excepto aquellas que nos harían más parecidos a nuestros adversarios autocráticos».
Amodei fue uno de los cofundadores de Anthropic que criticó los tiroteos fatales de ciudadanos estadounidenses que protestaban contra las medidas de control de inmigración en Minneapolis, que describió como un «horror» en una publicación en X. Las muertes han aumentado la preocupación de algunos habitantes de Silicon Valley sobre el uso que el gobierno puede hacer de sus herramientas para cometer actos de violencia potenciales.
Reporte de Deepa Seetharaman y Jeffrey Dastin en San Francisco y David Jeans en Washington. Edición de Kenneth Li, Franklin Paul, Anna Driver y Chris Reese.
Fuente: reuters
