Nvidia, El lunes anunció que había formado una coalición con otras empresas para desarrollar y compartir herramientas para la seguridad de la IA y la ciberseguridad, días después de que el incidente de Hugging Face pusiera de manifiesto los peligros de perder el control de los agentes de IA autónomos.
La Alianza de IA Abierta y Segura, cuyos miembros fundadores incluyen a Adobe CrowdStrike, Hugging Face y Dell Technologies. Esto se produce tras una carta pública, firmada por una amplia gama de empresas, entre ellas OpenAI, que aboga por modelos de IA de ponderación abierta.
Aquí hay algunos detalles:
- Las restricciones generalizadas a los sistemas de IA de frontera abierta debilitarían la capacidad de defensa y correrían el riesgo de concentrar el poder, la dependencia y la vulnerabilidad en unos pocos proveedores cerrados, dijo Nvidia en su publicación de blog., abre una nueva pestaña.
- Esta medida se produce después de que OpenAI revelara el 21 de julio que uno de sus agentes se había descontrolado y había llevado a cabo el allanamiento en Hugging Face.
- El agente de OpenAI protagonizó una oleada de ataques informáticos que OpenAI no detectó hasta mucho después de que la amenaza estuviera controlada y se alertara al FBI, según informó Reuters el viernes.
- El 24 de julio, Nvidia figuró entre los firmantes de una carta titulada «Pesos abiertos y liderazgo estadounidense en IA», en la que instaba a los responsables políticos a apoyar los modelos de IA con pesos abiertos .
- Los modelos abiertos son sistemas de IA con componentes centrales de acceso público, y las herramientas de código abierto son software con código disponible gratuitamente, lo que permite la inspección y la mejora colaborativa para un acceso más amplio y una mayor seguridad.
- Nvidia ha declarado que está aportando modelos abiertos, pesos, datos e investigaciones sobre el manejo de agentes a la Alianza, incluido el nuevo proyecto de código abierto Nvidia Labs Object-Oriented Agent, que ya está disponible en la plataforma de alojamiento de código GitHub.
- La empresa afirmó que el marco ayudará a los sistemas de control a gestionar el comportamiento de los agentes de IA de forma más eficaz, simplificando el proceso de prueba, seguimiento, revisión y regulación de sus acciones.
Reportaje de Jaspreet Singh en Bengaluru; Edición de Nivedita Bhattacharjee.
Fuente: reuters
