Anthropic está ampliando un programa que permite a profesionales de ciberseguridad previamente seleccionados probar sus modelos de IA más potentes con menos medidas de seguridad, después de que su iniciativa Project Glasswing ayudara a descubrir más de 100.000 vulnerabilidades de software este año.
Sus socios en Glasswing, una iniciativa destinada a proteger el software más crítico del mundo, encontraron al menos 129.000 vulnerabilidades verificadas entre abril y julio. El propio análisis de código abierto de Anthropic encontró 5.500 más entre abril y octubre.
Hasta el momento, más de 33.000 casos han sido calificados como de gravedad crítica o alta.
Anthropic afirmó que es probable que las cifras sean inferiores a las reales y prevé que el impacto real sea al menos cinco veces mayor, ya que los datos provienen de una encuesta realizada a un número limitado de socios.
El renovado Programa de Verificación Cibernética (CVP, por sus siglas en inglés), anunciado el martes, combina dos programas que Anthropic ha estado gestionando durante los últimos seis meses.
La primera, Glasswing, otorgaba a las organizaciones que protegían software crítico acceso a Claude Mythos, la familia de modelos de Anthropic con mayor capacidad cibernética. La segunda, la CVP original, proporcionaba a los equipos de seguridad verificados medidas de protección reducidas en los modelos Claude Opus y Sonnet.
La presentación en abril de Claude Mythos Preview por parte de la compañía generó temores de que la IA pudiera piratear el software antes de que este hubiera sido protegido.
El nuevo programa tiene tres niveles, cada uno con sus propios requisitos de verificación y controles de seguridad. Los tres incluyen acceso a Claude Opus 5.5, Sonnet 5.5, Mythos 5.1 y modelos futuros.
El nivel de Defensa abarca trabajos como la respuesta a incidentes y el análisis de malware. Pueden presentar su solicitud equipos de seguridad, operadores de infraestructura crítica, mantenedores de código abierto e investigadores con un historial de vulnerabilidades reportadas.
El nivel Red Team añade pruebas de penetración y ejercicios de red teaming autorizados, pero solo las organizaciones pueden solicitarlo.
El nivel especializado tiene las menores restricciones y está reservado para un pequeño grupo de organizaciones autorizadas a probar sistemas críticos para la seguridad, como redes eléctricas, sistemas de vuelo e infraestructura de transferencias interbancarias.
Anthropic financia a cada miembro junto con el gobierno de EE. UU., y los miembros actuales de Glasswing pasarán a este nivel.
(Reporte de Anzar Mehraj en Bengaluru y Jeffrey Dastin en San Francisco; Editado por Leroy Leo)
Fuente: reuters
