Anthropic dijo el lunes que las nuevas medidas diseñadas para evitar que los rivales copien las capacidades de sus modelos de IA Claude han reducido los datos recopilados en los llamados ataques de destilación entre un 90% y un 99%.
• La destilación de modelos se ha convertido en una preocupación clave para las principales empresas de IA debido a la creciente competencia entre EE. UU. y China. Empresas como Anthropic, OpenAI y Google argumentan que esta práctica permite a sus rivales reproducir capacidades avanzadas más rápidamente y a menor costo.
• Anthropic afirmó que las medidas de seguridad que restringen el acceso al razonamiento de Claude han reducido drásticamente los intentos de extracción, y que «el número de tokens de razonamiento extraídos por los destiladores» es ahora «entre 10 y 100 veces menor que antes».
• La compañía con sede en California dijo que había dificultado el uso de redes proxy para sondear repetidamente el razonamiento protegido de Claude, bloqueando los intentos de extracción y obstaculizando los esfuerzos de destilación a gran escala.
• Anthropic afirmó que su sistema de seguridad es «aproximadamente tan robusto como los que impiden que Claude ayude a construir armas biológicas» y tiene «una tasa de falsos positivos inferior al 0,1%».
• Anthropic prohibió decenas de miles de cuentas vinculadas a campañas de extracción de datos y citó a la startup china de IA Z.ai, también conocida como Zhipu, como ejemplo de una empresa que intentó extraer capacidades de Claude mientras desarrollaba su modelo GLM-5.3, advirtiendo que tales prácticas representan riesgos para la seguridad nacional y la seguridad nacional.
• Z.AI no respondió de inmediato a una solicitud de comentarios.
(Información de Mrinmay Dey en Ciudad de México; Edición de Sherry Jacob-Phillips)
Fuente: reuters
