Claude ahora lidera el 26% del trabajo de I+D en IA de Anthropic, frente al 1% en marzo.
Anthropic afirmó que los humanos aún supervisan a Claude y que no es completamente autónomo.
La empresa afirmó que la presentación de informes de métricas podría ayudar a controlar hasta qué punto la IA está cerca de mejorar por sí sola.
Claude está asumiendo una parte cada vez mayor del trabajo que hay detrás de la IA de próxima generación de Anthropic.
Anthropic anunció el jueves en su blog que Claude ahora «lidera» el 26% de su trabajo de investigación y desarrollo de IA , lo que significa que el chatbot puede completar la mayor parte de una tarea a partir de una instrucción general mientras un humano la supervisa. La compañía indicó que esta cifra era inferior al 1% en marzo.
«La proporción de trabajo que se sitúa en o por encima de la categoría ‘Colaboraciones con IA’ supera el 90 %», declaró Anthropic, añadiendo que «Claude no opera de forma totalmente autónoma en ningún subconjunto medido del trabajo de I+D en IA».
Estas cifras podrían ayudar a indicar cuán cerca está la industria de la auto-mejora recursiva, que Anthropic describió como «un modelo que construye de forma totalmente autónoma a su sucesor».
«Los modelos que aceleran su propio desarrollo podrían dificultar que los humanos comprendan o controlen estos sistemas», afirmó Anthropic. «Por lo tanto, es importante compartir estas métricas para comprender qué tan cerca está el mundo de alcanzar la auto-mejora recursiva».
El informe de Anthropic surge en medio de un debate en curso sobre la seguridad de la IA y la rapidez con la que mejoran los modelos. Un investigador de Anthropic renunció la semana pasada y acusó a las principales empresas de IA de «jugar con nuestras vidas» al impulsar modelos cada vez más capaces. Desde entonces, el director ejecutivo de Anthropic, Dario Amodei, ha pedido a las empresas de IA de vanguardia que coordinen la ralentización del desarrollo para dar más tiempo a las medidas de seguridad para ponerse al día.
Anthropic indicó en su informe que las acciones de IA de la compañía son revisadas por sistemas automatizados. Según Anthropic, el 0,002 % de las más de mil millones de decisiones analizadas en agosto, lo que equivale a aproximadamente una de cada 47 000, fueron bloqueadas. Aproximadamente 50 casos de alta prioridad se remiten a revisión humana cada semana.
Anthropic afirmó que otros laboratorios de vanguardia podrían publicar las mismas cifras y permitir que terceros las verificaran.
«Compartimos estas mediciones porque brindan al público, a terceros y a los gobiernos una mejor comprensión del ritmo de desarrollo de la IA en los laboratorios de vanguardia», declaró la empresa. «Esto implica medir mejor el desarrollo de la IA, informar públicamente sobre él y dar a la sociedad la oportunidad de decidir cómo utilizar esta información».
Fuente: reuters
