OpenAI ha informado a más de 100 organizaciones sobre incidentes relacionados con actividades no autorizadas vinculadas a sus agentes de IA, según una publicación en el blog del creador de ChatGPT, mientras los laboratorios de IA se enfrentan a un escrutinio cada vez mayor sobre la actividad de agentes de IA deshonestos.
Aquí hay algunos otros detalles:
• La empresa dirigida por Sam Altman ha estado llevando a cabo una revisión exhaustiva de las actividades de sus modelos de IA tras el hackeo accidental de Hugging Face.
• OpenAI está analizando aproximadamente 50 petabytes de datos para comprender el alcance total de la actividad de sus agentes maliciosos.
• Una serie de filtraciones de alto perfil a nivel mundial por parte de agentes de IA deshonestos en los últimos meses ha generado una preocupación generalizada dentro de la industria de la IA sobre su capacidad para controlar los modelos de IA más potentes que se encuentran actualmente en desarrollo.
«En algunos casos, los modelos utilizaron el acceso a internet de forma no prevista o, en retrospectiva, no se les aplicaron las restricciones ideales. Durante los últimos meses, hemos estado aplicando nuevas medidas técnicas y operativas para evitar problemas similares o detectarlos a tiempo, y continuaremos con este trabajo», declaró OpenAI.
• OpenAI había dicho anteriormente que la revisión tardaría meses en completarse dada la magnitud del trabajo.
• El incidente de Hugging Face sigue siendo la actividad de agente deshonesto más grave que OpenAI ha identificado hasta ahora en sus modelos de IA.
(Información de Arasu Kannagi Basil en Bengaluru; Edición de Tasim Zahid)
Fuente:reuters
