OpenAI advirtió el miércoles que sus próximos modelos de inteligencia artificial podrían representar un riesgo cibernético «alto», ya que sus capacidades avanzan rápidamente.
Los modelos de IA podrían desarrollar exploits remotos de día cero funcionales contra sistemas bien defendidos o ayudar con operaciones complejas de intrusión industrial o empresarial destinadas a generar efectos en el mundo real, dijo el creador de ChatGPT en una publicación de blog. A medida que avanzan las capacidades, OpenAI afirmó que está «invirtiendo en el fortalecimiento de modelos para tareas de ciberseguridad defensiva y en la creación de herramientas que permitan a los defensores realizar con mayor facilidad flujos de trabajo como auditar código y parchar vulnerabilidades».
Para contrarrestar los riesgos de ciberseguridad, OpenAI afirmó que se basa en una combinación de controles de acceso, fortalecimiento de la infraestructura, controles de salida y monitoreo. Respaldado por Microsoft La compañía dijo que pronto presentará un programa para explorar la posibilidad de proporcionar a los usuarios y clientes calificados que trabajan en ciberdefensa acceso escalonado a capacidades mejoradas.
OpenAI también establecerá un grupo asesor, llamado Frontier Risk Council, que reunirá a defensores cibernéticos experimentados y profesionales de seguridad en estrecha colaboración con sus equipos. El grupo comenzará centrándose en la ciberseguridad y se expandirá a otros dominios de capacidad fronteriza en el futuro.
Reporte de Juby Babu en Ciudad de México; Edición de Krishna Chandra Eluri
Fuente: reuters
