OpenAI, respaldado por Microsoft, dijo el lunes que su comité de seguridad supervisará los procesos de seguridad y protección para el desarrollo y despliegue del modelo de inteligencia artificial de la compañía, como un organismo independiente.
El cambio sigue las recomendaciones del propio comité a la junta directiva de OpenAI, que se hicieron públicas por primera vez. OpenAI, la empresa detrás del chatbot viral ChatGPT, formó su Comité de Seguridad y Protección en mayo para evaluar y desarrollar aún más las prácticas de seguridad existentes de la empresa. El lanzamiento de ChatGPT a fines de 2022 provocó una importante ola de interés y entusiasmo en torno a la IA. El revuelo en torno a ChatGPT destacó tanto las oportunidades como los desafíos de la IA, lo que provocó debates sobre su uso ético y posibles sesgos.
Como parte de las recomendaciones del comité, OpenAI dijo que está evaluando el desarrollo de un «Centro de análisis e intercambio de información (ISAC) para la industria de la IA, para permitir el intercambio de inteligencia sobre amenazas e información de ciberseguridad entre entidades dentro del sector de la IA». El comité independiente estará presidido por Zico Kolter, profesor y director del departamento de aprendizaje automático de la Universidad Carnegie Mellon, quien forma parte de la junta directiva de OpenAI. «Estamos buscando ampliar la segmentación de la información interna y contratar personal adicional para profundizar los equipos de operaciones de seguridad las 24 horas», según OpenAI. La compañía también dijo que trabajará para ser más transparente sobre las capacidades y los riesgos de sus modelos de IA. El mes pasado , OpenAI firmó un acuerdo con el gobierno de Estados Unidos para la investigación, prueba y evaluación de los modelos de IA de la compañía.
Reportaje de Harshita Mary Varghese en Bengaluru; editado por Shounak Dasgupta
Fuente: reuters
