El presidente ejecutivo de OpenAI, Sam Altman, dijo el martes que el líder de seguridad de inteligencia artificial del fabricante de ChatGPT, Aleksander Madry, estaba trabajando en un nuevo proyecto de investigación, mientras la startup reorganiza el equipo de preparación.
«Aleksander está trabajando en un nuevo y muy importante proyecto de investigación», dijo Altman en una publicación en X, y agregó que los ejecutivos de OpenAI, Joaquín Quinonero Candela y Lilian Weng, se harán cargo del equipo de preparación mientras tanto. El equipo de preparación ayuda a evaluar la preparación de la inteligencia artificial general de los modelos de IA de la compañía, dijo un portavoz de OpenAI en un comunicado, y agregó que Madry asumirá un papel más importante dentro de la organización de investigación luego de la medida.
Madry no respondió de inmediato a las solicitudes de comentarios. «Joaquín y Lilian se harán cargo del equipo de preparación como parte de la unificación de nuestro trabajo de seguridad», escribió Altman en la publicación. The Information, que fue el primero en informar sobre el traslado de Madry, había dicho que el investigador Tejal Patwardhan gestionará gran parte del trabajo del equipo. Estas medidas surgen en un momento en que los chatbots de OpenAI, que pueden entablar conversaciones similares a las humanas y crear vídeos e imágenes basados en indicaciones de texto, se han vuelto cada vez más potentes y han suscitado preocupaciones en materia de seguridad.
A principios de este año, la empresa respaldada por Microsoft La empresa formó un Comité de Seguridad y Protección que será dirigido por miembros de la junta, incluido el director ejecutivo Sam Altman, en el período previo al entrenamiento de su próximo modelo de inteligencia artificial.
Reportaje de Gursimran Kaur y Shreya Biswas en Bengaluru; editado por Tasim Zahid y Sriraj Kalluvila
Fuente: reuters
