La empresa de inteligencia artificial OpenAI presentó un marco para abordar la seguridad en sus modelos más avanzados, lo que incluye permitir a la junta revertir las decisiones de seguridad, según un plan publicado en su sitio web el lunes.
OpenAI, respaldada por Microsoft, solo implementará su última tecnología si se considera segura en áreas específicas como la ciberseguridad y amenazas nucleares. La empresa también está creando un grupo asesor para revisar los informes de seguridad y enviarlos a los ejecutivos y al directorio de la empresa. Si bien los ejecutivos tomarán decisiones, la junta directiva puede revertirlas.
Desde el lanzamiento de ChatGPT hace un año, los peligros potenciales de la IA han sido una prioridad tanto para los investigadores de IA como para el público en general. La tecnología de IA generativa ha deslumbrado a los usuarios con su capacidad para escribir poesía y ensayos, pero también ha generado preocupaciones de seguridad por su potencial para difundir desinformación y manipular a los humanos.
En abril, un grupo de líderes y expertos de la industria de la IA firmaron una carta abierta pidiendo una pausa de seis meses en el desarrollo de sistemas más potentes. que el GPT-4 de OpenAI, citando riesgos potenciales para la sociedad. Una encuesta de Reuters/Ipsos de mayo encontró que más de dos tercios de los estadounidenses están preocupados por los posibles efectos negativos de la IA y el 61% cree que podría amenazar a la civilización. .
Información de Anna Tong en San Francisco; Edición de Chizu Nomiyama.
Fuente: reuters
