La agencia de las Naciones Unidas para las tecnologías digitales anunció el jueves una nueva iniciativa para mejorar la confianza en los agentes de inteligencia artificial, ya que los sistemas de IA cada vez más autónomos generan inquietudes sobre la rendición de cuentas y la supervisión humana.
Los agentes de IA son una nueva generación de sistemas de inteligencia artificial diseñados para actuar de forma independiente en nombre de los usuarios, llevando a cabo tareas que van desde la planificación y las compras hasta procesos empresariales complejos.
Si bien pueden mejorar la productividad, también conllevan el riesgo de que los agentes de IA se hagan pasar por personas y tomen decisiones no autorizadas, según la Unión Internacional de Telecomunicaciones (UIT).
Para abordar los riesgos, la UIT anunció en la Cumbre de IA para el Bien Común celebrada en Ginebra que crearía un Grupo de Trabajo.
Este grupo desarrollará marcos de trabajo destinados a garantizar que los agentes de IA sigan siendo identificables, fiables y estén sujetos a un control humano significativo, en particular en áreas sensibles como las transacciones financieras y la infraestructura crítica.
«Los agentes de IA pronto negociarán, realizarán transacciones y tomarán decisiones en nuestro nombre», dijo Debora Comparin, copresidenta del Grupo de Enfoque, y agregó que se necesitan bases internacionales comunes para establecer quiénes son los agentes y cómo y cuándo se puede confiar en ellos.
El grupo estará integrado por expertos técnicos, políticos y jurídicos, y celebrará su primera reunión en París en noviembre y la segunda en Ginebra en enero.
Fuente: reuters
