El secretario general de la ONU, Antonio Guterres, advirtió el lunes que la inteligencia artificial se está desarrollando más rápido de lo que nadie puede seguirle el ritmo, y pidió normas armonizadas a nivel mundial para reducir los riesgos potenciales, especialmente para los niños.
«Se está desplegando una tecnología capaz de remodelar las economías, transformar el mundo laboral, influir en las elecciones e inclinar la balanza de la seguridad a un ritmo más rápido del que nadie, incluidos quienes la desarrollan, puede asimilar», declaró Guterres a los delegados en el primer diálogo mundial a nivel gubernamental sobre IA celebrado en Ginebra.
«La innovación necesita límites… Si la IA ha de ser poderosa, debe estar regulada», dijo Guterres a los delegados.
El Diálogo Mundial inaugural de las Naciones Unidas sobre la Gobernanza de la IA, de dos días de duración, no pretende forjar un tratado, sino debatir cómo establecer normas para mitigar los posibles daños de la IA y aprovechar sus oportunidades.
Los delegados examinarán un informe elaborado por un panel científico independiente de 40 expertos, respaldado por la ONU, que presentará las conclusiones de la primera evaluación científica global e independiente de la IA.
Está previsto un informe más completo el próximo año, junto con una segunda reunión mundial en Nueva York.
Necesidad de normas globales sobre IA
Guterres hizo hincapié en que las normas armonizadas a nivel mundial sobre inteligencia artificial deben priorizar la seguridad de los niños, tras los ejemplos de menores que han sido inducidos a autolesionarse y engañados por máquinas que se hacían pasar por amigos.
«No permitimos que un medicamento llegue a un niño hasta que se demuestre su seguridad. Probamos todos los juguetes. Sin embargo, la IA ha llegado a nuestros hijos —a su aprendizaje, a sus amistades, a sus preguntas más íntimas— antes de que nadie se preguntara qué les haría», afirmó.
Pidió un compromiso de seguridad infantil en materia de IA, según el cual las empresas que desarrollen sistemas tendrían que demostrar que son seguros antes de hacerlos accesibles a los niños.
Tampoco se debería permitir que los sistemas generen imágenes sexuales de niños, y cuando un niño muestre signos de angustia, el sistema debería detenerse y conectarlo con un ser humano para que reciba ayuda.
Si bien la IA ofrece importantes oportunidades, como en el sector sanitario, Guterres afirmó que las instituciones del mundo no estaban preparadas para las máquinas que toman decisiones, y que la vertiginosa velocidad de desarrollo de la IA significaba que las máquinas tomaban cada vez más decisiones con poca supervisión humana o gubernamental.
«Internet tardó 15 años en llegar a mil millones de personas. La IA lo logró en dos», dijo Guterres a los delegados.
También advirtió sobre la concentración de los sistemas de IA más avanzados en un puñado de empresas y países, lo que significa que los países en desarrollo tienen poca influencia en el progreso de la IA y corren el riesgo de quedarse atrás.
El informe independiente de expertos científicos reveló que el desarrollo de la IA está aún más concentrado, con Estados Unidos representando el 75% de la potencia informática entre las 500 supercomputadoras de IA más importantes del mundo, y China el 15%.
Si bien a nivel mundial más de mil millones de personas utilizan semanalmente la IA conversacional, la adopción en los países en desarrollo va a la zaga, añade el informe.
