Las principales empresas de inteligencia artificial del mundo advirtieron el miércoles al Consejo de Seguridad de las Naciones Unidas sobre los riesgos que la IA supone para la humanidad, e hicieron un llamamiento a los gobiernos para que colaboren en la gestión de esta tecnología cada vez más poderosa.
El director ejecutivo de Anthropic, Dario Amodei, declaró ante el consejo de 15 miembros, encargado de mantener la paz y la seguridad internacionales, que, si se gestiona mal, cree que «la IA podría suponer un riesgo para la humanidad en su conjunto».
La reunión, convocada por Francia durante la asamblea general anual de la ONU que reúne a líderes mundiales, se celebra en medio de advertencias de que los sistemas de IA pronto podrían perfeccionarse y escapar al control humano.
«A pesar de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar esta oportunidad y amenaza global que se nos presenta simultáneamente. Ningún líder, ninguna empresa ni ninguna nación puede gestionar esto sola», afirmó Amodei.
Los gobiernos de todo el mundo han tenido dificultades para seguir el ritmo de los rápidos avances en inteligencia artificial. Estados Unidos y China, las dos principales potencias en el desarrollo de la IA, han adoptado enfoques diferentes en cuanto a la supervisión.
El presidente Donald Trump ha argumentado que Estados Unidos no necesita nuevas regulaciones específicas para la IA, mientras que China ha impuesto normas que rigen los algoritmos de IA y los datos de entrenamiento, incluidos los requisitos de que el contenido generado por IA esté claramente etiquetado.
Clément Delangue, cofundador de Hugging Face, destacó el papel de las herramientas de IA en la defensa contra los ciberataques, citando un incidente en el que los agentes de IA del gigante estadounidense OpenAI vulneraron la infraestructura de Hugging Face tras escapar de su entorno de pruebas.
«Fuimos atacados por la IA, pero, lo que es más importante, nos defendimos con la IA», declaró ante el consejo.
También estaba previsto que intervinieran miembros del Consejo, entre ellos los principales rivales en materia de IA, Estados Unidos y China.
Delangue afirmó que Hugging Face se basaba en un modelo de IA chino para defenderse de los ataques de los agentes de IA de OpenAI, ya que este modelo tenía menos restricciones que las herramientas estadounidenses similares. Sus declaraciones pusieron de relieve la creciente presencia de productos de IA chinos, que han ganado usuarios a nivel mundial, en parte porque ofrecen alternativas más económicas a los modelos estadounidenses.
El director ejecutivo de OpenAI, Sam Altman, afirmó que era necesaria la cooperación internacional.
«Si la IA ha de ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios en San Francisco. Deben ser moldeadas a través de procesos democráticos y por gobiernos que rindan cuentas a la gente a la que sirven», dijo Altman al consejo.
Mientras el consejo se reunía, el primer ministro australiano, Anthony Albanese, declaró a los periodistas en Nueva York que un agente de inteligencia artificial desarrollado por OpenAI se infiltró en un sitio web del gobierno australiano en junio, accediendo a archivos públicos y no públicos.
EE. UU. A LA ONU: NO PUEDEN GOBERNAR LA TECNOLOGÍA QUE NO ENTIENDEN.
Yoshua Bengio, un canadiense considerado uno de los «padrinos de la IA» y copresidente del Panel Científico Internacional Independiente —creado por la Asamblea General de la ONU el año pasado—, declaró ante el Consejo de Seguridad: «Los peligros son reales e inminentes».
«Este consejo se enfrenta a una amenaza sin precedentes, una que ninguno de sus miembros elegiría, que nadie puede contener por sí solo y que no respeta las fronteras que defendemos», afirmó.
El martes, Trump declaró ante los líderes mundiales en la Asamblea General de la ONU que «rechaza cualquier intento de construir un plan globalista para controlar» la IA, describiendo la tecnología como asombrosa, pero señalando que Estados Unidos sería cauteloso.
El asesor de ciencia y tecnología de la Casa Blanca, Michael Kratsios, se hizo eco de las palabras de Trump en sus declaraciones ante el Consejo de Seguridad de la ONU el miércoles.
«No se puede gobernar una tecnología que no se comprende. Este organismo y otros similares deberían centrarse en compartir las mejores prácticas para desarrollar la capacidad nacional, no en establecer un esquema regulatorio global», afirmó.
El embajador de China ante la ONU, Fu Cong, afirmó que era necesaria una mejora continua de los marcos regulatorios, la respuesta ante emergencias y la cooperación transfronteriza en materia de IA.
«Es imperativo que la comunidad internacional colabore más estrechamente, otorgue la misma importancia al desarrollo y a la seguridad, y oriente el desarrollo de la IA hacia lo positivo, para el bien y para la humanidad», declaró ante el Consejo de Seguridad.
El secretario general de la ONU, Antonio Guterres, quien desde hace tiempo aboga por la gobernanza global de la IA, ha advertido que el rápido avance de la inteligencia artificial plantea riesgos que no se pueden ignorar, lo que lo enfrenta a Trump.
El Consejo de Seguridad se reunió por primera vez en 2023 para abordar los riesgos de la IA. En esa ocasión, China afirmó que la tecnología no debía convertirse en un «caballo desbocado» y Estados Unidos advirtió sobre su uso para censurar o reprimir a las personas. El entonces secretario de Estado estadounidense, Antony Blinken, presidió una reunión del Consejo de Seguridad sobre IA en 2024.
(Información de Michelle Nichols, John Irish y Courtney Rozen; Edición de Howard Goller)
Fuente: reuters
