Altos ejecutivos de inteligencia artificial, incluido el director ejecutivo de OpenAI, Sam Altman, se unieron el martes a expertos y profesores para plantear el «riesgo de extinción de la IA», que instaron a los políticos a equiparar a la par con los riesgos planteados por las pandemias y la guerra nuclear. .
«Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social como las pandemias y la guerra nuclear», escribieron más de 350 signatarios en una carta publicada por el Centro para la Seguridad de la IA (CAIS), una organización sin fines de lucro .
Además de Altman, incluyeron a los directores ejecutivos de las firmas de inteligencia artificial DeepMind y Anthropic, y ejecutivos de Microsoft y Google.
Entre ellos también estaban Geoffrey Hinton y Yoshua Bengio, dos de los tres llamados «padrinos de la IA» que recibieron el Premio Turing 2018 por su trabajo en aprendizaje profundo, y profesores de instituciones que van desde Harvard hasta la Universidad Tsinghua de China.
Un comunicado de CAIS señaló a Meta, donde trabaja el tercer padrino de AI, Yann LeCun, por no firmar la carta.
La carta coincidió con la reunión del Consejo de Comercio y Tecnología de EE. UU. y la UE en Suecia, donde se espera que los políticos hablen sobre la regulación de la IA .
Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos de la industria fueron los primeros en mencionar los riesgos potenciales para la sociedad en abril.
Los desarrollos recientes en IA han creado herramientas que, según los partidarios, se pueden usar en aplicaciones, desde diagnósticos médicos hasta redacción de informes legales, pero esto ha despertado temores de que la tecnología pueda conducir a violaciones de privacidad, potenciar campañas de desinformación y generar problemas con «máquinas inteligentes» que piensan para ellos mismos.
El pionero de la IA, Hinton , dijo anteriormente a Reuters que la IA podría representar una amenaza «más urgente» para la humanidad que el cambio climático.
La semana pasada, el CEO de OpenAI, Sam Altman, se refirió a la IA de la UE, los primeros esfuerzos para crear una regulación para la IA, como un exceso de regulación y amenazó con abandonar Europa. Revirtió su postura unos días después de las críticas de los políticos.
La presidenta de la Comisión Europea, Ursula von der Leyen, se reunirá con Altman el jueves.
