Los legisladores de California aprobaron el miércoles un proyecto de ley de seguridad de inteligencia artificial muy disputado, después del cual necesitará una votación de proceso más antes de que su destino esté en manos del gobernador Gavin Newsom, quien tiene hasta el 30 de septiembre para decidir si lo convierte en ley o lo veta.
Las empresas tecnológicas que desarrollan IA generativa (que puede responder a indicaciones con texto completamente formado, imágenes o audio, así como ejecutar tareas repetitivas con una intervención mínima) se han mostrado en gran medida reacias a la legislación, llamada SB 1047, diciendo que podría expulsar a las empresas de IA del estado y obstaculizar la innovación. Algunos demócratas en el Congreso de Estados Unidos, incluida la representante Nancy Pelosi, también se opusieron . Entre los defensores se encuentra Tesla Elon Musk, director ejecutivo que también dirige una empresa de inteligencia artificial llamada xAI, ha dicho que apoya el proyecto de ley.
La medida obliga a realizar pruebas de seguridad para muchos de los modelos de IA más avanzados cuyo desarrollo cuesta más de 100 millones de dólares o que requieren una cantidad definida de potencia informática. Los desarrolladores de software de IA que operan en el estado también deben describir métodos para desactivar los modelos de IA si fallan, lo que en realidad es un interruptor de apagado. El proyecto de ley también otorga al fiscal general del estado el poder de demandar si los desarrolladores no cumplen con las normas, particularmente en el caso de una amenaza constante , como por ejemplo que la IA se apodere de sistemas gubernamentales como la red eléctrica.
Además, el proyecto de ley exige que los desarrolladores contraten auditores externos para evaluar sus prácticas de seguridad y brindar protecciones adicionales a los denunciantes que se pronuncien contra los abusos de la IA. El autor del proyecto de ley, el senador estatal demócrata Scott Wiener, representa a San Francisco, sede de OpenAI y de muchas de las empresas emergentes que desarrollan el potente software. Wiener ha dicho que la legislación es necesaria para proteger al público antes de que los avances en inteligencia artificial se vuelvan difíciles de manejar o incontrolables. Martin Casado, socio general de la firma de capital de riesgo Andreessen Horowitz, dijo antes de la votación que esperaba que Newsom la vetara.
“Tiene la oposición más amplia y bipartidista que he visto nunca”, dijo. Alfabeto Google, OpenAI y Meta Platforms (META.O), respaldadas por Microsoft, abre una nueva pestañahan expresado sus preocupaciones en cartas a Wiener. Amazon Anthropic, que cuenta con el respaldo de la industria , dijo que los beneficios del proyecto de ley probablemente superan los costos, aunque agregó que todavía hay algunos aspectos que parecen preocupantes o ambiguos.
Reporte de Anna Tong en San Francisco; editado por Matthew Lewis
Fuente: reuters
