El Departamento de Comercio de Estados Unidos dijo el lunes que propone exigir requisitos de informes detallados para los desarrolladores de inteligencia artificial avanzada y los proveedores de computación en la nube para garantizar que las tecnologías sean seguras y puedan resistir ciberataques.
La propuesta de la Oficina de Industria y Seguridad del departamento establecería la obligación de informar al gobierno federal sobre las actividades de desarrollo de modelos de IA «de frontera» y clústeres informáticos. También requeriría informar sobre las medidas de ciberseguridad, así como sobre los resultados de los llamados esfuerzos de «equipo rojo», como las pruebas de capacidades peligrosas, incluida la capacidad de ayudar en ciberataques o la reducción de las barreras de entrada para que los no expertos desarrollen armas químicas, biológicas, radiológicas o nucleares. El trabajo en equipo externo se ha utilizado durante años en ciberseguridad para identificar nuevos riesgos; el término hace referencia a las simulaciones de la Guerra Fría estadounidense, en las que el enemigo era denominado «equipo rojo».
La IA generativa, que puede crear texto, fotos y videos en respuesta a indicaciones abiertas, ha generado entusiasmo, pero también temores de que pueda volver obsoletos algunos empleos, alterar elecciones y potencialmente dominar a los humanos y tener efectos catastróficos. El Departamento de Comercio dijo que la información recopilada bajo la propuesta «será vital para garantizar que estas tecnologías cumplan con estándares estrictos de seguridad y confiabilidad, puedan resistir ataques cibernéticos y tengan un riesgo limitado de uso indebido por parte de adversarios extranjeros o actores no estatales». En octubre de 2023, el presidente Joe Biden firmó una orden ejecutiva que exige que los desarrolladores de sistemas de inteligencia artificial que representen riesgos para la seguridad nacional, la economía, la salud pública o la seguridad de Estados Unidos compartan los resultados de las pruebas de seguridad con el gobierno de Estados Unidos antes de que se publiquen al público.
La norma establecería requisitos de presentación de informes para modelos avanzados de inteligencia artificial (IA) y clústeres de computación. El impulso regulatorio llega en un momento en que la acción legislativa en el Congreso sobre IA se ha estancado. A principios de este año, el BIS realizó una encuesta piloto entre los desarrolladores de IA. La administración Biden ha tomado una serie de medidas para impedir que China utilice tecnología estadounidense para la IA, ya que el floreciente sector plantea preocupaciones de seguridad. Los principales proveedores de nube incluyen Amazon.com AWS, de Alphabet Google Cloud y Microsoft Unidad azul.
Reporte de David Shepardson; editado por Chizu Nomiyama
Fuente: reuters
