AI en la mira de Washington, pero el consenso está lejos de ser seguro

Los legisladores de EE. UU. están lidiando con qué barandas poner en torno a la floreciente inteligencia artificial, pero meses después de que ChatGPT atrajera la atención de Washington, el consenso está lejos de ser seguro.

Las entrevistas con un senador de EE. UU., miembros del personal del Congreso, empresas de inteligencia artificial y grupos de interés muestran que se están discutiendo varias opciones.

El debate se centrará el martes cuando el CEO de OpenAI, Sam Altman, haga su primera aparición ante un panel del Senado.

Algunas propuestas se centran en la IA que puede poner en riesgo la vida o el sustento de las personas, como en la medicina y las finanzas. Otras posibilidades incluyen reglas para garantizar que la IA no se utilice para discriminar o violar los derechos civiles de alguien.

Otro debate es si regular al desarrollador de la IA oa la empresa que la utiliza para interactuar con los consumidores. Y OpenAI, la puesta en marcha detrás de la sensación Chatbot ChatGPT, ha discutido un regulador de IA independiente.

No está claro qué enfoques ganarán, pero algunos en la comunidad empresarial, incluidos IBM y la Cámara de Comercio de EE. UU., favorecen el enfoque que solo regula áreas críticas como los diagnósticos médicos, al que llaman enfoque basado en el riesgo.

Si el Congreso decide que se necesitan nuevas leyes, la Comisión de IA de la Cámara de los EE. UU. aboga por que «el riesgo sea determinado por el impacto en las personas», dijo Jordan Crenshaw del Centro de Compromiso Tecnológico de la Cámara. «Una recomendación de video puede no representar un riesgo tan alto como las decisiones que se toman sobre la salud o las finanzas».

La creciente popularidad de la llamada IA ​​generativa, que utiliza datos para crear contenido nuevo como la prosa que suena humana de ChatGPT, ha despertado la preocupación de que la tecnología de rápida evolución podría alentar las trampas en los exámenes, alimentar la desinformación y conducir a una nueva generación de estafas.

La exageración de la IA ha dado lugar a una serie de reuniones, incluida una visita a la Casa Blanca este mes de los directores ejecutivos de OpenAI, su patrocinador Microsoft Corp. y Alphabet Inc. El presidente Joe Biden se reunió con los directores ejecutivos.

El Congreso está igualmente comprometido, dicen los asistentes del Congreso y los expertos en tecnología.

«El personal de la Cámara de Representantes y el Senado básicamente se ha despertado y se les pide a todos que acepten esto», dijo Jack Clark, cofundador de Anthropic, una empresa emergente de inteligencia artificial de alto perfil, cuyo director ejecutivo también asistió a la reunión en la Casa Blanca. «La gente quiere adelantarse a la IA, en parte porque sienten que no se adelantaron a las redes sociales».

A medida que los legisladores se ponen al día, la principal prioridad de Big Tech es luchar contra la «reacción exagerada prematura», dijo Adam Kovacevich, director de la Cámara del Progreso pro-tecnología.

Y aunque los legisladores como el líder de la mayoría del Senado, Chuck Schumer, están decididos a abordar los problemas de la IA de manera bipartidista, el hecho es que el Congreso está polarizado, las elecciones presidenciales son el próximo año y los legisladores están abordando otros temas importantes, como elevar el techo de la deuda.

El plan propuesto por Schumer requiere que expertos independientes prueben nuevas tecnologías de IA antes de su lanzamiento. También pide transparencia y proporcionar al gobierno los datos que necesita para evitar daños.

MICROGESTIÓN GUBERNAMENTAL

El enfoque basado en el riesgo significa que la IA utilizada para diagnosticar el cáncer, por ejemplo, sería examinada por la Administración de Alimentos y Medicamentos, mientras que la IA para el entretenimiento no estaría regulada. La Unión Europea se ha movido hacia la aprobación de reglas similares.

Pero el enfoque en los riesgos parece insuficiente para el senador demócrata Michael Bennet, quien presentó un proyecto de ley que pide un grupo de trabajo de inteligencia artificial del gobierno. Dijo que aboga por un «enfoque basado en valores» para priorizar la privacidad, las libertades civiles y los derechos.

Las reglas basadas en el riesgo pueden ser demasiado rígidas y no detectar peligros como el uso de la IA para recomendar videos que promuevan la supremacía blanca, agregó un asistente de Bennet.

Los legisladores también han discutido la mejor manera de garantizar que la IA no se utilice para discriminar racialmente, tal vez al decidir quién obtiene una hipoteca a bajo interés, según una persona que sigue las discusiones del Congreso y que no está autorizada para hablar con los periodistas.

En OpenAI, el personal ha contemplado una supervisión más amplia.

Cullen O’Keefe, científico investigador de OpenAI, propuso en una charla de abril en la Universidad de Stanford la creación de una agencia que ordenaría que las empresas obtengan licencias antes de entrenar modelos poderosos de IA u operar los centros de datos que los facilitan. La agencia, dijo O’Keefe, podría llamarse Oficina para la Seguridad de la IA y la Seguridad de la Infraestructura, u OASIS.

Cuando se le preguntó sobre la propuesta, Mira Murati, directora de tecnología de OpenAI, dijo que un organismo confiable podría «responsabilizar a los desarrolladores» de los estándares de seguridad. Pero más importante que la mecánica fue el acuerdo «sobre cuáles son los estándares, cuáles son los riesgos que está tratando de mitigar».

El último regulador importante que se creó fue la Oficina de Protección Financiera del Consumidor, que se creó después de la crisis financiera de 2007-2008.

Algunos republicanos pueden resistirse a cualquier regulación de IA.

«Debemos tener cuidado de que las propuestas regulatorias de IA no se conviertan en el mecanismo para la microgestión gubernamental de códigos informáticos como motores de búsqueda y algoritmos», dijo a Reuters un asesor republicano del Senado.

Información de Diane Bartz y Jeffrey Dastin; Editado por Chris Sanders y Anna Driver
Fuente: reuters

Artículos Relacionados

DEJA UN COMENTARIO:

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.