Las negociaciones sobre las primeras normas de la Unión Europea que rigen la inteligencia artificial (IA) parecían encaminadas a un clímax dramático el miércoles, mientras los legisladores entran en lo que algunos esperan sea la ronda final de discusiones sobre la legislación histórica.
Lo que se decida podría convertirse en el modelo para otros gobiernos a medida que los países busquen elaborar reglas para su propia industria de IA.
Antes de la reunión , los legisladores y los gobiernos no pudieron ponerse de acuerdo sobre cuestiones clave, incluida la regulación de la IA generativa de rápido crecimiento y su uso por parte de las fuerzas del orden.
¿CÓMO CHATGPT DESCARRILÓ LA LEY DE IA?
El problema principal es que el primer borrador de la ley se redactó a principios de 2021, casi dos años antes del lanzamiento de ChatGPT de OpenAI, una de las aplicaciones de software de más rápido crecimiento de la historia.
Los legisladores se han apresurado a redactar regulaciones incluso cuando empresas como OpenAI, con sede en Microsoft, continúan descubriendo nuevos usos para su tecnología.
El fundador de OpenAI, Sam Altman, y los científicos informáticos también han dado la alarma sobre el peligro de crear máquinas potentes y muy inteligentes que podrían amenazar a la humanidad.
En 2021, los legisladores se centraron en casos de uso específicos, regulando las herramientas de inteligencia artificial en función de la tarea para la que habían sido diseñadas y las categorizaron por riesgo, de mínimo a alto.
El uso de IA en una serie de entornos (como la aviación, la educación y la vigilancia biométrica) se consideró de alto riesgo, ya sea como una extensión de las leyes de seguridad de productos existentes o porque representaban una amenaza potencial a los derechos humanos.
La llegada de ChatGPT en noviembre de 2022 obligó a los legisladores a repensar eso.
Este llamado «Sistema de IA de propósito general» (GPAIS) no se construyó con un solo caso de uso en mente, sino que completa todo tipo de tareas: entablar conversaciones humanas, componer sonetos e incluso escribir código de computadora.
ChatGPT y otras herramientas de IA generativa no encajaban claramente en las categorías de riesgo originales de la ley, lo que provocó una disputa continua sobre cómo deberían regularse.
¿CUÁLES SON LAS PROPUESTAS?
Los desarrolladores pueden construir sistemas de inteligencia artificial de propósito general, también conocidos como modelos básicos, para crear nuevas aplicaciones.
En ocasiones, los investigadores han sido tomados por sorpresa por el comportamiento de la IA , como el hábito de ChatGPT de «alucinar» respuestas falsas, donde el modelo subyacente está entrenado para predecir mejor cadenas de oraciones, pero a veces produce respuestas que suenan convincentes, pero que en realidad son falsas. – y cualquier peculiaridad subyacente oculta en el código de un modelo básico podría manifestarse de maneras inesperadas cuando se implemente en diferentes contextos.
Las propuestas de la UE para regular los modelos de fundaciones han incluido obligar a las empresas a documentar claramente los datos y capacidades de capacitación de su sistema, demostrar que han tomado medidas para mitigar los riesgos potenciales y someterse a auditorías realizadas por investigadores externos.
En las últimas semanas, Francia, Alemania e Italia –los países más influyentes de la UE– han cuestionado esa idea.
Las tres naciones quieren que a los fabricantes de modelos de IA generativa se les permita autorregularse, en lugar de obligarlos a cumplir con reglas estrictas.
Dicen que las regulaciones estrictas limitarán la capacidad de las empresas europeas para competir con empresas estadounidenses dominantes como Google y Microsoft.
Las empresas más pequeñas que crean herramientas sobre el código OpenAI también enfrentarían reglas más estrictas, mientras que los proveedores como OpenAI no.
¿QUÉ ESTÁ EN PROBLEMA CON LA APLICACIÓN DE LA LEY?
Los legisladores también están divididos sobre el uso de sistemas de inteligencia artificial por parte de las fuerzas del orden para la identificación biométrica de personas en espacios de acceso público, dijeron fuentes a Reuters.
Los legisladores de la UE quieren una regulación que proteja los derechos fundamentales de los ciudadanos, pero los estados miembros quieren cierta flexibilidad para que la tecnología sea utilizada en interés de la seguridad nacional, por la policía o las agencias de protección fronteriza, por ejemplo.
Los eurodiputados podrían abandonar una propuesta de prohibición de la identificación biométrica remota, dijo una fuente, si las exenciones para su uso fueran limitadas y claramente definidas.
¿CUÁL ES EL RESULTADO PROBABLE?
Si se acuerda un texto final el miércoles, el Parlamento de la UE, en teoría, podría convertir el proyecto de ley en ley a finales de este mes. Incluso entonces, podrían pasar cerca de dos años antes de que entre en vigor.
Sin embargo, sin un acuerdo final, los legisladores y los gobiernos de la UE podrían llegar a un «acuerdo provisional», cuyos detalles se definirán en semanas de reuniones técnicas. Eso corre el riesgo de reavivar desacuerdos de larga data.
Todavía tendrían que preparar un acuerdo para votarlo en primavera. Sin eso, la ley corre el riesgo de ser archivada hasta después de las elecciones parlamentarias de junio y el bloque de 27 miembros perdería su ventaja de ser el primero en regular la tecnología.
Informe de Martin Coulter Editado por Josephine Mason y David Evans
Fuente: reuters
