El gobierno español aprobó el martes un proyecto de ley que impone multas masivas a las empresas que utilicen contenido generado por inteligencia artificial (IA) sin etiquetarlo adecuadamente como tal, en un intento por frenar el uso de los llamados «deepfakes».
El proyecto de ley adopta las directrices de la histórica Ley de IA de la Unión Europea que impone estrictas obligaciones de transparencia a los sistemas de IA considerados de alto riesgo, dijo a los periodistas el ministro de Transformación Digital, Oscar López. «La IA es una herramienta muy poderosa que puede utilizarse para mejorar nuestras vidas… o para difundir desinformación y atacar la democracia», afirmó. España es uno de los primeros países de la UE en implementar las reglas del bloque, consideradas más completas que el sistema de Estados Unidos, que depende en gran medida del cumplimiento voluntario y de un mosaico de regulaciones estatales.
López agregó que todos eran susceptibles a ataques de «deepfake», un término para videos, fotografías o audios que han sido editados o generados a través de algoritmos de IA pero que se presentan como reales. El proyecto de ley español, que debe ser aprobado por la Cámara Baja, clasifica el incumplimiento del etiquetado adecuado del contenido generado por IA como una «delincuencia grave» que puede dar lugar a multas de hasta 35 millones de euros (38,2 millones de dólares) o el 7% de su facturación anual global. Garantizar que los sistemas de IA no dañen a la sociedad ha sido una prioridad para los reguladores desde que OpenAI presentó ChatGPT a fines de 2022, que sorprendió a los usuarios al involucrarlos en conversaciones similares a las humanas y realizar otras tareas.
El proyecto de ley también prohíbe otras prácticas, como el uso de técnicas subliminales (sonidos e imágenes imperceptibles) para manipular a grupos vulnerables. López citó como ejemplos los chatbots que incitan a las personas con adicciones al juego o los juguetes que animan a los niños a realizar retos peligrosos. También impediría que las organizaciones clasifiquen a las personas a través de sus datos biométricos utilizando IA, calificándolas en función de su comportamiento o rasgos personales para concederles acceso a beneficios o evaluar su riesgo de cometer un delito. Sin embargo, las autoridades aún podrían utilizar vigilancia biométrica en tiempo real en espacios públicos por razones de seguridad nacional.
La aplicación de las nuevas normas será competencia de la recién creada agencia supervisora de IA, AESIA, excepto en casos específicos relacionados con la privacidad de datos, delitos, elecciones, calificaciones crediticias, seguros o sistemas del mercado de capitales, que serán supervisados por sus correspondientes organismos de control.
Información de David Latona; Edición de Inti Landauro y Tomasz Janowski
Fuente: reuters
