Un nuevo conjunto de leyes que rigen el uso de la inteligencia artificial (IA) en la Unión Europea obligará a las empresas a ser más transparentes sobre los datos utilizados para entrenar sus sistemas, abriendo uno de los mercados más estrechos de la industria. secretos guardados.
En los 18 meses transcurridos desde que Microsoft OpenAI presentó ChatGPT al público , ha habido un aumento de la participación pública y la inversión en IA generativa, un conjunto de aplicaciones que se pueden utilizar para producir rápidamente texto, imágenes y contenido de audio. Pero a medida que la industria crece, surgen dudas sobre cómo las empresas de inteligencia artificial obtienen los datos utilizados para entrenar sus modelos, y si alimentarlos con libros y películas de Hollywood sin el permiso de sus creadores equivale a una violación de los derechos de autor.
La Ley de IA de la UE recientemente aprobada se implementará en fases durante los próximos dos años, lo que dará a los reguladores tiempo para implementar las nuevas leyes mientras las empresas enfrentan un nuevo conjunto de obligaciones. Pero aún se desconoce cómo funcionarán exactamente algunas de estas reglas en la práctica. Una de las secciones más polémicas de la ley establece que las organizaciones que implementen modelos de IA de propósito general, como ChatGPT, deberán proporcionar «resúmenes detallados» del contenido utilizado para entrenarlos. La recién creada Oficina de IA dijo que planea publicar una plantilla para que las organizaciones la sigan a principios de 2025, luego de una consulta con las partes interesadas.
Si bien los detalles aún no se han definido, las empresas de inteligencia artificial se resisten mucho a revelar en qué han sido entrenados sus modelos, describiendo la información como un secreto comercial que daría a los competidores una ventaja injusta si se hiciera pública.
«Sería un sueño hecho realidad ver los conjuntos de datos de mis competidores, y también que ellos vieran los nuestros», dijo Matthieu Riouf, director ejecutivo de la empresa de edición de imágenes basada en inteligencia artificial Photoroom.
«Es como cocinar», añadió. «Hay una parte secreta de la receta que los mejores chefs no compartirían, el ‘je ne sais quoi’ que la hace diferente». La granularidad de estos informes de transparencia tendrá grandes implicaciones para las pequeñas empresas emergentes de inteligencia artificial y las grandes empresas tecnológicas como Google y Meta, que han puesto la tecnología en el centro de sus futuras operaciones.
COMPARTIR SECRETOS COMERCIALES
Durante el año pasado, varias empresas de tecnología destacadas, incluidas Google, OpenAI y Stability AI, se enfrentaron a demandas de creadores que afirmaban que su contenido se utilizó incorrectamente para entrenar sus modelos. Si bien el presidente de Estados Unidos, Joe Biden, aprobó una serie de órdenes ejecutivas centradas en los riesgos de seguridad de la IA, las cuestiones sobre los derechos de autor no se han examinado plenamente. Los llamados a que las empresas de tecnología paguen a los titulares de derechos por los datos han recibido apoyo bipartidista en el Congreso.
En medio de un escrutinio cada vez mayor, las empresas de tecnología han firmado una serie de acuerdos de licencia de contenidos con medios de comunicación y sitios web. Entre otros, OpenAI firmó acuerdos con Financial Times y The Atlantic, mientras que Google cerró acuerdos con NewsCorp sitio de redes sociales Reddit. A pesar de tales medidas, OpenAI generó críticas en marzo cuando la CTO Mira Murati se negó a responder una pregunta del Wall Street Journal sobre si los videos de YouTube se habían utilizado para entrenar su herramienta de generación de videos Sora, que según la compañía violaría sus términos y condiciones.
El mes pasado, OpenAI enfrentó más reacciones negativas por presentar una voz generada por IA descrita como «inquietantemente similar» a la suya por la actriz Scarlett Johansson en una demostración pública de la versión más nueva de ChatGPT. Thomas Wolf, cofundador de la startup líder en inteligencia artificial, Hugging Face, dijo que apoyaba una mayor transparencia, pero ese sentimiento no era compartido en toda la industria. «Es difícil saber cómo resultará. Aún queda mucho por decidir», afirmó. Los legisladores de alto rango de todo el continente siguen divididos.
Dragos Tudorache, uno de los legisladores que supervisó la redacción de la Ley de IA en el parlamento europeo, dijo que las empresas de IA deberían verse obligadas a hacer públicos sus conjuntos de datos. «Tienen que ser lo suficientemente detallados para que Scarlett Johansson, Beyoncé o quien sea sepa si su trabajo, sus canciones, su voz, su arte o su ciencia se utilizaron en el entrenamiento del algoritmo», dijo.
Un funcionario de la Comisión afirmó: «La Ley de IA reconoce la necesidad de garantizar un equilibrio adecuado entre la necesidad legítima de proteger los secretos comerciales y, por otra parte, la necesidad de facilitar la capacidad de las partes con intereses legítimos, incluidos los titulares de derechos de autor, para ejercer sus derechos según el Derecho de la Unión.»
Bajo el presidente Emmanuel Macron, el gobierno francés se ha opuesto en privado a la introducción de reglas que podrían obstaculizar la competitividad de las nuevas empresas europeas de IA. En su intervención en la conferencia Viva Technology celebrada en París en mayo, el ministro de Finanzas francés, Bruno Le Maire, dijo que quería que Europa fuera un líder mundial en inteligencia artificial, y no sólo un consumidor de productos estadounidenses y chinos. «Por una vez, Europa, que ha creado controles y normas, necesita comprender que hay que innovar antes de regular», afirmó. «De lo contrario, se corre el riesgo de regular tecnologías que no se dominan, o de regularlas mal porque no se dominan».
Información de Martin Coulter, información adicional de Leigh Thomas; Edición de Matt Scuffham y Elaine Hardcastle
Fuente: reuters
