China ha publicado requisitos de seguridad propuestos para empresas que ofrecen servicios impulsados por inteligencia artificial generativa, incluida una lista negra de fuentes que no pueden usarse para entrenar modelos de IA.
La IA generativa, popularizada por el éxito del chatbot ChatGPT de OpenAI, aprende cómo realizar acciones a partir de datos pasados y crea contenido nuevo , como texto o imágenes, basado en esa capacitación.
Los requisitos fueron publicados el miércoles por el Comité Nacional de Normalización de la Seguridad de la Información, que incluye funcionarios de la Administración del Ciberespacio de China (CAC), el Ministerio de Industria y Tecnología de la Información y la policía.
El comité propone realizar una evaluación de seguridad de cada conjunto de contenido utilizado para entrenar modelos de IA generativa de cara al público, y aquellos que contengan «más del 5% de información ilegal y dañina» se incluirán en la lista negra.
Dicha información incluye «promover el terrorismo» o la violencia, así como «derrocar el sistema socialista», «dañar la imagen del país» y «socavar la unidad nacional y la estabilidad social».
El borrador de las reglas también establece que la información censurada en Internet china no debe usarse para entrenar modelos.
Su publicación se produce poco más de un mes después de que los reguladores permitieran que varias empresas tecnológicas chinas, incluido el gigante de los motores de búsqueda Baidu, lanzaran al público sus chatbots generativos impulsados por IA.
Desde abril, la CAC ha dicho que quería que las empresas presentaran evaluaciones de seguridad a las autoridades antes de lanzar al público servicios generativos impulsados por IA.
En julio, el regulador del ciberespacio publicó medidas que rigen dichos servicios que, según los analistas, eran mucho menos onerosas que las medidas descritas en un borrador de abril.
El borrador de los requisitos de seguridad publicado el miércoles requiere que las organizaciones que entrenan estos modelos de IA soliciten el consentimiento de las personas cuya información personal, incluidos los datos biométricos, se utiliza con fines de capacitación.
También establecen pautas detalladas sobre cómo evitar violaciones de propiedad intelectual.
Los países de todo el mundo están luchando por establecer barreras para esta tecnología. China ve la IA como un área en la que quiere rivalizar con Estados Unidos y se ha propuesto convertirse en líder mundial en este campo para 2030.
Reportaje de Eduardo Baptista. Edición de Jane Merriman y Jan Harvey
Fuente: reuters
