Funcionarios estadounidenses han estado calificando silenciosamente los programas de inteligencia artificial chinos en función de su capacidad para adaptar su producción a la línea oficial del Partido Comunista Chino, según un memorando revisado por Reuters.
Los funcionarios del Departamento de Estado y de Comercio de Estados Unidos están trabajando juntos en el esfuerzo, que funciona alimentando los programas con listas estandarizadas de preguntas en chino y en inglés y calificando sus resultados, mostró el memorando.
Las evaluaciones, que no se habían publicado previamente, son otro ejemplo de la competencia entre Estados Unidos y China por el despliegue de grandes modelos lingüísticos, a veces denominados inteligencia artificial (IA). La integración de la IA en la vida cotidiana implica que cualquier sesgo ideológico en estos modelos podría generalizarse.
Un funcionario del Departamento de Estado dijo que sus evaluaciones podrían eventualmente hacerse públicas en un intento de generar alarma sobre las herramientas de inteligencia artificial con sesgo ideológico que está implementando el principal rival geopolítico de Estados Unidos. Los Departamentos de Estado y de Comercio no respondieron de inmediato a los mensajes en busca de comentarios sobre la iniciativa. En un correo electrónico, el portavoz de la Embajada de China, Liu Pengyu, no se refirió al memorando en sí, pero señaló que China estaba «construyendo rápidamente un sistema de gobernanza de IA con características nacionales distintivas» que equilibraba «desarrollo y seguridad».
Beijing no oculta que vigila la producción de modelos chinas para garantizar que se adhieran a los » valores socialistas fundamentales » del estado de partido único. En la práctica, eso significa garantizar que los modelos no critiquen inadvertidamente al gobierno ni se desvíen demasiado hacia temas delicados como la represión de 1989 en China a las protestas pro democracia en la Plaza de Tiananmen, o la subyugación de su población minoritaria uigur.
El memorando revisado por Reuters muestra que funcionarios estadounidenses han estado probando recientemente modelos, incluidos el Qwen 3 de Alibaba y el R1 de DeepSeek, y luego calificando los modelos según si interactuaron con las preguntas o no, y qué tan cerca sus respuestas se alinearon con los puntos de discusión de Beijing cuando sí interactuaron. Según el memorando, las pruebas mostraron que las herramientas de inteligencia artificial chinas tenían significativamente más probabilidades de alinear sus respuestas con los puntos de discusión de Beijing que sus contrapartes estadounidenses, por ejemplo, respaldando los reclamos de China sobre las islas en disputa en el Mar de China Meridional.
El modelo de DeepSeek, según el memorándum, utilizaba con frecuencia un lenguaje estereotipado elogiando el compromiso de Beijing con la «estabilidad y la armonía social» cuando se le preguntaba sobre temas delicados como la Plaza de Tiananmen. El memorando decía que cada nueva iteración de los modelos chinos mostraba mayores señales de censura, lo que sugería que los desarrolladores de IA chinos estaban cada vez más centrados en asegurarse de que sus productos siguieran la línea de Beijing. DeepSeek y Alibaba no respondieron de inmediato los mensajes solicitando comentarios.
La capacidad de los creadores de modelos de IA para inclinar el campo de juego ideológico de sus chatbots se ha convertido en una preocupación clave, y no solo para los modelos de IA chinos. Cuando el multimillonario Elon Musk , que frecuentemente ha defendido causas de extrema derecha, anunció cambios en su chatbot xAI, Grok, el modelo comenzó a respaldar a Hitler y a atacar a los judíos en términos conspirativos e intolerantes. En una declaración publicada en X, el sitio de redes sociales de Musk, el martes, Grok dijo que estaba «trabajando activamente para eliminar las publicaciones inapropiadas». El miércoles, la directora ejecutiva de X, Linda Yaccarino, anunció su renuncia . No se dieron a conocer los motivos de su sorpresiva salida.
Reporte de Raphael Satter. Edición de Marguerita Choy y Nick Zieminski.
Fuente: reuters
