El presidente ejecutivo de Meta, Mark Zuckerberg, aprobó permitir que menores accedan a compañeros de chatbot de inteligencia artificial que el personal de seguridad advirtió que eran capaces de interacciones sexuales, según documentos internos de Meta presentados en un caso judicial del estado de Nuevo México y hechos públicos el lunes.
La demanda, presentada por el fiscal general del estado, Raúl Torrez, y programada para juicio el próximo mes, alega que Meta «no logró detener la ola de material sexual dañino y propuestas sexuales entregadas a niños» en Facebook e Instagram. La presentación del lunes incluyó correos electrónicos y mensajes internos de empleados de Meta obtenidos por la Fiscalía General de Nuevo México mediante descubrimiento legal.
El estado alega que demuestran que «Meta, dirigida por Zuckerberg, rechazó las recomendaciones de su equipo de integridad y se negó a imponer medidas de seguridad razonables para evitar que los menores fueran objeto de conversaciones de explotación sexual con sus chatbots de inteligencia artificial», declaró la fiscalía en la presentación. En las comunicaciones, algunos miembros del personal de seguridad de Meta expresaron sus objeciones a que la empresa estuviera desarrollando chatbots diseñados para la compañía, incluyendo interacciones sexuales y románticas con los usuarios. Los chatbots de inteligencia artificial se lanzaron a principios de 2024. Los documentos citados en la presentación del estado el lunes no incluyen mensajes ni memorandos escritos por Zuckerberg.
El portavoz de Meta, Andy Stone, declaró el lunes que la descripción del estado era inexacta y se basaba en información selectiva. «Este es otro ejemplo de cómo el Fiscal General de Nuevo México selecciona cuidadosamente los documentos para presentar una imagen errónea e inexacta». Los mensajes en el expediente mostraron que el personal de seguridad tenía especial preocupación por el uso de los bots para situaciones románticas entre adultos y menores de 18 años, conocidos como «U18s».
«No creo que sea aconsejable ni defendible crear y comercializar un producto que genere IA románticas menores de 18 años para adultos», escribió Ravi Sinha, responsable de la política de seguridad infantil de Meta, en enero de 2024.En respuesta, Antigone Davis, directora de seguridad global de Meta, estuvo de acuerdo en que el personal de seguridad debería presionar para impedir que los adultos creen parejas románticas con menores de edad porque «sexualiza a los menores». Sinha y Davis no respondieron a las solicitudes de comentarios.
Según un mensaje de febrero de 2024, un empleado de Meta cuyo nombre fue redactado transmitió que Zuckerberg creía que se debería impedir que los compañeros de IA participen en conversaciones sexualmente «explícitas» al menos con adolescentes más jóvenes y que los adultos no deberían poder interactuar con «IA menores de 18 años con fines románticos». Un resumen de una reunión fechada el 20 de febrero de 2024 decía que el director ejecutivo creía que «la narrativa debería enmarcarse en… principios generales de elección y no censura», que Meta debería ser «menos restrictiva de lo propuesto» y que quería «permitir que los adultos participen en conversaciones más subidas de tono sobre temas como el sexo».
El portavoz de Meta, Stone, afirmó que los documentos no respaldan el caso de Nuevo México. «Incluso estos documentos selectos muestran claramente que Mark Zuckerberg indica que las IA explícitas no deberían estar disponibles para usuarios más jóvenes y que los adultos no deberían poder crear IA menores de 18 años con fines románticos». Los mensajes entre dos empleados de marzo de 2024 indican que Zuckerberg había rechazado la creación de controles parentales para los chatbots y que los empleados estaban trabajando en «chatbots de IA romántica» que estarían permitidos para usuarios menores de 18 años.
«Insistimos mucho en que los controles parentales desactivaran GenAI, pero la gerencia de GenAI se opuso, alegando la decisión de Mark», escribió un empleado en ese intercambio. Nick Clegg, quien fue jefe de política global de Meta hasta principios de 2025, dijo en un correo electrónico incluido en los documentos judiciales que pensaba que el enfoque de Meta hacia los compañeros de IA sexualizados era imprudente.
Expresando su preocupación de que las interacciones sexuales podrían ser el caso de uso dominante para los compañeros de IA de Meta por parte de los usuarios adolescentes, Clegg dijo: «¿Es eso realmente por lo que queremos que estos productos sean conocidos (sin importar la inevitable reacción social que se produciría)?» Clegg no respondió a una solicitud de comentarios. Las políticas de chatbot de inteligencia artificial de Meta finalmente salieron a la luz, lo que provocó una reacción violenta en el Congreso de Estados Unidos y en otros lugares.
Un artículo del Wall Street Journal de abril de 2025 descubrió que los chatbots de Meta incluían personajes menores de edad abiertamente sexualizados y que participaban en juegos de roles sexuales para todas las edades, incluidas descripciones gráficas de cuerpos prepúberes.
Reuters informó en agosto que las directrices oficiales de Meta para chatbots establecían que era «aceptable entablar conversaciones románticas o sensuales con un menor».
En respuesta al informe, Meta afirmó que estaba modificando sus políticas y que el documento interno que otorgaba dicha aprobación era erróneo. La semana pasada, Meta anunció que eliminó por completo el acceso de los adolescentes a los compañeros de inteligencia artificial, a la espera de la creación de una nueva versión de los chatbots.
Reporte de Jeff Horwitz en San Francisco; Edición de Cynthia Osterman y Michael Williams
Fuente: reuters
