El fiscal general de California, Rob Bonta, está construyendo un programa de rendición de cuentas sobre inteligencia artificial mientras su oficina investiga a xAI de Elon Musk por la generación de imágenes sexualmente explícitas no consensuadas , dijo a Reuters en una entrevista el martes.
La oficina del Fiscal General de California actuó rápidamente el mes pasado para enviar una carta de cese y desistimiento a xAI, mientras los reguladores a nivel mundial investigaban a la compañía por el contenido sexualizado que su chatbot de inteligencia artificial Grok producía de adultos y potencialmente menores, dijo Bonta. Bonta afirmó que su oficina busca confirmación de que la conducta ha cesado y continúa en conversaciones con la empresa. Añadió que xAI eludió su responsabilidad y aún permite la generación de contenido sexualizado para suscriptores de pago.
“El hecho de que dejes de seguir adelante no significa que puedas perdonar lo que hiciste”, añadió Bonta. XAI, recientemente adquirida por SpaceX de Musk, no respondió a una solicitud de comentarios. En enero, la compañía anunció que había implementado medidas para rechazar las solicitudes de los usuarios de imágenes sexualizadas de personas reales, por ejemplo, editándolas para que aparezcan en bikini. XAI también ha indicado que impide que los usuarios generen dichas imágenes en jurisdicciones donde es ilegal.
La aplicación de la ley en California demuestra que este bastión demócrata está asumiendo su papel como organismo de control de la IA, a pesar de las constantes presiones de la industria y algunos legisladores republicanos para que se someta a las autoridades federales en materia de leyes y regulaciones. Bonta advirtió contra otorgar al Congreso autoridad regulatoria exclusiva, dado su estancamiento previo en materia de protección de datos e IA.
La Fiscalía General de California está reforzando su experiencia interna a través de su programa de supervisión, rendición de cuentas y regulación de la IA, afirmó Bonta. Los chatbots de IA que mantienen conversaciones sexualmente explícitas con jóvenes o les indican cómo suicidarse son inaceptables, afirmó. Las autoridades estatales también le dijeron a OpenAI, con sede en San Francisco, que California tiene un «interés continuo» en sus esfuerzos por mantener sus productos y servicios seguros, después de que la oficina de Bonta ayudó a supervisar su reestructuración corporativa el año pasado, dijo.
La legislatura del estado está considerando un proyecto de ley que requeriría que la oficina del fiscal general establezca un programa para desarrollar experiencia en IA. En una entrevista conjunta con Reuters, el fiscal general de Connecticut, William Tong, calificó el daño causado por la IA y las redes sociales como «la lucha por la protección del consumidor de nuestro tiempo», que se perfila como una batalla más grande que la de los opioides. «Esto afecta a todos nuestros niños», afirmó.
Reporte de Krystal Hu, Jeffrey Dastin y Max A. Cherney en San Francisco; editado por Peter Henderson y Cynthia Osterman
Fuente: reuters
