Google informó a las autoridades australianas que recibió más de 250 quejas en todo el mundo durante casi un año de que su software de inteligencia artificial se utilizó para crear material terrorista deepfake.
La empresa propiedad de Alphabet El gigante tecnológico también dijo que había recibido docenas de informes de usuarios advirtiendo que su programa de inteligencia artificial, Gemini, estaba siendo utilizado para crear material de abuso infantil, según la Comisión Australiana de Seguridad Electrónica. Según la legislación australiana, las empresas tecnológicas deben proporcionar periódicamente a la Comisión de Seguridad Electrónica información sobre las medidas de minimización de daños o el riesgo de multas. El período del informe abarcó desde abril de 2023 hasta febrero de 2024. Desde que ChatGPT de OpenAI irrumpió en la conciencia pública a fines de 2022, los reguladores de todo el mundo han pedido mejores protecciones para que la IA no pueda usarse para permitir el terrorismo, el fraude, la pornografía deepfake y otros abusos.
La Comisión Australiana de Seguridad Electrónica calificó la revelación de Google como «un descubrimiento pionero a nivel mundial» sobre cómo los usuarios pueden estar explotando la tecnología para producir contenido dañino e ilegal. «Esto pone de relieve lo importante que es para las empresas que desarrollan productos de IA incorporar y probar la eficacia de las medidas de seguridad para evitar que se genere este tipo de material», dijo la comisionada de seguridad electrónica, Julie Inman Grant, en un comunicado. En su informe, Google afirmó que recibió 258 informes de usuarios sobre presunto contenido terrorista o extremista violento generado por IA mediante Gemini, y otros 86 informes de usuarios que alegaban material de abuso o explotación infantil generado por IA.
No dijo cuántas quejas verificó, según el regulador.
Un portavoz de Google dijo que no permitía la generación o distribución de contenido relacionado con la facilitación del extremismo violento o el terrorismo, la explotación o el abuso infantil u otras actividades ilegales. «Estamos comprometidos a ampliar nuestros esfuerzos para ayudar a mantener a los australianos seguros en línea», dijo el portavoz por correo electrónico. «La cantidad de informes de usuarios de Gemini que proporcionamos a eSafety representa el volumen global total de informes de usuarios, no las violaciones de políticas confirmadas».
Google utilizó el método de emparejamiento de tramas (un sistema que combina automáticamente imágenes recién cargadas con imágenes ya conocidas) para identificar y eliminar material de abuso infantil creado con Gemini. Pero no utilizó el mismo sistema para eliminar material terrorista o extremista violento generado con Gemini, añadió el regulador. El regulador ha multado a Telegram y Twitter, posteriormente rebautizada como X, por lo que calificó de deficiencias en sus informes. X ha perdido una apelación sobre su multa de 610.500 dólares australianos (382.000 dólares), pero planea apelar de nuevo. Telegram también planea impugnar su multa.
Reporte de Byron Kaye; editado por Edwina Gibbs y Sonali Paul
Fuente: reuters
