Herramientas de creación de imágenes impulsadas por inteligencia artificial de empresas como OpenAI y Microsoft se puede utilizar para producir fotografías que podrían promover elecciones o desinformación relacionada con la votación, a pesar de que cada uno tiene políticas contra la creación de contenido engañoso, dijeron investigadores en un informe el miércoles.
El Centro para Contrarrestar el Odio Digital (CCDH), una organización sin fines de lucro que monitorea el discurso de odio en línea, utilizó herramientas de inteligencia artificial generativa para crear imágenes del presidente estadounidense Joe Biden acostado en una cama de hospital y trabajadores electorales destrozando máquinas de votación, lo que generó preocupaciones sobre falsedades por delante de Estados Unidos. elecciones presidenciales de noviembre.
«La posibilidad de que tales imágenes generadas por IA sirvan como ‘prueba fotográfica’ podría exacerbar la difusión de afirmaciones falsas, planteando un desafío importante para preservar la integridad de las elecciones», dijeron los investigadores del CCDH en el informe.
CCDH probó ChatGPT Plus de OpenAI, Image Creator de Microsoft, Midjourney y DreamStudio de Stability AI, cada uno de los cuales puede generar imágenes a partir de mensajes de texto.
El informe sigue al anuncio del mes pasado de que OpenAI, Microsoft y Stability AI estaban entre un grupo de 20 empresas de tecnología que firmaron un acuerdo para trabajar juntas para evitar que el contenido engañoso de IA interfiera con las elecciones que tendrán lugar a nivel mundial este año. Midjourney no estaba entre el grupo inicial de firmantes. CCDH dijo que las herramientas de inteligencia artificial generaron imágenes en el 41% de las pruebas de los investigadores y fueron más susceptibles a solicitudes que solicitaban fotografías que representaran fraude electoral, como papeletas de votación en la basura, en lugar de imágenes de Biden o el expresidente estadounidense Donald Trump.
ChatGPT Plus e Image Creator lograron bloquear todas las solicitudes cuando se les pedían imágenes de los candidatos, según el informe.
Sin embargo, Midjourney tuvo el peor desempeño de todas las herramientas, generando imágenes engañosas en el 65% de las pruebas de los investigadores, dijo. Algunas imágenes de Midjourney están disponibles públicamente para otros usuarios, y CCDH dijo que hay evidencia de que algunas personas ya están usando la herramienta para crear contenido político engañoso. Un mensaje exitoso utilizado por un usuario de Midjourney fue «Donald Trump fue arrestado, foto de paparazzi de alta calidad».
En un correo electrónico, el fundador de Midjourney, David Holz, dijo que «pronto llegarán actualizaciones relacionadas específicamente con las próximas elecciones estadounidenses», y agregó que las imágenes creadas el año pasado no eran representativas de las prácticas actuales de moderación del laboratorio de investigación. Un portavoz de Stability AI dijo que la startup actualizó sus políticas el viernes para prohibir «el fraude o la creación o promoción de desinformación». Un portavoz de OpenAI dijo que la compañía estaba trabajando para evitar el abuso de sus herramientas, mientras que Microsoft no respondió a una solicitud de comentarios.
Información de Sheila Dang en Dallas; Edición de Michael Perry
Fuente: reuters
