En una imagen aparentemente alterada, se ve al expresidente estadounidense Donald Trump abrazando a su bestia negra, el Dr. Anthony Fauci, quien sonríe en respuesta. En otro, Trump está besando a Fauci en la nariz.
Estas imágenes publicadas por la campaña del gobernador de Florida, Ron DeSantis, demuestran cómo los contendientes republicanos a la Casa Blanca en 2024 han elevado su guerra de palabras al campo de las redes sociales impulsadas por la IA, intercalando hechos con ficción.
Las imágenes forman parte de un video que el equipo de respuesta rápida de DeSantis compartió en Twitter. Critica a Trump por no despedir a Fauci, el ex alto funcionario de enfermedades infecciosas de EE. UU. cuyo impulso por las restricciones de COVID-19 lo convirtió en el hombre del saco para muchos conservadores.
El video incluye imágenes aparentemente reales de Trump en conferencias de prensa y entrevistas. Pero en la marca de 25 segundos, aparecen seis imágenes de Trump y Fauci, incluidas tres que los muestran abrazándose o besándose.
Es probable que esas tres imágenes sean generadas por IA, según un análisis de los rastros que dejan los generadores de imágenes sintéticas, dijo Matthew Stamm, profesor de ingeniería eléctrica e informática en la Universidad de Drexel. «Nuestros resultados arrojan consistentemente una decisión de que estas imágenes son falsas», dijo.
El video no revela ningún uso potencial de IA y la campaña de DeSantis no respondió a una pregunta sobre si las imágenes eran falsas o si se usó IA para crearlas.
Pero su aparición en la campaña de un candidato líder muestra cómo la tecnología se está abriendo camino en la carrera presidencial de 2024 a medida que una gran cantidad de nuevas herramientas de «IA generativa» hacen que sea barato y fácil crear deepfakes convincentes.
«Era particularmente astuto mezclar las imágenes reales y las falsas, como si la presencia de la imagen real le diera más credibilidad a las otras imágenes», dijo el pionero en análisis forense de imágenes digitales Hany Farid, quien enseña en la Universidad de California, Berkeley.
Una persona con conocimiento de la operación de campaña de DeSantis dijo que el lado de Trump había estado “publicando continuamente imágenes falsas y puntos de conversación falsos para difamar al gobernador”.
Trump, quien actualmente es el favorito para la nominación presidencial republicana, de hecho ha utilizado imágenes alteradas para atacar a DeSantis, su rival más cercano.
Sin embargo, parece haber compartido principalmente contenido obviamente falso, por ejemplo, una imagen de DeSantis montando un rinoceronte , una sugerencia de que el gobernador es un «republicano solo de nombre» (RINO).
La campaña de Trump no respondió de inmediato a una solicitud de comentarios. Su equipo tuiteó el jueves por la noche que el campo pro-DeSantis «pretende no saber la diferencia entre los memes y las engañosas imágenes falsas en el anuncio de DeSanctimonious», usando uno de los apodos de Trump para su rival.
Un representante del Dr. Fauci tampoco respondió de inmediato.
La herramienta de análisis forense del profesor Stamm de Drexel sugiere que las imágenes se crearon utilizando un modelo de IA llamado modelo de difusión, que sustenta productos populares de generación de imágenes de IA como DALL-E y Stability AI.
Hasta ahora, el único anuncio político generado por IA de alto perfil en los EE. UU. fue uno publicado por el Comité Nacional Republicano a fines de abril. El anuncio de 30 segundos, que el RNC reveló como generado en su totalidad por IA, utilizó imágenes falsas para sugerir un escenario cataclísmico en caso de que Biden fuera reelegido, con China invadiendo Taiwán y el cierre de San Francisco debido al crimen.
Nadie está seguro de hacia dónde conduce el camino de la IA generativa o cómo protegerse eficazmente contra su poder para la desinformación masiva, especialmente a medida que la IA mejora en calidad.
«En algún momento, los sistemas de IA generarán imágenes que no tendrán diferencias con las imágenes reales», dijo James O’Brien, profesor de informática en la Universidad de California, Berkeley. «En ese momento no habrá nada que detectar».
