OpenAI ha sido testigo de varios intentos en los que sus modelos de IA se han utilizado para generar contenido falso, incluidos artículos extensos y comentarios en las redes sociales, destinados a influir en las elecciones, dijo el fabricante de ChatGPT en un informe el miércoles.
Los ciberdelincuentes utilizan cada vez más herramientas de inteligencia artificial, incluido ChatGPT, para ayudar en sus actividades maliciosas, como la creación y depuración de malware y la generación de contenido falso para sitios web y plataformas de redes sociales, afirmó la startup. En lo que va del año, neutralizó más de 20 intentos de este tipo, incluido un conjunto de cuentas de ChatGPT en agosto que se utilizaron para producir artículos sobre temas que incluían las elecciones estadounidenses, dijo la compañía. En julio también prohibió varias cuentas de Ruanda que se utilizaban para generar comentarios sobre las elecciones en ese país por publicarlos en el sitio de redes sociales X.
Ninguna de las actividades que intentaron influir en las elecciones mundiales atrajo una participación viral o audiencias sostenibles, añadió OpenAI. Existe una creciente preocupación por el uso de herramientas de inteligencia artificial y sitios de redes sociales para generar y propagar contenido falso relacionado con las elecciones, especialmente ahora que Estados Unidos se prepara para las elecciones presidenciales. Según el Departamento de Seguridad Nacional de Estados Unidos, este país ve una creciente amenaza de que Rusia, Irán y China intenten influir en las elecciones del 5 de noviembre, incluso mediante el uso de inteligencia artificial para difundir información falsa o divisiva.
OpenAI consolidó su posición como una de las empresas privadas más valiosas del mundo la semana pasada después de una ronda de financiación de 6.600 millones de dólares. ChatGPT tiene 250 millones de usuarios activos semanales desde su lanzamiento en noviembre de 2022.
Reporte de Deborah Sophia en Bengaluru; editado por Anil D’Silva
Fuente: reuters
