OpenAI, la startup detrás del popular chatbot de inteligencia artificial ChatGPT, dijo el jueves que otorgará 10 subvenciones iguales de un fondo de $ 1 millón para experimentos en procesos democráticos para determinar cómo se debe gobernar el software de IA para abordar el sesgo y otros factores.
Las subvenciones de $ 100,000 se destinarán a los destinatarios que presenten marcos convincentes para responder preguntas como si AI debe criticar a las figuras públicas y qué debe considerar el «individuo promedio» en el mundo, según una publicación de blog que anuncia el fondo.
Los críticos dicen que los sistemas de IA como ChatGPT tienen un sesgo inherente debido a las entradas utilizadas para dar forma a sus puntos de vista. Los usuarios han encontrado ejemplos de salidas racistas o sexistas del software de IA. Crece la preocupación de que la IA que trabaja junto con motores de búsqueda como Google de Alphabet Inc. y Bing de Microsoft Corp. pueda producir información incorrecta de manera convincente.
OpenAI, respaldado por $ 10 mil millones de Microsoft, ha liderado el llamado a la regulación de la IA. Sin embargo, recientemente amenazó con retirarse de la Unión Europea por las reglas propuestas.
«El borrador actual de la Ley de IA de la UE estaría sobreregulando, pero hemos escuchado que será retirado», dijo a Reuters el director ejecutivo de OpenAI, Sam Altman. «Todavía están hablando de eso».
Las subvenciones de la startup no financiarían tanta investigación de IA. Los salarios de los ingenieros de IA y otros en el sector candente superan fácilmente los $ 100,000 y pueden superar los $ 300,000.
Los sistemas de IA «deberían beneficiar a toda la humanidad y diseñarse para ser lo más inclusivos posible», dijo OpenAI en la publicación del blog. «Estamos lanzando este programa de subvenciones para dar un primer paso en esta dirección».
La startup de San Francisco dijo que los resultados de la financiación podrían dar forma a sus propios puntos de vista sobre la gobernanza de la IA, aunque dijo que ninguna recomendación sería «vinculante».
Altman ha sido una figura destacada que pide la regulación de la IA, al mismo tiempo que implementa nuevas actualizaciones para ChatGPT y el generador de imágenes DALL-E. Este mes compareció ante un subcomité del Senado de EE. UU. y dijo que “si esta tecnología sale mal, puede salir bastante mal”.
Microsoft también ha respaldado recientemente una regulación integral de la IA, incluso cuando prometió insertar la tecnología en sus productos, compitiendo con OpenAI, Google y las nuevas empresas para ofrecer IA a consumidores y empresas.
Casi todos los sectores tienen interés en el potencial de la IA para mejorar la eficiencia y reducir los costos laborales, junto con la preocupación de que la IA pueda difundir información errónea o inexactitudes fácticas, lo que los expertos de la industria llaman «alucinaciones».
AI ya está detrás de varias parodias ampliamente creídas. Una imagen viral falsa reciente de una explosión cerca del Pentágono afectó brevemente al mercado de valores.
A pesar de los llamados a una mayor regulación, el Congreso no ha logrado aprobar una nueva legislación para reducir significativamente a Big Tech.
