OpenAI está explorando decisiones colectivas sobre IA, como las entradas de Wikipedia

El creador de ChatGPT, OpenAI, está probando cómo recopilar una amplia información sobre las decisiones que afectan a su inteligencia artificial, dijo el lunes su presidente, Greg Brockman.

En AI Forward , un evento en San Francisco organizado por Goldman Sachs Group Inc. y SV Angel, Brockman discutió los contornos generales de cómo el fabricante del popular chatbot está buscando la regulación de la IA a nivel mundial.

Un anuncio que anticipó es similar al modelo de Wikipedia, que dijo que requiere que personas con puntos de vista diversos se unan y estén de acuerdo con las entradas de la enciclopedia.

“No estamos simplemente sentados en Silicon Valley pensando que podemos escribir estas reglas para todos”, dijo sobre la política de IA. “Estamos empezando a pensar en la toma de decisiones democrática”.

Otra idea que discutió Brockman, sobre la cual OpenAI elaboró ​​en una publicación de blog el lunes , es que los gobiernos de todo el mundo deben coordinarse para garantizar que la IA se desarrolle de manera segura.

Desde el lanzamiento de ChatGPT el 30 de noviembre, la tecnología de IA generativa que puede generar una prosa asombrosamente autorizada a partir de indicaciones de texto ha cautivado al público, convirtiendo al programa en la aplicación de más rápido crecimiento de todos los tiempos. La IA también se ha convertido en un foco de preocupación por su capacidad para crear imágenes falsas y otra información errónea.

Al evaluar el camino a seguir para la IA, Brockman miró a Wikipedia y a otros lugares. Él y OpenAI dijeron que un organismo como la Agencia Internacional de Energía Atómica (OIEA) podría imponer restricciones en el despliegue, verificar el cumplimiento de los estándares de seguridad y rastrear el uso de la potencia informática.

Otra sugerencia fue un acuerdo global para limitar el crecimiento anual de las capacidades de IA de frontera, o un proyecto global conjunto en el que los principales gobiernos podrían participar.

El CEO de OpenAI, Sam Altman, propuso varias ideas a los legisladores estadounidenses la semana pasada para establecer barreras de seguridad para la inteligencia artificial, entre ellas, exigir licencias para desarrollar los modelos de IA más sofisticados y establecer un régimen de gobierno relacionado. Está visitando a los políticos europeos esta semana.

Información de Jeffrey Dastin en San Francisco
Fuente: reuters

Artículos Relacionados

DEJA UN COMENTARIO:

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.