Antes de los cuatro días de exilio del CEO de OpenAI, Sam Altman , varios investigadores enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad, dijeron a Reuters dos personas familiarizadas con el asunto.
La carta y el algoritmo de IA no reportados anteriormente fueron un desarrollo clave antes de la destitución de Altman por parte de la junta, el ejemplo de la IA generativa, dijeron las dos fuentes. Antes de su regreso triunfal el martes por la noche, más de 700 empleados habían amenazado con renunciar y unirse al patrocinador Microsoft en solidaridad con su líder despedido.
Las fuentes citaron la carta como un factor entre una lista más larga de quejas de la junta que llevaron al despido de Altman. Reuters no pudo revisar una copia de la carta. Los investigadores que escribieron la carta no respondieron de inmediato a las solicitudes de comentarios.
Según una de las fuentes, la ejecutiva de larga data Mira Murati mencionó el proyecto, llamado Q*, a los empleados el miércoles y dijo que se envió una carta a la junta antes de los eventos de este fin de semana.
Después de que se publicó la historia, un portavoz de OpenAI dijo que Murati les dijo a los empleados qué medios estaban a punto de informar, pero no comentó sobre la exactitud de los informes.
El fabricante de ChatGPT había logrado avances en Q* (pronunciado Q-Star), que algunos creen internamente podría ser un gran avance en la búsqueda de superinteligencia de la startup, también conocida como inteligencia artificial general (AGI), dijo una de las personas a Reuters. OpenAI define AGI como sistemas de IA que son más inteligentes que los humanos.
Gracias a los enormes recursos informáticos, el nuevo modelo pudo resolver ciertos problemas matemáticos, dijo la persona bajo condición de anonimato porque no estaba autorizada a hablar en nombre de la empresa. Aunque solo realizaban matemáticas al nivel de los estudiantes de escuela primaria, superar dichas pruebas hizo que los investigadores se sintieran muy optimistas sobre el éxito futuro de Q*, dijo la fuente.
Reuters no pudo verificar de forma independiente las capacidades de Q* afirmadas por los investigadores.
SUPERINTELIGENCIA
Los investigadores consideran que las matemáticas son una frontera en el desarrollo de la IA generativa. Actualmente, la IA generativa es buena en escritura y traducción de idiomas al predecir estadísticamente la siguiente palabra, y las respuestas a la misma pregunta pueden variar ampliamente. Pero conquistar la capacidad de hacer matemáticas (donde sólo hay una respuesta correcta) implica que la IA tendría mayores capacidades de razonamiento que se asemejarían a la inteligencia humana. Los investigadores de IA creen que esto podría aplicarse a investigaciones científicas novedosas, por ejemplo.
A diferencia de una calculadora que puede resolver un número limitado de operaciones, AGI puede generalizar, aprender y comprender.
En su carta a la junta, los investigadores señalaron la destreza y el peligro potencial de la IA, dijeron las fuentes sin especificar las preocupaciones de seguridad exactas señaladas en la carta. Los científicos informáticos llevan mucho tiempo debatiendo el peligro que suponen las máquinas superinteligentes, si, por ejemplo, pudieran decidir que la destrucción de la humanidad era de su interés.
En este contexto, Altman lideró los esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento en la historia y atrajo la inversión (y los recursos informáticos) necesarios de Microsoft para acercarse a la superinteligencia o AGI.
Además de anunciar una serie de nuevas herramientas en una manifestación este mes, Altman la semana pasada bromeó en una reunión de líderes mundiales en San Francisco diciendo que creía que AGI estaba a la vista.
«Cuatro veces en la historia de OpenAI, la más reciente fue en las últimas dos semanas, he estado en la sala, cuando en cierto modo empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante, y «Poder hacer eso es el honor profesional de mi vida», dijo en la cumbre de Cooperación Económica Asia-Pacífico.
Un día después, la junta despidió a Altman.
Anna Tong y Jeffrey Dastin en San Francisco y Krystal Hu en Nueva York; Edición de Kenneth Li y Lisa Shumaker
Fuente: reuters
