OpenAI no está satisfecho con algunos de los últimos chips de inteligencia artificial de Nvidia y ha buscado alternativas desde el año pasado, dijeron ocho fuentes familiarizadas con el asunto, lo que podría complicar la relación entre los dos actores de más alto perfil en el auge de la IA.
El cambio de estrategia del fabricante de ChatGPT, cuyos detalles se informan por primera vez aquí, se debe a un mayor énfasis en los chips utilizados para realizar elementos específicos de inferencia de IA, el proceso mediante el cual un modelo de IA, como el que impulsa la aplicación ChatGPT, responde a las consultas y solicitudes de los clientes. Nvidia sigue dominando el mercado de chips para el entrenamiento de grandes modelos de IA, mientras que la inferencia se ha convertido en un nuevo frente de competencia.
Esta decisión de OpenAI y otros de buscar alternativas en el mercado de chips de inferencia marca una prueba significativa del dominio de la IA de Nvidia y se produce mientras las dos compañías están en conversaciones de inversión. En septiembre, Nvidia dijo que tenía la intención de invertir hasta 100 mil millones de dólares en OpenAI como parte de un acuerdo que le dio al fabricante de chips una participación en la startup y le dio a OpenAI el efectivo que necesitaba para comprar los chips avanzados.
Se esperaba que el acuerdo se cerrara en cuestión de semanas, según informó Reuters. Sin embargo, las negociaciones se han prolongado durante meses. Durante ese tiempo, OpenAI ha cerrado acuerdos con AMD y otros para GPU diseñadas para competir con las de Nvidia. Pero su cambiante hoja de ruta de productos también ha modificado el tipo de recursos computacionales que requiere y ha estancado las negociaciones con Nvidia, según una persona familiarizada con el asunto. El sábado, el CEO de Nvidia, Jensen Huang, desestimó un informe de tensión con OpenAI, diciendo que la idea era «una tontería» y que Nvidia planeaba una gran inversión en OpenAI.
«Los clientes continúan eligiendo NVIDIA para inferencia porque ofrecemos el mejor rendimiento y costo total de propiedad a escala», afirmó Nvidia en un comunicado. Un portavoz de OpenAI dijo en una declaración separada que la compañía depende de Nvidia para impulsar la gran mayoría de su flota de inferencia y que Nvidia ofrece el mejor rendimiento por dólar para inferencia. Después de que se publicara la historia de Reuters, el director ejecutivo de OpenAI, Sam Altman, escribió en una publicación en X que Nvidia fabrica «los mejores chips de IA del mundo» y que OpenAI esperaba seguir siendo un «cliente gigantesco durante mucho tiempo».
Siete fuentes afirmaron que OpenAI no está satisfecho con la velocidad con la que el hardware de Nvidia puede proporcionar respuestas a los usuarios de ChatGPT para problemas específicos, como el desarrollo de software y la comunicación de la IA con otro software. Necesita nuevo hardware que eventualmente cubriría alrededor del 10% de las necesidades de computación de inferencia de OpenAI en el futuro, según declaró una de las fuentes a Reuters. El fabricante de ChatGPT ha discutido trabajar con startups como Cerebras y Groq para proporcionar chips para una inferencia más rápida, dijeron dos fuentes. Pero Nvidia llegó a un acuerdo de licencia de 20 mil millones de dólares con Groq que cerró las conversaciones de OpenAI, dijo una de las fuentes a Reuters
La decisión de Nvidia de adquirir Groq pareció un esfuerzo por reforzar su cartera tecnológica para competir mejor en una industria de IA en constante evolución, según afirmaron ejecutivos de la industria de chips. Nvidia, en un comunicado, afirmó que la propiedad intelectual de Groq complementaba en gran medida su hoja de ruta de productos.
ALTERNATIVAS DE NVIDIA
Los chips de procesamiento gráfico de Nvidia son adecuados para el procesamiento masivo de datos necesario para entrenar grandes modelos de IA como ChatGPT, que han sustentado el crecimiento explosivo de la IA a nivel mundial hasta la fecha. Pero los avances en IA se centran cada vez más en el uso de modelos entrenados para la inferencia y el razonamiento, lo que podría ser una nueva etapa más grande de la IA, inspirando los esfuerzos de OpenAI
La búsqueda de alternativas a las GPU por parte del fabricante de ChatGPT desde el año pasado se centró en empresas que fabricaban chips con grandes cantidades de memoria integrada en la misma pieza de silicio que el resto del chip, llamada SRAM. Incorporar la mayor cantidad posible de SRAM, que es muy costosa, en cada chip puede ofrecer ventajas de velocidad a los chatbots y otros sistemas de IA que procesan las solicitudes de millones de usuarios. La inferencia requiere más memoria que el entrenamiento, ya que el chip necesita dedicar relativamente más tiempo a recuperar datos de la memoria que a realizar operaciones matemáticas.
La tecnología de GPU de Nvidia y AMD depende de memoria externa, lo que aumenta el tiempo de procesamiento y ralentiza la interacción de los usuarios con un chatbot. Dentro de OpenAI, el problema se hizo especialmente visible en Codex, su producto para crear código informático, que la compañía ha estado promocionando agresivamente, añadió una de las fuentes. El personal de OpenAI atribuyó parte de la debilidad de Codex al hardware basado en GPU de Nvidia, según una fuente.
En una llamada con periodistas el 30 de enero, Altman dijo que los clientes que utilizan los modelos de codificación de OpenAI «darán gran importancia a la velocidad para el trabajo de codificación». Una forma en que OpenAI satisfará esa demanda es a través de su reciente acuerdo con Cerebras, dijo Altman, y agregó que la velocidad es menos imperativa para los usuarios ocasionales de ChatGPT. Los productos de la competencia, como Claude de Anthropic y Gemini de Google, se benefician de implementaciones que dependen en mayor medida de los chips fabricados internamente por Google, llamados unidades de procesamiento tensorial o TPU, que están diseñados para el tipo de cálculos necesarios para la inferencia y pueden ofrecer ventajas de rendimiento sobre los chips de IA de propósito general, como las GPU diseñadas por Nvidia.
NVIDIA EN MOVIMIENTO
Dado que OpenAI expresó sus reservas sobre la tecnología de Nvidia, esta contactó con empresas que desarrollan chips con alto contenido de SRAM, como Cerebras y Groq, para una posible adquisición, según las fuentes. Cerebras declinó la oferta y cerró un acuerdo comercial con OpenAI, anunciado el mes pasado. Cerebras declinó hacer comentarios. Groq mantuvo conversaciones con OpenAI para un acuerdo de suministro de potencia informática y recibió interés de inversores para financiar la empresa con una valoración aproximada de 14 000 millones de dólares, según personas familiarizadas con las conversaciones. Groq declinó hacer comentarios.
Pero para diciembre, Nvidia decidió licenciar la tecnología de Groq mediante un acuerdo no exclusivo y íntegramente en efectivo, según las fuentes. Si bien el acuerdo permitiría a otras empresas licenciar la tecnología de Groq, la compañía ahora se centra en la venta de software en la nube, ya que Nvidia contrató a los diseñadores de chips de Groq.
Información de Max A. Cherney, Krystal Hu y Deepa Seetharaman en San Francisco; edición de Kenneth Li, Peter Henderson y Nick Zieminski.
Fuente: reuters
