IBM y la empresa emergente Together AI han firmado un acuerdo plurianual de 240 millones de dólares para construir un clúster de inteligencia artificial a gran escala en IBM Cloud utilizando sistemas Nvidia, según anunciaron las compañías el martes.
El clúster proporcionará inferencias para modelos de IA de código abierto , que han ganado popularidad a medida que las empresas buscan controlar los costos de la IA y sopesan las preocupaciones sobre incidentes de ciberseguridad que involucran modelos de Anthropic, OpenAI y Meta.
La inferencia, el proceso de ejecutar modelos de IA entrenados para generar respuestas, se ha convertido en uno de los principales impulsores de la demanda de capacidad informática, lo que ha llevado a los proveedores de servicios en la nube y a los fabricantes de chips a invertir miles de millones de dólares en la expansión de la infraestructura de IA.
El clúster en IBM Cloud utilizará los sistemas HGX B300 de Nvidia, que conectan los procesadores Blackwell más recientes del fabricante de chips, y su equipo de red Ethernet Spectrum-X. Nvidia ha declarado que los chips Blackwell están optimizados para la inferencia de IA.
El clúster inicial contará con unos 2.000 chips Nvidia Blackwell 300 y estará ubicado en Estados Unidos, según declaró Kai Mak, director de ingresos de Together AI, a Reuters en una entrevista.
«Creemos que se agotará con al menos dos o tres meses de antelación», añadió Mak. «Tendremos todas las unidades vendidas mucho antes de que esté listo para su puesta en servicio».
La plataforma de Together AI, con sede en San Francisco, permite a las empresas entrenar y ejecutar cargas de trabajo de IA en modelos abiertos como DeepSeek, MiniMax y Kimi a un coste menor que los sistemas cerrados. Su última valoración fue de 8.300 millones de dólares en julio.
(Información de Anhata Rooprai en Bengaluru; Edición de Tasim Zahid)
Fuente: reuters
