Nvidia anunció el martes una nueva configuración para sus chips de inteligencia artificial avanzada que está diseñada para acelerar las aplicaciones de IA generativa.
La nueva versión del Grace Hopper Superchip aumenta la cantidad de memoria de alto ancho de banda, lo que le dará al diseño la capacidad de alimentar modelos de IA más grandes, según el vicepresidente de hiperescala y HPC de Nvidia, Ian Buck. La configuración está optimizada para realizar funciones de inferencia de IA que potencian de manera efectiva las aplicaciones de IA generativa como ChatGPT.
El diseño Grace Hopper Superchip de Nvidia une una de las unidades de procesamiento de gráficos (GPU) H100 de la compañía con un procesador central diseñado por Nvidia.
«Tener una memoria más grande permite, permite que el modelo permanezca residente en una sola GPU y tenga que requerir múltiples sistemas o múltiples GPU para poder ejecutarse», dijo Buck en una conferencia telefónica con periodistas.
Los modelos de IA subyacentes que impulsan las aplicaciones de IA generativa que son capaces de producir texto e imágenes similares a los humanos continúan creciendo en tamaño. A medida que aumentan los tamaños de los modelos, requieren una mayor cantidad de memoria para funcionar sin conectar chips y sistemas separados, lo que degrada el rendimiento.
«La memoria adicional simplemente aumenta el rendimiento de la GPU», dijo Buck.
La nueva configuración llamada GH200 estará disponible en el segundo trimestre del próximo año, dijo Buck.
Nvidia planea vender dos sabores: una versión que incluye dos chips que los clientes pueden integrar en los sistemas y un sistema de servidor completo que combina dos diseños de Grace Hopper.
