Amazon.com, La unidad de nube dijo el miércoles que se ha asociado con la startup de inteligencia artificial Hugging Face para facilitar la ejecución de miles de modelos de inteligencia artificial en los chips informáticos personalizados de Amazon.
Valorado en 4.500 millones de dólares, Hugging Face se ha convertido en un centro central para que investigadores y desarrolladores de IA compartan chatbots y otro software de IA y cuenta con el respaldo de Amazon, Google de Alphabet y Nvidia, entre otros. Es el lugar principal al que acuden los desarrolladores para obtener y probar modelos de IA de código abierto como Meta Platforms Pero una vez que los desarrolladores han modificado un modelo de IA de código abierto, normalmente quieren utilizar el modelo para impulsar una pieza de software. El miércoles, Amazon y Hugging Face dijeron que se habían asociado para que fuera posible hacerlo en un chip personalizado de Amazon Web Services (AWS) llamado Inferentia2.
«Una cosa que es muy importante para nosotros es la eficiencia: asegurarnos de que la mayor cantidad de personas posible puedan ejecutar modelos y que puedan ejecutarlos de la manera más rentable», dijo Jeff Boudier, jefe de producto y crecimiento de Hugging Face.
Por su parte, AWS espera atraer a más desarrolladores de IA para que utilicen sus servicios en la nube para ofrecer IA. Si bien Nvidia domina el mercado de modelos de entrenamiento, AWS sostiene que sus chips pueden operar esos modelos entrenados -un proceso llamado inferencia- a un costo menor con el tiempo.
«Se entrenan estos modelos tal vez una vez al mes. Pero es posible que se estén ejecutando inferencias contra ellos decenas de miles de veces por hora. Ahí es donde Inferentia2 realmente brilla», dijo Matt Wood, quien supervisa los productos de inteligencia artificial en AWS.
Información de Stephen Nellis en San Francisco; Edición de Michael Perry
Fuente: reuters
