Meta Platforms, propietario de Facebook planea implementar en sus centros de datos este año una nueva versión de un chip personalizado destinado a respaldar su impulso de inteligencia artificial (IA), según un documento interno de la compañía visto por Reuters el jueves.
El chip, una segunda generación de una línea interna de silicio que Meta anunció el año pasado, podría ayudar a reducir la dependencia de Meta de Nvidia chips que dominan el mercado y controlan los crecientes costos asociados con la ejecución de cargas de trabajo de IA mientras se apresura a lanzar productos de IA.
La mayor empresa de redes sociales del mundo ha estado luchando por aumentar su capacidad informática para los productos de IA generativa que consumen mucha energía y que está introduciendo en aplicaciones como Facebook, Instagram y WhatsApp y en dispositivos de hardware como sus gafas inteligentes Ray-Ban, gastando miles de millones de dólares para acumular arsenales de chips especializados y reconfigurar centros de datos para acomodarlos.
A la escala a la que opera Meta, una implementación exitosa de su propio chip podría potencialmente reducir cientos de millones de dólares en costos anuales de energía y miles de millones en costos de compra de chips, según Dylan Patel, fundador del grupo de investigación de silicio SemiAnalysis.
Los chips, la infraestructura y la energía necesarios para ejecutar aplicaciones de IA se han convertido en un gigantesco sumidero de inversión para las empresas de tecnología, lo que hasta cierto punto contrarresta las ganancias obtenidas en medio del entusiasmo en torno a la tecnología.
Un portavoz de Meta confirmó el plan para poner en producción el chip actualizado en 2024, diciendo que funcionaría en coordinación con los cientos de miles de unidades de procesamiento de gráficos (GPU) disponibles en el mercado, los chips de referencia para la IA, la compañía. estaba comprando.
«Consideramos que nuestros aceleradores desarrollados internamente son altamente complementarios a las GPU disponibles comercialmente al ofrecer la combinación óptima de rendimiento y eficiencia en cargas de trabajo metaespecíficas», dijo el portavoz en un comunicado.
El director ejecutivo de Meta, Mark Zuckerberg, dijo el mes pasado que la compañía planeaba tener para fin de año aproximadamente 350.000 procesadores emblemáticos «H100» de Nvidia, que produce las GPU más buscadas utilizadas para IA. Combinado con otros proveedores, Meta acumularía la capacidad informática equivalente a 600.000 H100 en total, afirmó.
El despliegue de su propio chip como parte de ese plan es un giro positivo para el proyecto interno de silicio de IA de Meta, después de la decisión de los ejecutivos en 2022 de desconectar la primera iteración del chip.
En cambio, la compañía optó por comprar GPU de Nvidia por valor de miles de millones de dólares, que tienen casi el monopolio de un proceso de inteligencia artificial llamado entrenamiento, que implica introducir enormes conjuntos de datos en modelos para enseñarles cómo realizar tareas.
El nuevo chip, denominado internamente «Artemis», al igual que su predecesor, sólo puede realizar un proceso conocido como inferencia en el que se pide a los modelos que utilicen sus algoritmos para hacer juicios de clasificación y generar respuestas a las indicaciones del usuario.
Reuters informó el año pasado que Meta también está trabajando en un chip más ambicioso que, al igual que las GPU, sería capaz de realizar tanto entrenamiento como inferencia.
La compañía con sede en Menlo Park, California, compartió detalles sobre la primera generación de su programa Meta Training and Inference Accelerator (MTIA) el año pasado. El anuncio presentó esa versión del chip como una oportunidad de aprendizaje.
A pesar de esos primeros tropiezos, un chip de inferencia podría ser considerablemente más eficiente a la hora de procesar los modelos de recomendación de Meta que los procesadores Nvidia, que consumen mucha energía, según Patel.
«Se está gastando mucho dinero y energía que se podría ahorrar», afirmó.
Información de Katie Paul en Nueva York y Stephen Nellis y Max A. Cherney en San Francisco; Edición de Kenneth Li y Mark Porter
Fuente: reuters
