Meta usará aceleradores AMD Instinct: o segredo dos custos baixos?

O que chegou de novo?

A AMD revelou um acelerador de IA personalizado, baseado no Instinct MI450, especificamente para a Meta. Este novo hardware será três vezes mais eficiente em termos de utilização de memória comparado ao Instinct MI455X completo, focando principalmente em sistemas de recomendação nas plataformas sociais.

Por dentro da máquina (Análise Técnica)

O Instinct MI450 personalizado contará com 144 GB de memória HBM4, utilizando seis pacotes 8-Hi. Em contraste, a versão completa possui 432 GB, mas a Meta procura otimizar custo e performance, reduzindo assim a capacidade de memória. Essa estratégia pode resultar numa diminuição significativa nos custos de produção dos aceleradores, uma vez que o HBM4 é notoriamente caro. Com esta configuração, espera-se que o acelerador consuma menos energia durante a execução de cargas de trabalho de recomendação sem comprometer o desempenho.

Contudo, essa especialização apresenta desafios. A capacidade reduzida de 144 GB poderá limitar o uso em tarefas de treinamento e inferência de modelos de linguagem de grande escala. O MI455X, com seus 432 GB e 19,6 TB/s de largura de banda, é ideal para estas aplicações, oferecendo um desempenho superior. No entanto, o design personalizado pode resultar numa base instalada de hardware que não é intercambiável para diferentes tipos de carga de trabalho, o que poderia forçar a Meta a considerar novamente o uso de aceleradores mais versáteis da Nvidia para aplicações de IA.

Vale a pena o investimento?

A decisão da Meta de optar por aceleradores personalizados da AMD tem seu mérito em termos de economia, podendo resultar numa poupança significativa, possivelmente na ordem de dezenas de milhões de euros. No entanto, as limitações em versatilidade e capacidade podem significar que a Meta acabará por necessitar de soluções alternativas da Nvidia para outras aplicações de IA. Para empresas e profissionais que buscam acelerar sistemas de recomendação, este hardware parece ser uma boa aposta, desde que as suas limitações sejam bem compreendidas.

Veredito do Técnico

Em suma, embora o novo acelerador da AMD adapte-se bem a cargas de trabalho específicas, a sua versatilidade limitada poderá justificar a necessidade de investimento adicional em hardware mais robusto da concorrência.