Meta usa 100.000 GPUs NVIDIA H100 AI para Llama 4 #ÚltimasNotícias #tecnologia

Mark Zuckerberg apresentou uma atualização sobre o trabalho da Meta com o novo modelo Llama 4, que está sendo treinado em um cluster de GPUs NVIDIA H100. Em suas palavras, é “maior do que qualquer coisa” que ele já viu.

A Meta está desenvolvendo o Llama 4 e Zuckerberg informou investidores e analistas em uma conferência nesta semana que o lançamento inicial do novo modelo é esperado para o final deste ano. Zuckerberg disse: “Estamos treinando os modelos Llama 4 em um cluster que é maior do que 100.000 H100s”.

Atualmente, a Meta está em uma corrida com a xAI de Elon Musk, que pretende dobrar o tamanho de seu cluster de supercomputador Colossus, que possui 100.000 GPUs NVIDIA Hopper e está sendo atualizado para 200.000 GPUs NVIDIA Hopper.

O novo supercomputador da Meta, com seus 100.000+ GPUs NVIDIA H100, custou mais de $2 bilhões apenas nos chips de GPU H100. Em uma conversa recente, o CEO da NVIDIA, Jensen Huang, falou com o CEO da Meta, Mark Zuckerberg. Quando Huang mencionou que a Meta agora possui mais de 600.000 GPUs NVIDIA H100, Zuckerberg respondeu que a Meta é uma “boa cliente” da NVIDIA.

Fonte: Toms Hardware.