Novo chip para servidores
A Microsoft revelou o Maia 300, um novo chip de inteligência artificial para servidores. O componente é voltado a processos de inferência, fase em que um modelo já treinado recebe informações e produz respostas.
Segundo a Microsoft, o Maia 300 processa 40% mais tokens por megawatt do que infraestruturas baseadas em GPUs. O foco inclui conversas extensas, tarefas que exigem raciocínio e agentes capazes de executar várias ações em sequência.
Arquitetura e memória
O Maia 300 usa chiplets, blocos especializados que separam funções como cálculos, controle de memória e comunicação. Esses componentes são fabricados pelo processo N2P da TSMC.
A arquitetura busca manter os dados próximos ao ponto de uso, reduzindo o percurso das informações dentro do sistema. Cada acelerador tem 288 GB de memória HBM4 e capacidade de transferência de até 18 TB por segundo.
A Microsoft afirma que essa combinação ajuda a executar modelos maiores, trabalhar com conversas mais longas e atender mais solicitações simultaneamente.
Configuração completa e previsão
Na configuração completa, o sistema reúne 96 aceleradores. A Microsoft afirma que o rack pode processar até sete vezes mais tokens que um rack Maia 200.
A implantação do Maia 300 está prevista para começar em 2027.