SuperServer Supermicro SYS-821GE-TNHR 8 NVIDIA H100 GPU Air Cooled AI Server

H100 Supermicro 8 GPU Server Descrição:

O Supermicro SYS-821GE-TNHR é um servidor avançado de IA resfriado a ar projetado para oferecer desempenho excepcional para cargas de trabalho exigentes, especialmente no domínio da IA e aplicações de aprendizado de máquina.

Combina capacidades de processamento poderosas com opções de armazenamento escaláveis, permitindo uma integração contínua nas infraestruturas de TI existentes.O SYS-821GE-TNHR também possui sistemas de gestão térmica aprimorados que garantem uma operação confiável mesmo sob cargas computacionais intensasAs principais características incluem suporte multi-GPU, configurações de memória extensas e slots de expansão flexíveis, todos destinados a otimizar a eficiência do data center.

As características críticas do Supermicro SYS-821GE-TNHR incluem sua arquitetura escalável, que permite a integração flexível de GPUs adicionais ou opções de armazenamento.O servidor também oferece maior capacidade de memória e suporte para vários slots de expansão PCIeAlém disso, o seu robusto sistema de alimentação garante uma operação ininterrupta mesmo sob cargas pesadas.

H100 Supermicro 8 GPU ServerEspecificações:

H100 Supermicro 8 GPU Server Detalhes:

A primeira grande característica deste servidor é que é uma plataforma 8U. Vemos muitos sistemas 6U e alguns sistemas 7U na indústria, mas a plataforma 8U é realmente por uma boa razão.Com um chassi mais alto Supermicro pode usar grandes ventiladores e espalhar a I / O em um fator de forma maior.

A Supermicro construiu esta plataforma de 8U porque é suficientemente densa para a maioria das prateleiras que fornecem menos de 60 kW de energia mesmo com a altura adicional.Ele tem uma capacidade de manutenção líder na sua classe juntamente com um consumo de energia alguns por cento menor em comparação com um chassi 6U mais curto.

Temos cerca de 4,22 Tbps de largura de banda da rede vindo deste servidor, ou mais do que um switch de 32 portas 100GbE pode lidar.Essa é uma das forças motrizes por trás da demanda de rede agora na indústria.

As CPUs deste sistema são Intel Xeon, especificamente 4a e 5a geração Intel Xeon Scalable CPUs.Enquanto a plataforma DGX de referência da NVIDIA usa CPUs Intel Xeon, algumas pessoas preferem AMD EPYC, e Supermicro tem este mesmo servidor em EPYC também.
As CPUs são um pouco diferentes aqui desde que eles têm ventilado dissipadores de calor.mas estes módulos de ventilador são bastante fáceis de substituir uma vez que são mantidos no lugar por um único parafuso.
Uma razão pela qual, mesmo com CPUs de 12 canais no mercado, tanto da AMD quanto da Intel, as pessoas gostam de CPUs de memória de 8 canais é que, com os soquetes de largura menor, pode-se obter 2 DIMMs por canal.Isso significa 16 DIMMs por CPU ou 32 DIMMs no total.