SuperServer Supermicro SYS-821GE-TNHR Servidor de IA com 8 GPUs NVIDIA H100 com Resfriamento a Ar

Descrição do Servidor Supermicro de 8 GPUs H100:

O Supermicro SYS-821GE-TNHR é um Servidor de IA Avançado com Resfriamento a Ar projetado para oferecer desempenho excepcional para cargas de trabalho exigentes, especialmente no domínio de aplicações de IA e aprendizado de máquina.

Ele combina poderosas capacidades de processamento com opções de armazenamento escaláveis, permitindo a integração perfeita em infraestruturas de TI existentes. O SYS-821GE-TNHR também possui sistemas aprimorados de gerenciamento térmico que garantem operação confiável mesmo sob cargas computacionais intensas. Os principais recursos incluem suporte multi-GPU, extensas configurações de memória e slots de expansão flexíveis, todos voltados para otimizar a eficiência do data center.

Os recursos críticos do Supermicro SYS-821GE-TNHR incluem sua arquitetura escalável, que permite a integração flexível de GPUs ou opções de armazenamento adicionais. O servidor também oferece capacidade de memória aprimorada e suporte para vários slots de expansão PCIe, permitindo atualizações contínuas ao longo do tempo. Além disso, seu robusto sistema de fonte de alimentação garante operação ininterrupta mesmo sob cargas pesadas.

Servidor Supermicro de 8 GPUs H100 Especificação:

Detalhes do Servidor Supermicro de 8 GPUs H100:

O primeiro grande recurso deste servidor é que ele é uma plataforma 8U. Vemos muitos sistemas 6U e alguns sistemas 7U na indústria, mas a plataforma 8U é realmente por um bom motivo. Com um chassi mais alto, a Supermicro pode usar ventiladores grandes e espalhar o I/O em um formato maior.

A Supermicro construiu esta plataforma 8U porque ela é densa o suficiente para a maioria dos racks que fornecem menos de 60kW de energia, mesmo com a altura adicional. Ao aumentar o tamanho, obteve manutenibilidade líder na categoria, juntamente com alguns por cento de menor consumo de energia em comparação com um chassi 6U mais curto.

Temos cerca de 4,22 Tbps de largura de banda de rede saindo deste servidor, ou mais do que um switch 100GbE de 32 portas pode lidar. Essa é uma das forças motrizes por trás da demanda de rede atualmente na indústria.

As CPUs neste sistema são Intel Xeon, especificamente CPUs Intel Xeon Scalable de 4ª e 5ª Geração. Para codinomes, se você quiser pesquisar nos arquivos STH, estes são Sapphire Rapids e Emerald Rapids. Enquanto a plataforma DGX de referência da NVIDIA usa CPUs Intel Xeon, algumas pessoas preferem AMD EPYC, e a Supermicro também tem este mesmo servidor em EPYC.
As CPUs são um pouco diferentes aqui, pois possuem dissipadores de calor com ventoinhas. Elas ainda receberão fluxo de ar se a ventoinha ativa falhar, mas esses módulos de ventoinha são fáceis de substituir, pois são mantidos no lugar por um único parafuso.
Uma razão pela qual, mesmo com CPUs de 12 canais no mercado da AMD e da Intel, as pessoas gostam de CPUs de memória de 8 canais é que, com os soquetes de menor largura, é possível obter 2 DIMMs por canal. Isso significa 16 DIMMs por CPU ou 32 DIMMs no total.