Partimos do modelo de IA, das máquinas virtuais ou do volume de dados e chegamos à configuração: quantas GPUs, quanta memória, que disco e que rede. Depois instalamos, colocamos para rodar e seguimos cuidando do equipamento com um time especializado 24/7.
Uma primeira estimativa, pela memória, para rodar um modelo de linguagem no seu servidor. Os valores iniciais são um exemplo: troque pelos do seu caso. O guia de servidor para IA local explica cada campo.
-
Como a conta é feita: cada bilhão de parâmetros ocupa 2 GB em 16 bits, 1 GB em 8 bits e 0,5 GB em 4 bits; a folga soma memória para o cache de contexto, as ativações e a margem de operação. O número de GPUs arredonda para cima. Valores em GB aproximados. É uma estimativa de memória para inferência: velocidade e número de usuários atendidos dependem do teste com a sua carga, e dividir um modelo entre várias GPUs exige software que suporte esse paralelismo. Treinar ou ajustar um modelo pede bem mais memória.
O equipamento chega pronto para trabalhar, e o cuidado continua depois da instalação. Os serviços podem ser contratados com o servidor ou em separado. Ver os serviços
GPU, processador, memória, disco e rede escolhidos pela carga, com a potência elétrica e o espaço no rack conferidos.
Instalação física, sistema operacional, drivers de GPU, ambiente de IA ou de virtualização e testes com a sua carga.
Time especializado 24/7 no monitoramento, nas atualizações planejadas e no atendimento a quem usa o servidor.
Diagnóstico, troca de peças e acompanhamento dos chamados de garantia junto à fabricante, conforme o escopo contratado.
Mais GPUs, memória ou disco no mesmo servidor quando a plataforma permite, ou um segundo servidor integrado ao primeiro.
Para quem administra e para quem usa, com documentação em português do ambiente entregue.
O catálogo da Supermicro vai de servidores compactos para a borda até sistemas com oito GPUs refrigerados a líquido. A escolha começa pelo que vai rodar. Ver as linhas por carga
Servidores com GPU, até oito placas de data center, para rodar modelos de linguagem e visão dentro da empresa.
Servidores de rack com um ou dois processadores e muita memória para máquinas virtuais, bancos de dados e ERP.
Sistemas multinó, com vários servidores no mesmo chassi, para computação científica e nuvem privada.
Servidores de armazenamento com dezenas de discos ou SSDs NVMe para arquivos, backup e dados de treinamento.
Pela política publicada pela Supermicro, servidores completos têm três anos de mão de obra e um ano de peças, contados da fatura da fabricante, e troca antecipada no primeiro ano, mediante RMA e nas condições da fabricante. O reparo segue o processo de devolução (RMA) da fabricante. A manutenção contratada cuida do diagnóstico, da abertura dos chamados e da troca, conforme o escopo e a disponibilidade de peças.
| Item | Garantia padrão |
|---|---|
| Mão de obra (suporte e RMA) | 3 anos |
| Peças | 1 ano |
| Troca antecipada (mediante RMA) | 1 ano |
| Reparo | por devolução (RMA) |
GPU, memória, disco, rede e sala para rodar modelos dentro da empresa.
Qual família da fabricante serve para cada tipo de carga.
Prazos da garantia padrão, processo de RMA e manutenção contratada.
Configuração, implementação, sustentação, manutenção e evolução.
Somos uma empresa independente que fornece e configura servidores da fabricante Supermicro, com implementação, sustentação e manutenção. Este site não pertence à fabricante e não fala em nome dela.
Depende do tamanho do modelo, da precisão e do número de usuários. Em 16 bits, cada bilhão de parâmetros ocupa cerca de 2 GB de memória de GPU; em 8 bits, cerca de 1 GB. A calculadora desta página faz a primeira estimativa pela memória, e a configuração final sai do teste com a sua carga.
Pela política publicada pela fabricante, servidores completos têm três anos de mão de obra e um ano de peças, contados da fatura da fabricante, e troca antecipada no primeiro ano, mediante RMA e nas condições da fabricante. A manutenção contratada cobre o diagnóstico, os chamados e a troca de peças conforme o escopo.
Sim. A implementação deixa o servidor rodando a sua carga, e a sustentação e a manutenção seguem com um time especializado 24/7. Os serviços podem ser contratados com o equipamento ou em separado.
Servidores de rack com GPU fazem barulho alto e consomem muita energia. Na maioria dos casos ficam numa sala técnica ou num data center, com acesso pela rede da empresa.
Depende da configuração e da disponibilidade das peças, principalmente das GPUs. O prazo aparece na proposta de cada configuração.
O foco é o servidor completo, configurado e instalado, com os serviços. Para ampliar um servidor fornecido por nós, as peças compatíveis entram na proposta de evolução.
Para a primeira configuração, bastam três respostas:
Com isso, enviamos a configuração, o prazo e a proposta, com o equipamento e cada serviço separados.