Se você quer trabalhar no desenvolvimento de modelos de inteligência artificial, hoje o ideal é contar com GPUs profissionais NVIDIA. Agora uma empresa acaba de facilitar e começou a colocar à venda sua nova estação de trabalho para esta área: uma baseada no espetacular GH200.
Um PC que é muito mais que um PC. A empresa GPTshop.ai criou um supercomputador em formato PC e alcançou o que dizem ser “o PC desktop ARM mais poderoso do mundo”. E é, especialmente graças ao “superchip” NVIDIA GH200 Grace Hopper.
Muito melhor que o H100 ou A100. O GH200 custa cinco vezes menos que o H100 e três vezes menos que o A100, consome dez vezes menos energia que o H100 e cinco vezes menos que o A100, e seu desempenho é mais ou menos que o do A100 e não está longe do H100. A empresa compara com outras opções (4 x AMD Mi300A, 8x RTX A6000) e em todos os casos afirma que esta aposta é muito superior. Uma pechincha, vamos lá. Pelo menos, em comparação com seus antecessores e algumas de suas teorias alternativas.
Formato PC silencioso. Normalmente os equipamentos dedicados a essas tarefas são servidores em formato rack de 19 polegadas, finos mas muito longos. Geralmente são máquinas muito barulhentas (90 dB) e pouco transportáveis, mas na GPTshop criaram esta estação de trabalho que, graças ao seu sistema de refrigeração, gira em torno de 25 dB, o que representa um nível de ruído apreciável, mas nada incômodo em comparação com o desses servidores.
Configuração de hardware bestial. O equipamento é baseado no já mencionado NVIDIA GH200 Grace Hopper Superchip, que consiste em uma CPU NVIDIA Grace de 72 núcleos e uma GPU NVIDIA H100 Tensor Core. Temos também 480 GB de memória ECC LPDDR5X, 96 GB de memória HBM3 (ou 144 GB de HBM3e), duas fontes de alimentação de 2.000 ou 2.400 W e um bom número de slots PCIe e portas de conexão.
Desempenho excepcional. Na Phoronix eles analisaram o desempenho de seu CPU ARM e embora em alguns testes tenha perdido para os melhores chips x86-64 da Intel e AMD, foi a NVIDIA quem venceu mais testes: 15 de 23 contra Emeral Rapids e 13 de 23 contra os chips Bérgamo e Gênova. Eles não analisaram a GPU, que é o componente chave para o processamento e desenvolvimento de IA. No GPTshop indicam que a potência é 989 TFLOPS FP32. O do RTX 4090 é de 82,58 TFLOPS.
Mas é muito caro (ou talvez nem tanto). O problema desta estação de trabalho é que começa nos 45.900 euros – há uma versão com refrigeração líquida e mais memória por 62.500 – um valor que certamente a tira do bolso de muitos dos nossos bolsos. Ainda assim, o preço não é nada absurdo, considerando que só a placa de vídeo H100 pode custar cerca de US$ 40.000. Por mais um pouco teremos uma máquina com uma GPU ainda melhor e pronta para começar a trabalhar desde o minuto zero.
Em Xataka | Opera lança IA: sua nova infraestrutura na Islândia é um cluster NVIDIA H100 para inteligência artificial