Guia da unidade de distribuição de resfriamento: como funcionam as CDUs em data centers

O que uma unidade de distribuição de resfriamento realmente faz

Todo rack de servidor refrigerado a líquido precisa de dois circuitos de água que nunca se misturam. O circuito da instalação transporta água ou uma mistura de água e glicol de uma planta de resfriamento, um refrigerador seco ou uma torre de resfriamento para a fileira de racks. O loop tecnológico, às vezes chamado de loop secundário, faz circular um fluido muito mais limpo e bem controlado diretamente através de placas frias montadas em CPUs, GPUs e memória. O unidade de distribuição de resfriamento fica entre esses dois circuitos e executa quatro trabalhos ao mesmo tempo.

Primeiro, ele troca calor do circuito secundário para o circuito da instalação através de um trocador de calor de placas, sem nunca permitir que os dois fluidos se toquem fisicamente. Em segundo lugar, ele bombeia o fluido secundário através dos coletores do servidor a uma vazão controlada, geralmente medida em litros por minuto por rack. Terceiro, ele filtra partículas do circuito secundário para proteger os canais estreitos dentro das placas frias, que podem ter apenas 0,3 milímetros. Quarto, ele monitora e relata o status de temperatura, pressão, vazão e vazamento ao sistema de gerenciamento predial do data center.

Como o circuito secundário é selado e tem um volume pequeno em comparação com o circuito da instalação, ele pode funcionar a uma temperatura mais restrita e previsível do que a água bruta do edifício, e é por isso que o resfriamento da placa fria pode suportar valores de potência de projeto térmico do chip que o resfriamento do ar não consegue alcançar. Um rack que precisaria de vários milhares de pés cúbicos por minuto de fluxo de ar para permanecer dentro da temperatura operacional segura pode, em vez disso, ser resfriado com algumas dezenas de litros por minuto de fluido circulante, o que é uma grande parte da razão pela qual o resfriamento líquido é agora considerado o disjuntor de teto prático para a densidade do acelerador.

Vale a pena ser preciso sobre o que a CDU não é. Não é um chiller, não gera frio do nada e não substitui a planta mecânica. É um dispositivo de transferência e controle situado entre a planta e o rack, e sua função é garantir que o fluido que toca os cavacos permaneça dentro de uma faixa estreita e estável, independentemente do que o circuito da instalação esteja fazendo no outro lado do trocador de calor.

Uma breve história de como as CDUs chegaram ao data hall

As unidades de distribuição de refrigeração não começaram em data centers comerciais. O projeto principal, um circuito secundário selado isolado do abastecimento de água de uma instalação por meio de um trocador de calor de placas, originou-se em laboratórios de computação de alto desempenho e aplicações de resfriamento de processos industriais décadas antes, onde equipamentos sensíveis precisavam de água limpa e quimicamente controlada, em vez de qualquer coisa que saísse do riser de água gelada de um edifício. Os centros de supercomputação adotaram essa abordagem cedo porque seus processadores funcionavam mais quentes e mais densos do que qualquer coisa em uma sala de servidores corporativos típica.

À medida que a computação baseada em GPU passou de um nicho de pesquisa para uma infraestrutura corporativa e de nuvem convencional, o mesmo princípio de isolamento foi reembalado em uma categoria de produto voltada para operadores de data centers que nunca haviam tocado em um loop líquido. O que costumava ser um skid de engenharia personalizada construído para a instalação de um único supercomputador tornou-se um produto padronizado, montável em rack ou no chão, com níveis de capacidade definidos, coletores plug-and-play e monitoramento remoto integrado de fábrica. Essa padronização é a principal razão pela qual a refrigeração líquida se tornou viável em escala comercial, em vez de permanecer uma ferramenta especializada para laboratórios nacionais.

Tipos de CDU In-Row, In-Rack e Sidecar comparados

As unidades de distribuição de resfriamento são geralmente vendidas em três formatos físicos, e a escolha afeta tudo, desde o espaço físico até o cabeamento e o planejamento de redundância.

As unidades no rack são atraentes para retrofits porque exigem o menor espaço ocupado pelo circuito secundário e podem ser adicionadas a um único gabinete sem tocar no restante da fileira, mas multiplicam o número de bombas, filtros e trocadores de calor que precisam de manutenção periódica em um corredor. As unidades em linha atingem um meio-termo que muitos provedores de colocation preferem porque uma falha de uma única unidade afeta apenas alguns gabinetes, em vez de um pod inteiro, e a unidade geralmente pode ser puxada e reparada pela frente sem perturbar os racks vizinhos.

As unidades laterais e de nível de sala estão se tornando a escolha mais comum para novos clusters de treinamento de IA porque a centralização do bombeamento e da troca de calor reduz o número de peças móveis por rack e simplifica as zonas de detecção de vazamentos, embora exija uma tubulação de circuito secundário maior e um equilíbrio de pressão mais cuidadoso em uma rede de distribuição mais longa. Os operadores que migram para módulos de treinamento de densidade muito alta, geralmente na faixa de 100 kW ou mais por rack, tendem a optar por esse formato porque ele permite que a equipe de projeto mecânico concentre o acesso à manutenção, peças sobressalentes e monitoramento em um só lugar, em vez de distribuí-los por dezenas de unidades em nível de gabinete.

Arquiteturas CDU líquido para líquido versus líquido para ar

Além do formato físico, os CDUs também diferem na forma como rejeitam o calor. Uma CDU líquido-líquido, que é a configuração mais comum em novas construções, troca calor diretamente com a água resfriada da instalação ou com o circuito de água do condensador através de um trocador de calor de placas. Em vez disso, uma CDU líquido-ar rejeita o calor para o ar ambiente através de um conjunto de radiador e ventilador, o que significa que não requer nenhuma conexão de água da instalação.

Vantagens de líquido para líquido

Essa arquitetura pode ser dimensionada para densidades muito mais altas porque a água transporta muito mais calor por unidade de fluxo do que o ar e dissocia inteiramente o circuito secundário das condições do ar ambiente, o que torna o desempenho muito mais previsível. É a escolha padrão para qualquer instalação que já possua uma estação de água gelada ou um circuito de resfriamento seco disponível na fileira de racks.

Vantagens líquido-ar

Essa arquitetura é útil em situações de modernização onde é impraticável instalar uma nova tubulação de água gelada em uma fileira, ou em locais de borda menores que não possuem nenhum circuito de água da instalação. A desvantagem é que as unidades líquido-ar ainda dependem da temperatura do ar ambiente para sua rejeição final de calor, de modo que sua capacidade e eficiência se degradam um pouco em salas quentes e contribuem com calor adicional de volta para a sala, que o sistema de ar condicionado da sala precisa remover.

Onde uma unidade de energia hidráulica DC se encaixa no circuito

Parte da confusão que os compradores enfrentam vem da mistura de unidades de energia hidráulica construídas para máquinas industriais com pacotes de bombeamento dentro de uma unidade de distribuição de resfriamento. Um Unidade de energia hidráulica CC , no contexto de resfriamento, refere-se a um conjunto compacto de bomba-motor-reservatório que funciona em corrente contínua, mais comumente 24 V ou 48 V, e impulsiona a circulação de fluido para skids de refrigeração líquida menores ou implantados na borda, onde um pacote completo de bomba CA trifásica seria superdimensionado ou indisponível.

Os módulos de bomba acionados por CC aparecem com mais frequência em três situações: gabinetes de borda de telecomunicações que possuem apenas usinas de energia CC no local, data centers em contêineres ou modulares construídos para locais remotos sem fornecimento trifásico estável e conjuntos de bombas de reserva redundantes que precisam manter o fluido circulando durante uma transferência momentânea de energia CA. Nestes casos, a unidade de energia hidráulica CC atua como o músculo dentro da CDU, movendo o líquido refrigerante através do coletor e das placas frias, enquanto a placa de controle da CDU gerencia a posição da válvula, a mistura de bypass e os pontos de ajuste de temperatura.

Uma CDU bem projetada construída em torno de uma arquitetura de bomba DC normalmente inclui uma pequena bateria ou buffer de supercapacitor para que o bombeamento não pare nem mesmo pelas poucas centenas de milissegundos que uma chave de transferência automática leva para se mover entre as alimentações de utilidade, já que mesmo uma breve interrupção da bomba pode permitir pontos quentes localizados em uma placa fria de GPU totalmente carregada. As operadoras de telecomunicações, em particular, há muito tempo contam com plantas de 48 Vcc para todos os equipamentos em um gabinete, e estender esse mesmo barramento CC para a bomba de resfriamento evita a necessidade de uma alimentação CA separada apenas para operar o hardware de resfriamento.

Dimensionando uma unidade de energia hidráulica DC para uma plataforma de resfriamento

O dimensionamento segue a mesma física subjacente de qualquer seleção de bomba: a vazão necessária em relação à queda de pressão do sistema determina a potência necessária do motor e, em seguida, a tensão CC e o consumo de corrente são derivados desse valor de potência. Um pequeno skid de resfriamento de borda que suporta um único rack pode precisar apenas de uma bomba CC consumindo menos de 150 watts, enquanto uma unidade lateral maior construída em torno de um barramento CC para um pod completo pode exigir um banco de bombas e um reservatório muito maior, ponto em que muitos operadores avaliam se uma arquitetura CC ainda faz sentido em comparação com o bombeamento CA trifásico padrão.

Considerações de confiabilidade específicas para módulos de bomba CC

Como as unidades de energia hidráulica CC são frequentemente implantadas em locais periféricos não tripulados ou com pouca equipe, a redundância e o diagnóstico remoto são ainda mais importantes do que em um data hall com equipe. Procure cabeçotes de bomba duplos redundantes compartilhando um único reservatório, monitoramento de consumo de corrente que possa sinalizar uma falha no rolamento do motor antes que ele falhe completamente e um controlador que possa relatar o status por meio de uma interface padrão mesmo quando o local não tiver equipe de TI no local para inspecionar fisicamente a unidade.

Componentes principais dentro de um CDU moderno

• Trocador de calor de placas: transfere calor entre instalações e circuitos tecnológicos sem mistura de fluidos, normalmente placas soldadas de aço inoxidável ou titânio.
• Bombas redundantes: quase sempre implantado na configuração Nº 1 para que uma única falha na bomba não interrompa o resfriamento.
• Filtros de partículas classificados para capturar detritos de até 25 a 50 mícrons antes que o fluido atinja os canais da placa fria.
• Válvulas modulantes de três vias que misturam o fluido de retorno com o fluido de fornecimento para atingir uma temperatura fixa do circuito tecnológico, independentemente das oscilações da água da instalação.
• Medidores de vazão e sensores de pressão diferencial em cada ramificação do rack para detectar bloqueios precocemente.
• Cabo de detecção de vazamento ou sensores pontuais colocados no ponto mais baixo do gabinete e sob as conexões do coletor.
• Um tanque de expansão ou bexiga para absorver a expansão térmica do circuito secundário selado.
• Um controlador com conectividade de rede, geralmente Modbus TCP ou SNMP, para integração com a pilha de monitoramento do data center.
• Válvulas de isolamento nos lados do circuito da instalação e da tecnologia para que a unidade possa passar por manutenção ou ser substituída sem drenar toda a fileira.
• Um painel local de interface homem-máquina, geralmente uma pequena tela sensível ao toque, para ajuste de ponto de ajuste no local e revisão de alarmes.

Cada um desses componentes desempenha um papel distinto na confiabilidade geral, e ignorar qualquer um deles para reduzir custos tende a aparecer mais tarde como um problema de manutenção ou tempo de inatividade, em vez de uma economia inicial. As válvulas de isolamento, em particular, são frequentemente ignoradas em projetos orçamentários, e sua ausência transforma uma troca rotineira de bomba em um evento que requer drenagem e reabastecimento de todo o circuito secundário da linha.

Dimensionando corretamente uma unidade de distribuição de resfriamento

Subdimensionar uma CDU é o erro mais comum e mais caro que os operadores cometem, porque uma unidade que parece adequada no papel na carga de projeto muitas vezes não consegue lidar com os picos de energia transitórios que os clusters de GPU modernos produzem durante as rajadas de treinamento. Três números são mais importantes no dimensionamento.

Carga térmica total versus capacidade nominal

Some a potência térmica do projeto de cada componente refrigerado a líquido na linha e, em seguida, aplique uma margem de segurança de pelo menos 20% para futuras atualizações de rack. Uma unidade avaliada exatamente com a carga atual não deixa espaço quando um cliente troca por uma geração de acelerador de maior potência dezoito meses depois, e modernizar uma CDU após o fato é muito mais perturbador do que especificar margem extra desde o início.

Temperatura de aproximação

Esta é a diferença de temperatura entre a água da instalação que entra no trocador de calor e a água do circuito tecnológico que sai dele. Uma temperatura de aproximação mais restrita, geralmente de 2 a 3 graus Celsius em unidades bem projetadas, significa que a CDU pode fornecer água mais fria aos chips mesmo quando a água da instalação está quente, o que é muito importante em climas ou estações onde um refrigerador seco não pode produzir água muito fria. Uma temperatura de aproximação mais ampla, por outro lado, força a instalação a funcionar mais fria para compensar, o que aumenta o uso de energia do refrigerador em todo o edifício.

Taxa de fluxo por rack

A maioria dos fabricantes de placas frias especifica uma vazão necessária por acelerador, geralmente na faixa de 1 a 3 litros por minuto por GPU. Multiplique isso pelo número de aceleradores em um rack e, em seguida, confirme se a curva nominal da bomba da CDU pode manter esse fluxo contra a queda de pressão do coletor completo, da tubulação e das conexões de desconexão rápida, uma vez que as desconexões rápidas por si só podem ser responsáveis ​​por uma parcela significativa da perda total de pressão do sistema. É comum que as equipes dimensionem as bombas apenas com base na queda de pressão da placa fria e se esqueçam de adicionar as perdas do coletor e das conexões, que então aparecem como uma vazão menor do que o esperado quando o sistema está totalmente construído.

Comportamento de carga parcial

Um cluster raramente funciona continuamente com potência nominal total. Períodos de inatividade, lacunas na programação de trabalhos em lote e janelas de manutenção criam condições de carga parcial, e uma CDU com bombas de velocidade variável pode desacelerar durante esses períodos para economizar energia, em vez de operar com fluxo total, independentemente da carga de calor real. Projetos de bombas de velocidade fixa desperdiçam uma quantidade mensurável de energia em comparação com projetos de velocidade variável, uma vez que os padrões de utilização do mundo real são levados em consideração.

Requisitos de química e filtragem de fluidos

O fluido do circuito secundário não é simplesmente água da torneira. A maioria dos operadores usa água deionizada com um pacote de inibidor de corrosão ou uma mistura de propilenoglicol quando a proteção contra congelamento é necessária em implantações externas ou em bordas. O fluido não tratado ou mal filtrado é a principal causa de falha prematura da placa fria, porque o acúmulo de incrustações e o crescimento biológico reduzem o diâmetro interno do canal ao longo do tempo e aumentam a resistência térmica entre o cavaco e o refrigerante.

Os operadores normalmente testam trimestralmente o fluido do circuito secundário quanto ao pH, condutividade e oxigênio dissolvido, e muitos fornecedores de CDU agora integram sensores de condutividade em linha que sinalizam quando o fluido precisa ser substituído antes que ele prejudique o desempenho do resfriamento. Um circuito bem mantido com filtragem contínua pode funcionar de três a cinco anos entre as substituições completas de fluidos, de acordo com as orientações publicadas pelos fabricantes de equipamentos de refrigeração e confirmadas em dados de campo compartilhados por operadores de colocation que executam densos pods de GPU.

Tipos de fluidos comuns usados em circuitos secundários

Melhores práticas de filtragem

Uma abordagem de filtração em camadas funciona melhor na prática: um filtro grosso na entrada da CDU para capturar detritos grandes, um filtro de partículas mais fino classificado em torno de 25 a 50 mícrons posicionado antes do fluido atingir o coletor e um circuito de filtração de desvio que lustra continuamente um pequeno fluxo lateral de fluido, mesmo enquanto o circuito principal está funcionando. Essa abordagem em camadas captura a maior parte da contaminação antes mesmo que ela chegue a uma placa fria, onde os canais internos apertados tornam até mesmo as partículas pequenas um risco real de bloqueio.

Modelos de redundância para implantações de CDU

A redundância de bombas dentro de um único chassi CDU é uma consideração separada da redundância em nível de unidade em uma fileira, e a maioria das especificações agora exige bombas internas duplas e pelo menos N 1 de reserva de unidade para qualquer implantação que suporte computação geradora de receita. A distinção é importante porque a redundância interna da bomba protege contra uma falha de bomba única enquanto a própria CDU continua funcionando, enquanto a redundância em nível de unidade protege contra uma falha de toda a CDU, incluindo seu trocador de calor, controlador ou trem de válvulas.

Uma arquitetura 2N, onde cada linha tem uma CDU totalmente duplicada e um caminho de tubulação independente, é a mais resiliente, mas também duplica aproximadamente o custo de capital para a camada de distribuição de resfriamento, por isso tende a ser reservada para instalações onde mesmo uma breve interrupção de resfriamento causaria uma perda inaceitável de um trabalho de treinamento ou carga de trabalho de produção de longa duração.

Monitoramento, controles e integração com sistemas de gestão predial

Uma CDU moderna é tanto uma fonte de dados quanto um dispositivo mecânico. Cada unidade que vale a pena implantar hoje relata vazão, temperatura de fornecimento e retorno em ambos os circuitos, pressão diferencial, velocidade da bomba e consumo de corrente, condição do filtro e status de vazamento de volta para uma plataforma de monitoramento central. Essa telemetria alimenta o software de gerenciamento de infraestrutura do data center da instalação, onde os operadores podem correlacionar o desempenho do resfriamento diretamente com a carga de TI.

Limites de alarme que vale a pena configurar

Além dos simples alarmes de temperatura alta e baixa, instalações bem administradas configuram alarmes de taxa de mudança que detectam um desvio lento em direção a um problema muito antes de um limite absoluto ser ultrapassado. Uma taxa de fluxo que diminui gradualmente ao longo de várias semanas, por exemplo, muitas vezes sinaliza que um filtro está se aproximando da capacidade muito antes de disparar um alarme de fluxo baixo, e detectar essa tendência antecipadamente evita uma troca não planejada do filtro durante um período de carga alta.

Integração com dados de carga de TI

As instalações que vinculam a telemetria da CDU diretamente aos dados de consumo de energia do servidor podem criar modelos preditivos que antecipam a demanda de resfriamento antes de uma carga de trabalho programada, em vez de reagir apenas após o aumento da temperatura. Isso é particularmente valioso para clusters de treinamento de IA, onde o consumo de energia pode oscilar drasticamente em segundos, à medida que um trabalho se move entre as fases de computação intensa e de comunicação, e um loop de controle de CDU que pode antecipar essas oscilações tem um desempenho mensuravelmente melhor do que aquele que só reage à temperatura após o fato.

Eficiência energética e seu efeito no uso total de energia da instalação

Como o resfriamento líquido movimenta o calor com mais eficiência do que o ar, as instalações que transferem cargas de TI significativas para racks atendidos por CDU geralmente observam uma melhoria mensurável na eficácia geral do uso de energia da instalação, uma vez que a planta mecânica gasta menos energia movimentando o ar e mais do consumo total de energia vai diretamente para a computação. As bombas de velocidade variável dentro da CDU reduzem ainda mais o uso de energia parasita, bombeando apenas a quantidade de fluxo que a carga de calor atual realmente exige, em vez de operar em velocidade fixa, independentemente da carga.

As instalações que combinam CDUs com um refrigerador seco ou circuito de resfriamento gratuito também podem estender o número de horas por ano durante as quais nenhum resfriador mecânico é necessário, uma vez que o rígido controle de temperatura de aproximação da CDU permite um resfriamento útil mesmo com água da instalação moderadamente quente. Operadores em climas mais frios relataram estender significativamente as horas de resfriamento gratuito, combinando uma CDU de baixa temperatura com uma estratégia de controle de refrigerador seco bem ajustada, de acordo com estudos de caso publicados por fabricantes de equipamentos de resfriamento e pesquisadores acadêmicos de eficiência de data centers.

Erros comuns de instalação e comissionamento

1. Ignorar um teste de pressão de nitrogênio no circuito secundário antes de enchê-lo com refrigerante, o que permite que pequenos vazamentos passem despercebidos até que o circuito esteja energizado.
2. Deixar de lavar completamente a nova tubulação, deixando resíduos de fabricação que posteriormente obstruem os canais da placa fria.
3. Colocar sensores de vazamento somente no nível do chão e faltar pontos de gotejamento nas conexões do coletor superior.
4. Subdimensionar o tanque de expansão, o que causa picos de pressão à medida que o circuito aquece sob carga total de computação.
5. Não validar o desempenho da curva da bomba em relação à queda de pressão construída, em vez da queda teórica do projeto.
6. Conectar conexões de desconexão rápida na orientação errada, o que pode restringir o fluxo ou impedir a vedação adequada contra ruptura a seco.
7. Ignorar os requisitos de ligação e aterramento em tubulações metálicas, o que pode levar à corrosão galvânica em juntas metálicas diferentes ao longo do tempo.
8. Deixar de documentar as leituras de fluxo e pressão da linha de base no comissionamento, o que torna muito mais difícil diagnosticar posteriormente o desvio gradual de desempenho.

Cronograma de manutenção contínua para uma CDU saudável

Solução de problemas comuns de desempenho de CDU

Taxa de fluxo decrescente ao longo do tempo

Um declínio gradual na taxa de fluxo quase sempre indica que um filtro está se aproximando da capacidade ou um acúmulo precoce de incrustações em algum lugar do circuito. Verificar a pressão diferencial na carcaça do filtro geralmente é a maneira mais rápida de confirmar a causa antes de agendar uma troca de filtro.

Aumento da temperatura de aproximação

Se a diferença entre a temperatura de fornecimento da instalação e a temperatura de fornecimento do circuito tecnológico crescer mais do que a abordagem nominal da unidade, as placas do trocador de calor provavelmente estão sujas no lado da instalação ou da tecnologia, ou o fluxo da instalação para a unidade caiu devido a uma válvula parcialmente fechada em outro lugar na fileira.

Alarmes de vazamento intermitente

Alarmes de vazamento incômodos são frequentemente causados pela formação de condensação nas linhas de fornecimento de frio em uma sala úmida, e não por um vazamento real de fluido. Isolar a tubulação fria exposta e confirmar o controle da umidade do ambiente geralmente resolve isso sem a necessidade de abrir o circuito.

Ciclismo inesperado da bomba

Bombas que ligam e desligam rapidamente, em vez de funcionarem de forma constante em uma velocidade controlada, geralmente indicam um tanque de expansão subdimensionado ou uma bolsa de ar presa no circuito que está fazendo com que a pressão oscile além da faixa de ponto de ajuste do controlador.

CDUs e resfriamento por imersão trabalhando juntos

Os tanques de resfriamento por imersão, onde servidores inteiros ficam submersos em um fluido dielétrico, ainda precisam de uma maneira de rejeitar o calor que o fluido absorve, e uma unidade de distribuição de resfriamento é comumente usada exatamente para essa finalidade. Nesta configuração, o circuito secundário da CDU circula o fluido dielétrico através de um trocador de calor conectado ao tanque, em vez de através de placas frias, enquanto o circuito primário ainda se conecta ao abastecimento de água da instalação da mesma forma que faria para uma implantação de placa fria.

A principal diferença de projeto é que os fluidos dielétricos geralmente têm menor condutividade térmica e maior viscosidade do que a água, portanto, bombas e trocadores de calor dimensionados para um circuito de placa fria à base de água não são automaticamente apropriados para um circuito de imersão, e os fornecedores normalmente oferecem linhas de modelos CDU separadas, ajustadas especificamente para propriedades do fluido dielétrico.

Fatores de custo além do preço unitário de compra

O preço de tabela de uma unidade de distribuição de resfriamento é apenas uma parte do custo total de implantação. Tubulação, coletores, acessórios de desconexão rápida, isolamento, bandejas de contenção de vazamentos e mão de obra de comissionamento frequentemente somam uma parcela semelhante ou maior do gasto total, especialmente em projetos de modernização onde pisos elevados ou caminhos aéreos existentes não foram projetados tendo em mente a tubulação de líquidos. Os custos contínuos incluem a substituição de fluidos, os consumíveis do filtro e a eletricidade que as próprias bombas consomem, o que representa uma pequena fração da energia total da instalação, mas ainda assim vale a pena incluir nos orçamentos operacionais de longo prazo.

As instalações que planejam construções multifásicas muitas vezes acham mais econômico instalar uma CDU lateral maior com espaço para fases futuras do que instalar várias unidades menores sequencialmente, uma vez que o trabalho de tubulação e comissionamento aumenta mais com o número de eventos de instalação separados do que com o tamanho físico de uma única unidade.

Para onde o mercado está indo

A adoção do resfriamento líquido passou rapidamente de uma ferramenta de computação de alto desempenho de nicho para um requisito principal para treinamento de IA e infraestrutura de inferência, impulsionada diretamente pelos valores de potência do projeto térmico do acelerador que agora excedem regularmente 700 a 1.000 watts por chip. Essa mudança empurrou os fornecedores de unidades de distribuição de resfriamento para unidades laterais e de nível de sala maiores, temperaturas de abordagem mais restritas e arquiteturas de bombas, incluindo módulos acionados por CC, que podem ser integrados mais facilmente com baterias no local e infraestrutura de energia para operação contínua durante transições de energia.

As instalações que padronizaram o resfriamento de ar há apenas três anos estão agora modernizando salas mecânicas especificamente para hospedar fileiras e mais fileiras de CDUs, e o espaço antes reservado para manipuladores de ar em salas de computadores é cada vez mais alocado para infraestrutura de refrigeração líquida. Os fornecedores também estão convergindo para interfaces mais padronizadas e de desconexão rápida, o que reduz a carga de engenharia personalizada sempre que uma nova geração de servidores é introduzida e torna mais fácil para as operadoras combinarem hardware de vários fabricantes na mesma linha de refrigeração líquida.