Kako se nositi s rastućom potražnjom za tehnologijom hlađenja u AI poslužiteljima
Trenutno se modul za odvođenje topline uglavnom sastoji od aktivne i pasivne hibridne tehnologije odvođenja topline koja sadrži toplinske cijevi. Modul za raspršivanje topline toplinske cijevi dizajniran je i kombiniran s komponentama kao što su difuzori zraka, hladnjaki i toplinske cijevi, koji mogu osigurati jednoliku temperaturu radnog okruženja rasipanja topline za unutarnje elektroničke komponente, čineći rad elektroničke opreme stabilnijim. S trendom višenamjenskih i laganih terminalnih elektroničkih proizvoda, tvornica toplinskih modula okrenula se dizajnu toplinskih rješenja koja se uglavnom temelje na parnoj komori i heatpipeu.
Modul hladnjaka podijeljen je u dvije vrste: "hladnjak hlađen zrakom" i "hladnjak hlađen tekućinom". Među njima, zrakom hlađeno rješenje je korištenje zraka kao medija, kroz međumaterijale kao što su materijali toplinskog sučelja, parna komora (VC) ili toplinske cijevi, a raspršuje se konvekcijom između hladnjaka ili ventilatora i zraka. "Tekućinsko hlađenje se uglavnom postiže konvekcijom s tekućinom, čime se čip hladi, međutim, kako se proizvodnja topline i volumen čipa povećavaju, potrošnja toplinske energije (TDP) čipa se povećava, a korištenje zračno hlađenog čipa odvođenje topline postupno postaje nedovoljno.
S razvojem interneta stvari, rubnog računarstva i 5G aplikacija, podatkovna umjetna inteligencija dovela je globalnu računalnu snagu u razdoblje brzog rasta. Prema istraživačkoj tvrtki TrendForce, obujam isporuka poslužitelja s umjetnom inteligencijom opremljenih GPGPU-ovima (GPU-ovi opće namjene) iznosio je oko 1% u 2022. Međutim, u 2023., potaknut aplikacijama ChatGPT, očekuje se da će obim isporuka poslužitelja s umjetnom inteligencijom rasti za 38,4%, a ukupna godišnja stopa rasta isporuka AI poslužitelja od 2022. do 2026. dosegnut će 29%.
Postoje dva glavna smjera za dizajn sljedeće generacije modula hladnjaka. Jedan je nadogradnja postojećih modula za raspršivanje topline s 3D parnom komorom (3DVC), a drugi je uvođenje sustava hlađenja tekućinom, korištenjem tekućine kao konvektivnog medija za poboljšanje toplinske učinkovitosti. Stoga će se broj testnih slučajeva tekućeg hlađenja značajno povećati 2023. godine, ali 3DVC je samo prijelazno rješenje. Procjenjuje se da ćemo od 2024. do 2025. godine ući u eru paralelnog hlađenja plina i hlađenja tekućinom.
S porastom ChatGPT-a, generativna umjetna inteligencija povećala je isporuke poslužitelja, zajedno sa zahtjevima za nadogradnjom specifikacija modula hladnjaka usmjeravajući ih prema rješenjima za tekuće hlađenje kako bi se zadovoljili strogi zahtjevi poslužitelja za rasipanje topline i stabilnost. Trenutačno industrija uglavnom koristi jednofaznu tehnologiju hlađenja uranjanjem u hlađenje tekućinom za rješavanje problema rasipanja topline poslužitelja ili dijelova grijanja visoke gustoće, ali još uvijek postoji gornja granica od 600 W, jer ChatGPT ili poslužitelji višeg reda trebaju kapacitet disipacije topline od više od 700 W da se nosi.
Na temelju činjenice da rashladni sustav čini približno 33% ukupne potrošnje energije u podatkovnom centru, smanjenje ukupne potrošnje električne energije i smanjenje učinkovitosti korištenja energije uključuje poboljšanje sustava hlađenja, informacijske opreme i korištenje obnovljive energije. Voda ima toplinski kapacitet četiri puta veći od zraka. Stoga, pri uvođenju rashladnog sustava s tekućim hlađenjem, potrebno je samo 1U prostora za ploču za tekuće hlađenje. Prema NVIDIA testiranju, da bi se postigla ista računalna snaga, broj ormarića potrebnih za tekuće hlađenje može se smanjiti za 66%, potrošnja energije može se smanjiti za 28%, PUE se može smanjiti sa 1,6 na 1,15, a računalna učinkovitost može se poboljšati .
Brzo računanje dovodi do stalnog poboljšanja TDP-a, a AI poslužitelji imaju veće zahtjeve za rasipanje topline. Tradicionalno hlađenje toplinskim cijevima približava se svojoj granici i neizbježno je uvesti toplinska rješenja hlađena tekućinom.
