Veri merkezi konuşmalarında alan, U cinsinden ölçülür: "kaç U yer kaplıyor?" Klasik sunucular için bu yeterli bir sorudur. GPU'lu sistemlerde ise yanlış sorudur.
Doğru soru şudur: kaç kilowatt çekiyor? Bir kabine kaç cihaz sığacağını fiziksel yükseklik değil, güç ve onun ürettiği ısı belirler.
Neden yükseklik değil de güç?
Bir kabin 42U yüksekliğindedir. Teorik olarak 42 adet 1U sunucu alır. Pratikte alamaz — çünkü kabine tahsis edilmiş bir enerji bütçesi vardır ve o bütçe genelde yükseklikten çok önce dolar.
Sıradan bir 1U web sunucusu birkaç yüz watt çeker. 42 tanesi birkaç kilowatt eder ve tipik bir kabin bütçesine sığar. Ama çok GPU'lu bir eğitim sunucusu tek başına kilowatt mertebesine çıkabilir. Aynı bütçeye, fiziksel olarak bolca yer kalmasına rağmen yalnızca birkaç tanesi sığar.
GPU barındırmada kabin yüksekliği değil, kabin enerji bütçesi doludur. Rafta yer kalmış olması, cihaz eklenebileceği anlamına gelmez.
Çekilen her watt, ısı olarak geri gelir
Bu, elektrik faturasından çok daha önemli bir fiziksel gerçek. Bir cihazın çektiği enerjinin neredeyse tamamı ısıya dönüşür. 3 kW çeken bir kabin, o odaya sürekli 3 kW ısı veriyor demektir ve soğutma sisteminin bu ısıyı taşıması gerekir.
Yani güç yoğunluğu iki kere ödenir: bir kez cihazı beslemek için, bir kez de ürettiği ısıyı taşımak için. Bir veri merkezinin "yüksek yoğunluk" kapasitesi, aslında soğutma kapasitesidir.
Sıcak havanın nereye gittiği önemlidir
Modern veri merkezlerinde kabinler sıcak/soğuk koridor düzenine göre dizilir: tüm cihazlar soğuk koridordan hava emer, sıcak koridora atar. Bu düzen, sıcak havanın tekrar emilmemesi üzerine kuruludur.
Yüksek yoğunluklu bir cihaz bu düzeni iki şekilde bozabilir:
- Yanlış yönlü hava akışı. Rack sunucular önden arkaya üfler. Tower kasalar ve masaüstü AI cihazları ise yandan, üstten ya da alttan üfleyebilir. Yanlış konumlandırılmış bir tower, sıcak havasını doğrudan komşusunun emiş tarafına verebilir.
- Sıcak nokta oluşturma. Yoğun ısı üreten cihazların art arda dizilmesi, ortalama sıcaklık normal görünse bile lokal bir sıcak nokta yaratır. Kabin başına sıcaklık sensörü tam olarak bunun için var.
Çözüm karmaşık değil ama plan gerektiriyor: yoğun cihazlar dağıtılarak yerleştirilir, hava akışı yönü tespit edilip yerleşim ona göre yapılır, boş raf alanları kör panellerle kapatılır ki sıcak hava kabinin içinden dolaşıp öne dönmesin.
Ölçülmesi gereken üç şey
Bir GPU barındırma projesine başlarken teklif aşamasında üç veriyi netleştiriyoruz:
- Cihaz başına gerçek çekiş. Güç kaynağının etiket değeri değil. 1600 W'lık bir PSU, cihazın 1600 W çektiği anlamına gelmez; etiket tepe kapasitedir. Gerçek değer genelde belirgin şekilde daha düşüktür ve iş yüküne göre değişir.
- Çalışma düzeni. Sürekli tam yükte çalışan bir eğitim sunucusuyla, günde birkaç saat parti işi çalıştıran bir sistem aynı yoğunluk planını gerektirmez. Eğitim yükleri saatlerce tepe değerde kalır — bu, ortalama değil tepe değere göre planlamayı zorunlu kılar.
- Büyüme planı. Altı ay içinde ikinci ve üçüncü cihaz gelecekse, kabin tahsisi bugünün değil o günün ihtiyacına göre yapılmalıdır. Sonradan kabin değiştirmek, baştan doğru boyutlandırmaktan pahalıdır.
Besleme tarafı: tek mi, A+B mi?
Güç yoğunluğu arttıkça besleme mimarisi daha çok önem kazanır. Kabine iki ayrı yoldan (A ve B) besleme verildiğinde, bir kol bakıma alındığında ya da arızalandığında cihaz çalışmaya devam eder.
Burada bir ayrıntı var: bundan yararlanmak için cihazın da çift güç kaynağı olması gerekir. Rack sunucularda bu genelde standarttır; tower iş istasyonlarında ve masaüstü AI cihazlarında genelde tek güç kaynağı bulunur. Böyle bir cihazda A+B besleme, kabin tarafındaki yedekliliği sağlar ama cihazın kendi güç kaynağı tek nokta arıza noktası olarak kalır. Bunu baştan söylemeyi tercih ediyoruz — sonradan öğrenilecek bir şey değil.
Yoğunluğun bir sınırı var ve biz onu söylüyoruz
Tesisimiz N+1 hassas klima ile hava soğutmalı çalışıyor, sıcak/soğuk koridor ayrımı yapılmış durumda ve ortam 22 ±2 °C aralığında tutuluyor. Standart kabin enerji kademelerimiz 2 kW, 3 kW ve 5 kW; bunun üzerindeki yoğunluklar proje bazında değerlendiriliyor.
Sıvı soğutma gerektiren yoğunluktaki platformlar için uygun değiliz. Bu, bir eksiklik itirafı değil kapsam beyanı: hangi işi iyi yaptığımızı söylemek, yapamayacağımız işi almaktan daha doğru.
Pratik sonuç
GPU donanımı için barındırma teklifi alırken şu üç soruyu sorun: kabin başına ne kadar güç tahsis ediliyor, bu güç tepe değere göre mi ortalamaya göre mi hesaplandı, ve yerleşim planı sıcak hava dolaşımını nasıl önlüyor? Net cevap veremeyen bir sağlayıcı, cihazınızı rafa koyar ama çalıştığını garanti edemez.
Donanımınızın güç profilini birlikte çıkaralım: yapay zeka sunucu barındırma · teklif formu · AI donanımı nerede çalışmalı?