GPU sunucuda güç ve soğutma kapasitesi nasıl hesaplanır

GPU sunucu alırken teknik ekiplerin çoğu işlemci sayısına, bellek kapasitesine ve ağ bağlantı hızına odaklanır; güç ve soğutma planlaması çoğu zaman satın alma sürecinin sonuna bırakılır. Oysa 8 × H200 NVL veya 4 × RTX PRO 6000 gibi yoğun konfigürasyonlarda tek bir rack'in çektiği güç, klasik bir CPU sunucu rackinin birkaç katına çıkabilir. Bu fark, mevcut PDU'ların, UPS kapasitesinin ve soğutma altyapısının yeniden değerlendirilmesini zorunlu kılar.

Sorun yalnızca "daha fazla elektrik" değildir. Rack başına yoğunlaşan güç, aynı oranda ısı üretimi anlamına gelir ve bu ısının veri merkezinden ne şekilde atılacağı, hangi soğutma mimarisinin seçileceği, hava akış yönünün nasıl kurgulanacağı gibi sorular satın alma kararından önce netleşmelidir. Bu yazı, GPU sunucu güç ve soğutma hesaplamalarının hangi adımlarla yapıldığını ve satın alma öncesi kontrol edilmesi gereken noktaları somut şekilde ele alır.

Yoğun GPU konfigürasyonlarında rack güç yoğunluğu neden artık klasik hesapları aşıyor

Geleneksel bir 1U veya 2U CPU sunucu, tam yükte genellikle birkaç yüz watt tüketir. Buna karşılık GPU sunucularda her bir hızlandırıcı kartı tek başına yüzlerce watt çekebildiği için, 8 GPU'lu bir şasi toplamda bir CPU rackinin çok üzerinde bir güç talebi oluşturur. Rack başına güç yoğunluğu arttıkça, aynı fiziksel alanda daha fazla ısı üretilir ve bu durum veri merkezinin güç dağıtım, soğutma ve kablolama kapasitesini doğrudan etkiler.

8 × H200 NVL ve 4 × RTX PRO 6000 arasında güç profili farkı

8 × H200 NVL konfigürasyonu, veri merkezi sınıfı eğitim ve çıkarım iş yükleri için tasarlanmış yüksek bellek bantlı genişlikli GPU'ları barındırır ve toplam sistem gücü, CPU, bellek, depolama ve ağ kartları dahil edildiğinde tek bir şasi için birkaç kilowatt seviyesine ulaşabilir. 4 × RTX PRO 6000 Blackwell konfigürasyonu ise daha çok görsel işleme, render ve orta ölçekli yapay zeka iş yükleri için konumlanır; GPU sayısı daha az olduğu için toplam güç talebi H200 konfigürasyonuna göre belirgin şekilde düşüktür. Ancak her iki durumda da kart başına güç tüketimi, klasik sunucu bileşenlerinin çok üzerindedir ve bu fark rack planlamasında göz ardı edilmemelidir.

Nominal TDP ile gerçek çekiş arasındaki fark nasıl hesaplanır

Üretici tarafından verilen TDP (Thermal Design Power) değeri, GPU'nun teorik maksimum ısı üretimini gösterir ancak gerçek elektrik çekişi iş yüküne göre değişir. Güç planlaması yapılırken şu adımlar izlenir:

• Her bileşenin (GPU, CPU, bellek, disk, fan, güç kaynağı kayıpları) nominal TDP değerleri toplanır.
• Sistem genelinde güç kaynağı verimliliği (genellikle yüzde 90-95 aralığında) hesaba katılarak şebekeden çekilen gerçek güç tahmini çıkarılır.
• Sürekli tam yük senaryosu (worst-case) baz alınarak, anlık tepe tüketim için ek pay bırakılır.

Bu hesap, yalnızca sunucunun kendi tükettiği gücü değil, PDU ve devre üzerindeki toplam yükü de belirlediği için satın alma öncesi mutlaka yapılmalıdır.

PDU ve pano kapasitesi GPU sunucu yükü için nasıl boyutlandırılır

Rack içindeki PDU'lar ve bina elektrik panosu, GPU sunucuların gerçek çekişine göre yeniden boyutlandırılmalıdır. Mevcut bir rackte CPU sunucular için yeterli olan bir PDU, aynı rack'e yerleştirilen GPU sunucularda kapasite sınırına çok daha hızlı ulaşabilir.

Faz dağılımı ve devre başına maksimum yük

Üç fazlı güç dağıtımı kullanılan veri merkezlerinde, GPU sunucuların yükü fazlar arasında dengeli şekilde dağıtılmalıdır. Tek bir faza aşırı yük binmesi, o devrenin güvenlik sınırını aşmasına ve beklenmedik kesintilere yol açabilir. Devre başına maksimum yük hesaplanırken, sürekli yük için devre kapasitesinin tamamı değil, güvenlik payı bırakılarak genellikle yüzde 80'lik kısmı kullanılabilir kabul edilir.

Yedekli güç kaynağı (redundant PSU) senaryosunda gerçek talep hesabı

Çoğu GPU sunucu, N+N veya N+1 yedekli güç kaynağı konfigürasyonuyla gelir. Bu durumda her PSU ayrı bir PDU hattına bağlanır ve normal çalışmada yük iki hat arasında paylaşılır. Kapasite planlaması yapılırken bir hattın devre dışı kaldığı senaryoda diğer hattın tüm yükü tek başına taşıyabilmesi gerekir; bu nedenle her PDU hattı, tam sistem yükünü karşılayacak şekilde boyutlandırılmalıdır, sadece paylaşılan yüke göre değil.

Hava akışı ve soğutma kapasitesi rack bazında nasıl planlanır

Güç tüketimi ile ısı üretimi doğrudan ilişkili olduğu için, rack başına kilowatt cinsinden belirlenen güç yoğunluğu aynı zamanda o rack'in soğutulması gereken ısı yükünü de tanımlar. Soğutma kapasitesi planlanırken rack başına ortalama ve tepe güç değerleri, veri merkezinin soğutma sisteminin birim alan başına sağlayabildiği kapasiteyle karşılaştırılmalıdır.

Hava soğutmalı ve sıvı soğutmalı rack seçimi hangi yükte gerekli

Rack başına güç yoğunluğu belirli bir eşiğin üzerine çıktığında, geleneksel hava soğutmalı sistemler yetersiz kalmaya başlar. Orta yoğunluklu GPU rackleri (örneğin tek bir 4 × RTX PRO 6000 şasisi içeren raklar) genellikle yüksek debili hava soğutmasıyla yönetilebilirken, birden fazla 8 × H200 NVL şasisinin aynı rack'te yoğunlaştığı senaryolarda sıvı soğutma veya doğrudan çip soğutma (direct-to-chip) çözümleri değerlendirilmelidir. Bu karar, veri merkezinin mevcut altyapısına ve rack başına hedeflenen yoğunluğa göre verilir.

Rack içi sıcak/soğuk koridor düzeninin GPU sunucularda etkisi

Sıcak ve soğuk koridor ayrımı, GPU sunucuların yüksek ısı çıkışı nedeniyle daha kritik hale gelir. Rack önü soğuk hava girişi ile arka taraftaki sıcak hava çıkışının karışmaması, soğutma biriminin verimli çalışması için gereklidir. Kör panel eksikliği, kablo yoğunluğu nedeniyle oluşan hava akış tıkanıklıkları veya yanlış yerleştirilmiş raklar, teorik olarak yeterli soğutma kapasitesine sahip bir veri merkezinde bile yerel sıcaklık sorunlarına yol açabilir.

Satın alma öncesi veri merkezi altyapısında kontrol edilmesi gereken noktalar

GPU sunucu satın alma kararı verilmeden önce, mevcut veri merkezi altyapısının yeni yükü karşılayıp karşılayamayacağı somut verilerle kontrol edilmelidir.

UPS ve jeneratör kapasitesinin GPU yükleriyle uyumu

UPS sistemleri, GPU sunucuların hem sürekli hem de tepe güç taleplerini karşılayacak kapasitede olmalıdır. Mevcut UPS kapasitesinin, yeni GPU rackleri eklendikten sonra toplam yükü güvenli sınırlar içinde taşıyıp taşıyamayacağı hesaplanmalı; gerekirse UPS ve jeneratör kapasitesi artırılmalıdır. Kesinti anında GPU iş yüklerinin kontrolsüz şekilde durması, hem donanım hem de çalışan işler açısından risk oluşturur.

Mevcut rack ve kablolama altyapısının yeni nesil GPU sunuculara uygunluğu

Rack derinliği, raf taşıma kapasitesi ve kablolama altyapısı da kontrol edilmesi gereken noktalar arasındadır. Yüksek yoğunluklu GPU şasileri, standart sunuculara göre daha ağır ve bazen daha derin olabilir; rack'in fiziksel taşıma kapasitesi ve kablo yönetim alanı buna göre değerlendirilmelidir. Ayrıca yüksek hızlı ağ bağlantıları için gereken SFP/DAC altyapısının mevcut switch ve kablolama düzenine uygun olup olmadığı da satın alma öncesi netleştirilmelidir.

Farklı GPU sunucu modelleri arasında güç ve soğutma gereksinimi nasıl karşılaştırılır

Satın alma kararı verirken farklı GPU sunucu modellerinin güç ve soğutma profillerini yan yana koymak, veri merkezi altyapısıyla uyumu önceden değerlendirmeyi kolaylaştırır.

4 × RTX PRO 6000 Blackwell konfigürasyonunda tipik güç profili

GIGABYTE G294-A22-AAP2 GPU Sunucu – 4 × NVIDIA RTX PRO 6000 Blackwell konfigürasyonu, dört GPU'lu yapısı sayesinde orta ölçekli rack altyapılarına daha kolay entegre edilebilir. Bu sınıftaki sistemlerde rack başına güç yoğunluğu, 8 GPU'lu modellere göre daha yönetilebilir seviyede kalır ve çoğu durumda mevcut hava soğutmalı altyapı ile uyumlu şekilde çalıştırılabilir. Yine de kart başına yüksek güç tüketimi nedeniyle PDU kapasitesi ve devre dağılımı önceden kontrol edilmelidir.

8 × H200 NVL konfigürasyonunda tipik güç profili

GIGABYTE G494-SB0-AAP2 GPU Sunucu – 8 × NVIDIA H200 NVL konfigürasyonu, veri merkezi sınıfı yoğun iş yükleri için tasarlandığından rack başına güç ve soğutma ihtiyacı belirgin şekilde yüksektir. Bu tür bir sistem rack'e eklenmeden önce PDU kapasitesi, faz dağılımı, UPS yedekliliği ve soğutma altyapısının birlikte değerlendirilmesi, GPU sunucu güç ve soğutma dengesinin sürdürülebilir şekilde kurulmasını sağlar. Birden fazla bu tip şasinin aynı rack veya komşu raklarda konumlandırılması planlanıyorsa, sıvı soğutma seçeneklerinin de değerlendirmeye alınması önerilir.

Farklı GPU sunucu modellerini güç ve soğutma gereksinimleri açısından karşılaştırmak isteyenler, GPU Sunucular kategorisindeki model aralığını inceleyerek konfigürasyon seçeneklerini veri merkezi kapasitesiyle eşleştirebilir.

Kapanış

GPU sunucu güç ve soğutma planlaması, satın alma sürecinin bir eki değil, konfigürasyon seçimini doğrudan etkileyen bir adımdır; rack güç yoğunluğu, PDU kapasitesi, faz dağılımı, UPS yedekliliği ve soğutma mimarisi birlikte değerlendirilmeden verilen bir karar, kurulum aşamasında beklenmedik kısıtlarla karşılaşma riskini artırır.

İhtiyacınıza uygun GPU sunucu konfigürasyonunu ve mevcut altyapınızla uyumlu modeli netleştirmek için ihtiyacınızı belirterek teklif isteyin.