SoSo CAD
Teknik rehberÜcretsiz okunur2025

Büyük yapay zekâ işlemlerinde elektriksel hususlar (Daniel Bizo)

Özgün başlık Electrical considerations with large AI compute (Daniel Bizo)

Uptime Institute Journal · Daniel Bizo

Büyük transformer modeli eğitim kümelerinin güç dağıtımını zorlayan, senkronize ve milisaniye ölçeğinde basamak yükler yarattığını anlatan Uptime Institute Journal makalesi.

Özgün kaynağa git
Bu sayfada

Özet

Makale, büyük transformer modeli eğitim kümelerinin neden senkronize, milisaniye ölçeğinde basamak yükler yarattığını ve bunun güç dağıtımını nasıl zorladığını açıklar. Uptime'ın tahminine göre sistem düzeyinde yük salınımları yüzde 100'ü aşabilir ve raf güç değerinin üzerinde tekrarlayan aşımlar yılda milyonlarca kez ortaya çıkabilir. Yazar, kapasite planlamasının düşürülmüş anma gücünden tekrarlayan tepe güce geçmesi gerektiğini savunur.

En kötü durumda eğitim sırasındaki düşükten yükseğe salınım sistem düzeyinde yüzde 100'ü aşabilir; yük birkaç saniyede bir milisaniyeler içinde neredeyse ikiye katlanabilir. Birkaç düzine raf bile birkaç yüz kW'tan birkaç MW'a kadar basamak değişimleri üretebilir ve bu, gerilim çökmesi/yükselmesi, harmonikler ve alt senkron salınım riski yaratır.

Geleneksel planlama, çeşitlilik için anma gücünü yüzde 25-50 düşürür; oysa yapay zekâ eğitim kümeleri sürekli azami değeri aşabilir. 2022-2024 dönemi 8 GPU'lu düğümlerde düğüm başına yaklaşık 4 kW (4 düğümlü rafta 16 kW) salınım, yaklaşık 41 kW'lık bir raf değerine karşı gözlenir. GB200 NVL72 rafları yaklaşık 60-70 kW'tan 150 kW'ın üzerine çıkabilir; bu, 132 kW'lık şartnameye karşı yaklaşık yüzde 20'ye varan tekrarlayan aşırı yük demektir.

Sıvı soğutma sabit fan gücünü düşürür ve termal marj ekler; bu da göreli güç sapmalarını genişletir. Anma yapay zekâ yüküne yakın boyutlandırılan kesiciler, tap-off üniteleri, busway'ler ve iletkenler, test edilmedikleri tekrarlayan aşırı yüklere maruz kalıp birikimli termal gerilim yaşayabilir. İlgili belgeler IEC 62040-3 ve IEEE 1100'dür. Makale bir uzman görüşüdür; kesin ölçüm verisi değil tahminler sunar.

Öne çıkan noktalar

  1. En kötü durumda eğitim sırasındaki düşükten yükseğe salınım sistem düzeyinde yüzde 100'ü aşabilir; yük birkaç saniyede bir milisaniyeler içinde neredeyse ikiye katlanır.
  2. Birkaç düzine raf bile birkaç yüz kW'tan birkaç MW'a basamak değişimleri üretebilir; gerilim çökmesi/yükselmesi, harmonik ve alt senkron salınım riski doğar.
  3. Geleneksel planlama çeşitlilik için anma gücünü yüzde 25-50 düşürür; yapay zekâ eğitim kümeleri sürekli azami değeri aşabilir.
  4. 2022-2024 dönemi 8 GPU'lu düğümler yaklaşık 41 kW'lık raf değerine karşı düğüm başına yaklaşık 4 kW (4 düğümlü rafta 16 kW) salınır.
  5. GB200 NVL72 rafları yaklaşık 60-70 kW'tan 150 kW'ın üzerine çıkabilir; 132 kW şartnameye karşı yaklaşık yüzde 20'ye varan tekrarlayan aşırı yük.
  6. Sıvı soğutma sabit fan gücünü düşürür ve termal marj ekler; bu göreli güç sapmalarını genişletir.
  7. Anma yüke yakın boyutlandırılan kesiciler, tap-off üniteleri, busway'ler ve iletkenler test edilmedikleri tekrarlayan aşırı yüklere maruz kalabilir.

Tasarımda kullanımı

  • Yapay zekâ raflarını hem 'ratedPowerKw' hem 'peakTransientKw' ile kataloglayın (örneğin NVL72 için 132'ye karşı 150+).
  • Dallanma devrelerini, busway tap-off'larını ve UPS (KGK) gücünü düşürülmüş anma değerine göre değil tekrarlayan tepe değere göre boyutlandırın.
  • Yapay zekâ eğitim salonlarında çeşitlilik faktörü uygulamayın.
  • Marj yüzde 20'nin altına düştüğünde uyarı verin.

Aylık bülten · ücretsiz

Referans listeniz güncel kalsın

Ayda bir: yeni eklenen kaynaklar, Türkiye mevzuatındaki değişiklikler ve yaklaşan veri merkezi etkinlikleri.

SoSo CAD

Güç tasarımınızı SoSo CAD’de değerlendirin

Besleme yollarını, ekipman yüklerini ve UPS arıza senaryolarını aynı modelde inceleyin.

Demo iste
SoSo CAD güç ve kapasite çalışma alanındaki tek hat şeması

Kimler okumalı

Yapay zekâ salonları için elektrik dağıtımı ve UPS (KGK) boyutlandıran mühendisler ve kapasite planlayıcıları.

İlgili standartlar

  • IEC 62040-3
  • IEEE 1100

Yayın bilgileri

Yazarlar
Daniel Bizo
Yayıncı
Uptime Institute Journal
Yıl
2025
Belge dili
İngilizce
Kaynak türü
Sektör kuruluşu
Erişim
Ücretsiz okunur
Lisans
Telif hakkı saklı; yalnızca künye — özgün belge için yayıncının kullanım koşulları geçerlidir

Künye

Daniel Bizo (2025). Electrical considerations with large AI compute (Daniel Bizo). Uptime Institute Journal. https://journal.uptimeinstitute.com/electrical-considerations-with-large-ai-compute/

ElektrikKabinUPS (KGK)

Konuyla ilgili etkinlikler

Etkinlik takvimini inceleyin

İçerik ve tüm hakları eser sahiplerine aittir. SoSo CAD yalnızca künye, kendi hazırladığı özet ve kaynağa bağlantı sunar; kaynakların içeriğinden sorumlu değildir.