Yapay Zeka Eğitim Veri Merkezleri için Güç Stabilizasyonu

Özet

Bu arXiv ön baskısı (arXiv:2508.14318, 2025), Microsoft, OpenAI ve NVIDIA'dan geniş bir yazar grubuna aittir. Çalışma, DGX-H100 raflarından alınan üretim telemetrisi ile büyük eğitim işlerinin eşzamanlı güç dalgalanmalarını karakterize eder ve bu dalgalanmaların alt eşzamanlı frekans içeriğinin neden türbin-jeneratör millerini ve iletim şebekelerini tehdit ettiğini açıklar. Konu, eğitim işlerinin güç profilinin şebeke tarafından nasıl görüldüğüdür.

Makale, şebeke işletmecilerinin gereksinimleri nasıl ifade ettiğini de ortaya koyar: zaman alanında (yükselme hızları, dinamik güç aralığı) ve frekans alanında (kritik bant, azami spektral büyüklük). Eğitim gücünün FFT enerjisi 0,2-3 Hz arasında yoğunlaşır; bu, türbin-jeneratör millerinin ve uzun iletim hatlarının bilinen rezonans modlarına yakındır. Tipik bir frekans alanı şartı örneği, 0,1-20 Hz kritik aralıkta spektral büyüklüğü toplam harmonik enerjinin yüzde 20'siyle sınırlar.

Üç azaltma yaklaşımı karşılaştırılır: yazılımla ikincil iş yükü dolgusu (Firefly), asgari güç tabanı ve yükselme sınırlarıyla GB200 GPU güç yumuşatma ve raf düzeyinde enerji depolama. Firefly, birincil iş yükü ek yükünü yüzde 5'in altında tuttu ancak GPU güç verisini 1 ms ayrıntıda işlemek için önemli CPU ve ana bilgisayar-cihaz bant genişliği gerektirdi. GPU yumuşatmada taban TDP'nin yüzde 90'ında iken gerçek bir eğitim dalga formu üzerinde toplam enerji ek yükü yüzde 10,5 çıktı.

GB200 sınırları, asgari güç tabanının en çok TDP'nin yüzde 90'ı ve asgari EDP'nin TDP'nin 1,1 katı olmasıdır; bu, TDP'nin en az yüzde 20'sini dinamik aralık olarak bırakır. Bu yüzden GPU yumuşatması tek başına, örneğin 100 MW'lık bir işte 10 MW'lık bir aralığı karşılayamaz. Raf düzeyinde enerji depolama, AC-DC dönüştürücüler zaten raf düzeyinde olduğu ve bir raf arızası alan dalga formunu pek etkilemediği için en iyi konum olarak belirlenir. Yazarlar, GPU düzeyinde yumuşatmayı raf düzeyinde depolamayla birleştirmeyi, hızlı bir telemetri yedeği ve gelecekteki sahalar için daha büyük BESS eklemeyi önerir.

Öne çıkan noktalar

1. Eğitim gücünün FFT enerjisi 0,2-3 Hz arasında yoğunlaşır; bu, türbin-jeneratör millerinin ve uzun iletim hatlarının bilinen rezonans modlarına yakındır.
2. Tipik bir frekans alanı şartı: 0,1-20 Hz kritik aralıkta spektral büyüklük, toplam harmonik enerjinin yüzde 20'siyle sınırlıdır.
3. GPU'lar sunucuya sağlanan gücün yüzde 50'sinden fazlasını oluşturur (GB200 dökümü); bu yüzden GPU faz değişimleri raf, sıra ve veri merkezi besleme düzeyinde büyük dalgalanmalar olarak görünür.
4. Taban TDP'nin yüzde 90'ında iken GPU güç yumuşatma simülasyonu, toplam enerji ek yükünü yüzde 10,5 olarak verdi.
5. GB200 sınırları: asgari güç tabanı en çok TDP'nin yüzde 90'ı, asgari EDP TDP'nin 1,1 katı; en az yüzde 20 TDP dinamik aralık kalır.
6. Firefly yazılım yaklaşımı birincil iş yükü ek yükünü yüzde 5'in altında tuttu ancak 1 ms ayrıntıda veri işlemek için önemli CPU ve bant genişliği gerektirdi.
7. Raf düzeyinde enerji depolama en iyi konum olarak belirlenir.
8. Yazarlar GPU düzeyi yumuşatma ile raf düzeyi depolamanın birleştirilmesini, hızlı telemetri yedeğini ve gelecekteki sahalar için daha büyük BESS'i önerir.

Tasarımda kullanımı

• Yapay zeka eğitim salonları için araç 'eşzamanlı yük' bayrağı taşımalı ve şebeke işletmecisinin zaman alanı (MW/s yükselme/düşme, dinamik aralık) ile frekans alanı (kritik bant, spektral üst sınır) sınırlarını bağlantı girdisi olarak kaydetmelidir.
• Azaltma seçicisi sunun: GPU güç tabanı/yükselme sınırları (yüzde 90 tabanda yaklaşık yüzde 10'a kadar enerji ek yükü tahminiyle), hesaplama/iletişim dalgalanmaları için boyutlandırılmış raf düzeyi BESS/süperkapasitör ve saha BESS.
• Seçilen birleşimin şartı karşılayıp karşılamadığını kontrol edin.
• Depolama hiyerarşide yukarı yerleştirildikçe UPS (KGK) ve PDU'nun dalgalanmalara maruziyetinin arttığı konusunda uyarın ve işletme yedeği olarak FFT izlemeli hızlı güç telemetrisi önerin.

Kimler okumalı

Yapay zeka eğitim salonlarının güç mimarisini ve şebeke bağlantısını planlayan elektrik mühendisleri ve enerji danışmanları.

İlgili standartlar

• IEC 61000-3-3

Yayın bilgileri

Yazarlar

Esha Choukse; Brijesh Warrier; Scot Heath; Luz Belmont; April Zhao; Hassan Ali Khan; Brian Harry; Matthew Kappel; Russell J. Hewett; Kushal Datta; Yu Pei; Caroline Lichtenberger; John Siegler; David Lukofsky; Zaid Kahn; Gurpreet Sahota; Andy Sullivan; Charles Frederick; Hien Thai; Rebecca Naughton; Daniel Jurnove; Justin Harp; Reid Carper; Nithish Mahalingam; Srini Varkala; Alok Gautam Kumbhare; Satyajit Desai; Venkatesh Ramamurthy; Praneeth Gottumukkala; Girish Bhatia; Kelsey Wildstone; Laurentiu Olariu; Ileana Incorvaia; Alex Wetmore; Prabhat Ram; Melur Raghuraman; Mohammed Ayna; Mike Kendrick; Ricardo Bianchini; Aaron Hurst; Reza Zamani; Xin Li; Michael Petrov; Gene Oden; Rory Carmichael; Tom Li; Apoorv Gupta; Pratikkumar Patel; Nilesh Dattani; Lawrence Marwong; Rob Nertney; Hirofumi Kobayashi; Jeff Liott; Miro Enev; Divya Ramakrishnan; Ian Buck; Jonah Alben

Yayıncı

arXiv preprint (Microsoft / OpenAI / NVIDIA)

Yıl

2025

Belge numarası

arXiv:2508.14318

Belge dili

İngilizce

Kaynak türü

Bilimsel yayın

Erişim

Ücretsiz okunur

DOI

10.48550/arXiv.2508.14318

Lisans

CC BY-NC-SA 4.0 — atıf vererek, ticari olmayan amaçlarla ve aynı lisansla paylaşabilirsiniz

Künye