SoSo CAD
Bilimsel makalePDF2026

Tüm Tesis Veri Merkezi Altyapı Planlaması için Üretken Yapay Zekâ İş Yükü Güç Profillerinin Ölçümü

Özgün başlık Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning

arXiv preprint (National Laboratory of the Rockies) · Roberto Vercellino, Jared Willard ve diğerleri

Ulusal laboratuvar HPC sisteminin H100 düğümlerinde üretken yapay zekâ eğitimi, ince ayarı ve çıkarımının düğüm düzeyi gücü 0,1 s çözünürlükle MLCommons ve vLLM kıyaslamalarıyla ölçülüyor ve veri kümesi yayımlanıyor; profiller aşağıdan yukarıya, ayrık olaylı tüm tesis modeline besleniyor.

Belgeyi okuİndir (PDF, 10,0 MB)Özgün kaynağa git

CC BY 4.0 — atıf vererek paylaşabilirsiniz

Bu sayfada

Özet

Üretken yapay zekânın hızlı büyümesi benzeri görülmemiş hesaplama talepleri doğurdu ve veri merkezi enerji ayak izini artırıyor, ancak mevcut güç tüketimi verisi büyük oranda tescilli ve farklı çözünürlüklerde bildiriliyor; bu da tüm tesis enerji kullanımını tahmin etmeyi ve altyapı planlamayı zorlaştırıyor. Çalışma yüksek çözünürlüklü iş yükü güç ölçümlerini tüm tesis enerji talebine bağlayan bir metodoloji sunuyor. NLR'nin H100 GPU'lu HPC veri merkezinde yapay zekâ eğitimi, ince ayar ve çıkarım işlerinin güç tüketimi 0,1 saniye çözünürlükle ölçüldü; iş yükleri model eğitimi ve ince ayar için MLCommons kıyaslamaları, çıkarım için vLLM kıyaslamalarıyla karakterize edildi.

Her düğüm (700 W TDP'li 4 × H100 SXM, 360 W'lık 2 CPU) en fazla 3.520 W çekebiliyor; ölçülen boşta güç GPU başına 72,5 W ve CPU soketi başına 64,1 W, GPU stres testi ortalama 696 W tepe verdi. 16 düğümlü Stable Diffusion eğitiminde güç değerlendirme aşamalarında yaklaşık 12 kW ile 48 kW arasında dalgalandı. Çevrimiçi çıkarım sunucu gücü mütevazı istek hızlarında yaklaşık 2,8 kW'ta doyuma ulaştı. Eğitim gücü düğüm sayısıyla kabaca doğrusal ölçeklenirken çıkarım gücü doyuyor.

Güç profilleri, iş gelişi, çizelgeleme ve yürütmeyi içeren aşağıdan yukarıya ayrık olaylı bir tüm tesis modeline (DIPLOEE) besleniyor. Tesis simülasyonları düşük ve orta kullanımda günlük, haftalık ve mevsimsel örüntüler gösteriyor; tüm sunucular kullanıldığında bile tesis gücü veri merkezi anma tasarımının yalnızca %73 ve %80'ine ulaştı. NERC, 2024'te Virginia'da 230 kV hat arızasından sonra 82 saniye içinde 1,5 GW'lık veri merkezi yük düşüşü bildirdi.

Sınırlar: yardımcı yükler (soğutma, dağıtım kayıpları) modellenmedi; yazarlar büyük, son teknoloji yapay zekâ veri merkezleri için bunların toplam yükün %10'undan az olabileceğini not ediyor. Ölçümler tek bir GPU nesli (H100) ve belirli kıyaslama iş yükleri için; ön baskı.

Öne çıkan noktalar

  1. NERC, 2024'te Virginia'da bir 230 kV hat arızasından sonra 82 saniye içinde 1,5 GW'lık veri merkezi yük düşüşü bildirdi.
  2. Her düğüm (700 W TDP'li 4 × H100 SXM, 360 W'lık 2 CPU) en fazla 3.520 W çekebiliyor; ölçülen boşta güç GPU başına 72,5 W ve CPU soketi başına 64,1 W, GPU stres testinde ortalama tepe 696 W.
  3. 16 düğümlü Stable Diffusion eğitiminde güç değerlendirme aşamalarında yaklaşık 12 kW ile 48 kW arasında dalgalandı.
  4. Çevrimiçi çıkarım sunucu gücü mütevazı istek hızlarında yaklaşık 2,8 kW'ta doyuma ulaştı.
  5. Tüm sunucular kullanıldığında tesis gücü veri merkezi anma tasarımının yalnızca %73 ve %80'ine ulaştı.
  6. Yardımcı yükler (soğutma, dağıtım kayıpları) modellenmedi; yazarlar bunların büyük son teknoloji yapay zekâ veri merkezlerinde toplam yükün %10'undan az olabileceğini not ediyor.

Tasarımda kullanımı

  • Yapay zekâ veri merkezi tesis gücünü anma tasarımına göre değil ölçülmüş profillerle boyutlandırın: tüm sunucular kullanılsa bile tesis gücü anma tasarımının yalnızca %73-80'ine ulaştı.
  • Düğüm gücünü boşta (GPU başına 72,5 W) ile tepe (düğüm başına 3.520 W) arasında ve eğitimde 12-48 kW'lık hızlı dalgalanmalarla modelleyin; UPS, batarya ve şebeke bağlantı çalışmasında alt saniye geçişleri dikkate alın.
  • Çıkarım iş yükü için güç doygunluğunu (yaklaşık 2,8 kW sunucu) ve eğitim için düğüm sayısıyla doğrusal ölçeklenmeyi kapasite planlamada ayrı davranış olarak ele alın.

Aylık bülten · ücretsiz

Referans listeniz güncel kalsın

Ayda bir: yeni eklenen kaynaklar, Türkiye mevzuatındaki değişiklikler ve yaklaşan veri merkezi etkinlikleri.

SoSo CAD

Tasarım kararlarının maliyetini karşılaştırın

SoSo CAD’de ekipman maliyetlerini, enerji giderlerini ve toplam sahip olma maliyetini (TCO) girdileriniz ve varsayımlarınızla değerlendirin.

Demo iste
SoSo CAD maliyet çalışma alanında CAPEX ve TCO tahminleri

Kimler okumalı

Yapay zekâ veri merkezi tesis yükü profilleri ve altyapı kapasitesini planlayan tasarımcılar ve şebeke planlamacıları.

Belgenin bölümleri

  1. 1. Giriş (1.1 Tüm tesis veri merkezi yük modellemesi, 1.2 Yapay zekâ iş yüklerinin karakterizasyonu, 1.3 Katkılar)
  2. 2. Metodoloji (2.1 Genel bakış, 2.2 Tekil yapay zekâ işlerinin güç profillerinin ölçülmesi: CPU ve GPU güç ölçümü, eğitim ve ince ayar kıyaslamaları, çıkarım kıyaslamaları; 2.3 Tüm tesis simülasyonu - DIPLOEE)
  3. 3. Sonuçlar (3.1 Deneysel ayar, 3.2 Llama-2 70B ince ayar, 3.3 Stable Diffusion eğitimi, 3.4 Llama-3 70B çevrimdışı çıkarım, 3.5 Çevrimiçi/sunucu çıkarımı güç profilleri)
  4. 4. Tüm tesis simülasyon sonuçları (4.1 Kolokasyon veri merkezi, 4.2 Çıkarım veri merkezi)
  5. 5. Sonuç

Belgeyi okuyun

genai-workload-power-profiles-facility-2026.pdf

PDF · 10,0 MB · İngilizce

CC BY 4.0 — atıf vererek paylaşabilirsiniz

İndir (PDF, 10,0 MB)Tarayıcıda aç

Belge, lisansı yeniden dağıtıma izin verdiği için özgün haliyle ve değiştirilmeden sunulmaktadır.

Yayın bilgileri

Yazarlar
Roberto Vercellino; Jared Willard; Gustavo Campos; Weslley da Silva Pereira; Olivia Hull; Matthew Selensky; Juliane Mueller
Yayıncı
arXiv preprint (National Laboratory of the Rockies)
Yıl
2026
Belge numarası
arXiv:2604.07345
Belge dili
İngilizce
Kaynak türü
Bilimsel yayın
Erişim
Açık lisans — indirilebilir
Lisans
CC BY 4.0 — atıf vererek paylaşabilirsiniz
Lisans kanıtı
arxiv.org
Özgün lisans notu (İngilizce)

arXiv record licence is http://creativecommons.org/licenses/by/4.0/ (checked via arXiv OAI-PMH); national-lab work explicitly released under CC BY

Künye

Roberto Vercellino; Jared Willard; Gustavo Campos; Weslley da Silva Pereira; Olivia Hull; Matthew Selensky; Juliane Mueller (2026). Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning. arXiv preprint (National Laboratory of the Rockies). arXiv:2604.07345. https://doi.org/10.48550/arXiv.2604.07345

EnerjiElektrikKabin

Konuyla ilgili etkinlikler

Etkinlik takvimini inceleyin

İçerik ve tüm hakları eser sahiplerine aittir. SoSo CAD yalnızca künye, kendi hazırladığı özet ve kaynağa bağlantı sunar; kaynakların içeriğinden sorumlu değildir.