Yapay Zekâ Veri Merkezleri için Eşgüdümlü Soğutma ve Hesaplama Yönetimi

Özet

Yapay zekâ veri merkezleri güç yoğun büyük dil modellerinin (LLM) eğitimi ve dağıtımı için büyük ölçekte kuruluyor. Soğutmanın yapay zekâ veri merkezlerinde toplam enerji tüketiminin yaklaşık %45-50'sine katkıda bulunduğu alıntılanıyor; üretimdeki LLM iş yükünün ve enerjisinin %80-90'ının eğitimden değil çıkarımdan geldiği öngörülüyor. Önceki çalışmalar LLM çıkarımının enerji verimliliğini ele almış ama ısıl davranışı ve soğutma sistemlerini açıkça yok saymış.

Önerilen denetleyici GPU sayısını ve tensör paralelliğini doğrusal programlamayla, sınıf başına GPU frekansını (DVFS) MILP ile ve besleme havası sıcaklığı ve debisini model öngörülü kontrolle (MPC) belirliyor. Soğutma kontrolü MPC problemi (SciPy SLSQP), TP ve sunucu tahsisi problemleri MILP (PuLP) olarak formüle edildi ve gerçek GPU profilleme ile bir haftalık Azure çıkarım izi tarafından sürüldü. Benzetim kısıtları dönüş havası sıcaklığı için 70 °C ve GPU girişi için 50 °C üst sınır, PID kazançları Kp 4,5, Ki 0,18 ve Kd 0,1.

Denetleyici %24,2 hesaplama enerjisi ve %31,2 soğutma enerjisi tasarrufu sağlıyor ve ortalama GPU sıcaklığını %17,0 düşürüyor; çıkarım gecikmesine etkisi ihmal edilebilir. Eşgüdümlü kontrol altında GPU başına maksimum sıcaklık 50 °C'nin altında kalıyor ve hizmet düzeyi hedefleri (SLO) korunuyor.

Sınırlar: modellenen soğutma tesisi hava tabanlı; yazarlar sıvı ve hibrit soğutmayı gelecek çalışma olarak listeliyor. Değerlendirme bir haftalık Azure çıkarım izinde simülasyonla, canlı bir sistemde değil.

Öne çıkan noktalar

1. Soğutmanın yapay zekâ veri merkezlerinde toplam enerji tüketiminin yaklaşık %45-50'sine katkıda bulunduğu alıntılanıyor.
2. Üretimdeki toplam LLM iş yükünün ve enerjisinin %80-90'ının eğitimden değil çıkarımdan geldiği öngörülüyor (alıntı).
3. Önerilen denetleyici %24,2 hesaplama enerjisi ve %31,2 soğutma enerjisi tasarrufu sağlıyor ve ortalama GPU sıcaklığını %17,0 düşürüyor; çıkarım gecikmesine etkisi ihmal edilebilir.
4. Benzetim kısıtları: dönüş havası sıcaklığı için 70 °C ve GPU girişi için 50 °C üst sınır; PID kazançları Kp 4,5, Ki 0,18, Kd 0,1.
5. Eşgüdümlü kontrol altında GPU başına maksimum sıcaklık 50 °C'nin altında kalıyor ve SLO'lar korunuyor.
6. Soğutma kontrolü MPC problemi (SciPy SLSQP), TP ve sunucu tahsisi MILP (PuLP) olarak formüle edildi; gerçek GPU profilleme ve bir haftalık Azure çıkarım izi kullanıldı.

Tasarımda kullanımı

• Yapay zekâ salonunda soğutma kontrolünü iş yükü yönetimiyle birlikte tasarlayın: GPU sayısı ve tensör paralelliği, DVFS ve besleme havası sıcaklığı ve debisi birlikte optimize edildiğinde soğutma enerjisi %31,2 azaldı.
• GPU giriş sıcaklığı (50 °C) ve dönüş havası (70 °C) üst sınırlarını kontrol kısıtı olarak tanımlayın ve SLO'larla birlikte doğrulayın.
• Soğutma tesisini hava tabanlı varsayımla modelleyin; sıvı veya hibrit soğutmada sonuçları yeniden doğrulayın.

Kimler okumalı

Yapay zekâ çıkarım kümeleri için bilgisayar ve soğutma eşgüdümlü kontrolü geliştiren mühendisler ve araştırmacılar.

Belgenin bölümleri

1. I. Giriş (A. Ana katkı, B. Makale taslağı)
2. II. Arka plan (A. Veri merkezi soğutma sistemleri, B. Tensör paralelliği ve ısıl kısıtlar, C. DVFS ve LLM iş yükü özellikleri)
3. III. Modelleme (A. Raf tabanlı hava soğutma için genel çerçeve, B. Sıcaklık alanı modeli ve güç modeli geliştirme, C. İş yükü tahmin modeli, D. TP ve DVFS'in LLM çıkarım iş yüklerine etkisi)
4. IV. Denetleyici tasarımı (A. Küme düzeyi kontrol, B. Pencere düzeyi TP seçimi, C. Soğutma MPC formülasyonu, D. Sınıf farkında kısıtlarla iş başına DVFS)
5. V. Değerlendirme (hiyerarşik kontrol tabanlı sağlama, deneysel değerlendirme, sunucu egzoz sıcaklığının mekânsal dağılımı, performans karşılaştırması, PID tabanlı soğutma, GPU frekans duyarlılığı)

Belgeyi okuyun

Yayın bilgileri

Yazarlar

Nardos Belay Abera; Yize Chen

Yayıncı

IEEE Transactions on Cloud Computing (Institute of Electrical and Electronics Engineers (IEEE))

Yıl

2026

Belge numarası

arXiv:2601.08113

Sayfalar

1-21

Belge dili

İngilizce

Kaynak türü

Bilimsel yayın

Erişim

Açık lisans — indirilebilir

DOI

10.1109/tcc.2026.3746242

Lisans

CC BY 4.0 — atıf vererek paylaşabilirsiniz

Lisans kanıtı

arxiv.org

Künye