Çoklu-GPU sistemi (6–12 kart) için işlemci: temel gereksinimler

6–12 ekran kartı içeren bir sistemin kararlı çalışması için, en az 48–64 PCIe hattına sahip (tercihen AMD EPYC veya Intel Xeon/W sunucu platformlarından), 4G Decoding adreslemesini destekleyen ve uygun slot düzenine sahip bir anakartla eşleştirilmiş bir işlemci gereklidir. Standart tüketici sınıfı CPU'lar (Core i9, Ryzen 9), fiziksel olarak 20–24 PCIe hattı sınırı nedeniyle uygun değildir; bu durum, pahalı ve karmaşık anahtarlayıcılar kullanmadan tam hızda 2–3 karttan fazlasını bağlamayı imkansız kılar.

İşlemcinin "ham" gigahertz değerleri kadar, giriş/çıkış (I/O) veri yolunun bant genişliği de kritik öneme sahiptir. Render, yapay sinir ağlarının eğitimi veya karmaşık hesaplamalar gibi görevlerde dar boğaz genellikle çekirdek gücü değil, işlemcinin grafik hızlandırıcı dizisiyle hızlı veri alışverişi yapabilme kapasitesidir.

PCIe hatları gereksinimleri: bağlantı matematiği

Çoklu-GPU sistemi kurulumundaki en önemli parametre, mevcut PCIe (Peripheral Component Interconnect Express) hatlarının sayısıdır. Her ekran kartının, yeterli bant genişliğine sahip doğrudan işlemciye veya yonga setine erişimi olmalıdır.

Hatların dağıtımı

Modern ekran kartları PCIe 4.0 veya 5.0 arayüzünü kullanır. Kartlar x8 veya hatta x4 modunda çalışabilse de, sürekli veri alışverişi gerektiren görevler (render, AI) için x8 veya x16 modunu korumak tercih edilir.

Platform ve işlemci seçimi

Pazar, bu tür derlemeler için iki ana yol sunar: yüksek performanslı iş istasyonları (HEDT) ve sunucu platformları.

1. AMD Platformu (Tercih edilen seçim)

AMD mimarisi, şu anda çoklu-GPU segmentinde, "üst düzey" tüketici-profesyonel serilerde bile daha fazla ücretsiz PCIe hattı sağlaması sayesinde lider konumdadır.

• AMD Ryzen Threadripper (7000/5000 serisi):
  • Modele ve yonga setine (TRX50/WRX90) bağlı olarak 128'e kadar PCIe hattı sağlar.
  • Ek anahtarlayıcılara gerek kalmadan 6–8 kartı x8/x8 modunda bağlamaya olanak tanır.
  • Render iş istasyonları için idealdir.
• AMD EPYC (Sunucu):
  • Amiral gemisi çözüm. EPYC 9004/7003 serisi işlemciler soket başına 128 adet PCIe 5.0/4.0 hattı sunar.
  • 12+ kartlı bir sistemin tam bağlantıyla kurulmasına olanak tanır.
  • Büyük miktarda RAM desteği (birkaç terabayta kadar).

2. Intel Platformu

Intel, benzer sayıda hat elde etmek için geleneksel olarak daha pahalı çözümler gerektirir.

• Intel Xeon W-3400/W-2400 (Sapphire Rapids):
  • Üst düzey W-3400 modelleri 112'ye kadar PCIe 5.0 hattı sağlar.
  • Threadripper ile rekabet edebilir ancak genellikle daha pahalı anakartlar gerektirir.
• Intel Xeon Scalable (Gold/Platinum):
  • Sunucu çift işlemcili sistemler.
  • İki soketten hatları birleştirmeye olanak tanır ancak karmaşık NUMA (Non-Uniform Memory Access) yapılandırması gerektirir.

Bellek (RAM) gereksinimleri

Çok sayıda GPU içeren sistemlerde bellek iki işlev görür: işleme verilerini depolar ve CPU ile GPU arasındaki alışverişte arabellekleme sağlar.

1. Bellek Kapasitesi:

   • Genel kural: Her ekran kartı için minimum 2–4 GB sistem RAM'i + işletim sistemi için rezerv.
   • 6 kart için: minimum 32 GB (optimal 64 GB).
   • 12 kart için: minimum 64 GB (optimal 128 GB ve üzeri).
   • Büyük modellerin (LLM) eğitimi veya karmaşık 3D render ile uğraşıyorsanız, kapasite ekran kartlarının VRAM'ine sığmayan veri setinin boyutuna karşılık gelmelidir.

2. Tip ve Kanallar:

   • HEDT için dört kanallı, EPYC/Xeon sunucuları için sekiz kanallı bellek kullanın.
   • Bu, bant genişliği için kritik öneme sahiptir. İki kanallı bellek, 12 karta veri aktarımında dar boğaz haline gelecektir.
   • Modülleri kanallara göre dengeli tutun (yuvaları anakart kılavuzuna göre doldurun).

Anakart ve altyapı

İşlemci seçimi, anakart seçimini belirler. 6–12 GPU segmentinde standart ATX anakartlar uygun değildir.

• Form faktörü: E-ATX, SSI-EEB veya özel sunucu formatları.
• Slot düzeni: Ekran kartlarının birbirini aşırı ısıtmaması için 2–3 genişletme yuvası aralıklı slotlara sahip kartları arayın.
• Above 4G Decoding Desteği: BIOS/UEFI'de zorunlu bir özelliktir. Bu olmadan, sistem kontrolörleri için bellek adreslerini dağıtamayacağından 4–5'ten fazla ekran kartını göremez.
• Resizable BAR: Veri alışverişinin verimliliğini artırmak için desteklenmesi tavsiye edilir (özellikle modern NVIDIA RTX 30/40/50 serisi ve AMD Radeon GPU'lar için).

Kurulum sırasında yapılan yaygın hatalar

1. İşlemci ve anakart gücünün göz ardı edilmesi: 12 GPU'lu sistemler, sadece grafik için değil, yonga seti/işlemci için de çok enerji tüketir. Anakartın güçlendirilmiş güç devrelerine (VRM) ve PCIe slotları için ek güç beslemesine (riser'ların veya anakartın yapısına göre) sahip olduğundan emin olun.

2. Yanlış NUMA yapılandırması (sunucular için): Çift işlemcili (Dual Socket) sistemlerde bellek belirli bir işlemciye bağlıdır. Görev CPU 1'de çalıştırılırken veriler CPU 2'ye bağlı bellekte duruyorsa gecikmeler oluşur.

   • Çözüm: İşlemleri ve belleği tek bir düğüme bağlamak için numactl (Linux) gibi araçları kullanın.

3. Yonga seti ve VRM aşırı ısınması: 6–12 kart takıldığında kasadaki hava akışı bozulur. Genellikle anakartın da ısındığı unutulur.

   • Çözüm: Ek fanları işlemci VRM bölgesine ve yonga setine yönlendirin.

4. Ciddi görevler için ucuz USB riser'ların kullanılması: Kripto para madenciliği için ucuz x1 riser'lar uygundur. Render ve hesaplama için bunlar uygun değildir, çünkü veri alışveriş hızını sınırlarlar. Kaliteli PCIe x8/x16 kabloları kullanın veya kartları doğrudan slotlara takın.

SSS

S: 6 ekran kartı için Intel Core i9 işlemci kullanılabilir mi? C: Hayır. Fiziksel PCIe hatları yetersiz kalacaktır. Kartları çalıştırabilirsiniz ancak büyük gecikmelerle yonga seti üzerinden çalışacaklar ve tek bir veri yolunu paylaşacaklardır; bu da veri alışverişi gerektiren görevlerde performansı sıfıra indirecektir.

S: Render için hangi işlemci daha iyi: Threadripper mi yoksa EPYC mi? C: 6–8 kartlı bir iş istasyonu için Threadripper daha avantajlıdır (platform daha ucuz, soğutma daha kolay). 12+ kartlı kurulumlar ve veri merkezinde 7/24 çalışma için güvenilirlik, ECC bellek desteği ve ölçeklenebilirlik nedeniyle EPYC daha iyidir.

S: 12 ekran kartı için ne kadar bellek gerekir? C: Minimum 64 GB, ancak 128 GB DDR4/DDR5 ECC önerilir. Bu, veriler geçici olarak VRAM'den sistem belleğine aktarıldığında büyük sahnelerin veya veri setlerinin işlenmesi sırasında kararlılığı sağlayacaktır.

S: İşlemci frekansı (GHz) önemli mi? C: Çoklu-GPU görevleri için frekans ikincil derecede önemlidir. Daha önemli olan çekirdek sayısı (veri hazırlama için) ve PCIe hatlarının sayısıdır. 3.0–3.5 GHz temel frekans yeterlidir. Aşırı hız aşırtmalı modeller için ekstra ödeme yapmayın.