İçeriğe geç
Proxmox'un Türkiye'deki tek yetkili partneri Proxmox'ta doğrulayın ↗ +90 212 639 45 43 [email protected]
Ana sayfa / Blog / Yapay Zekâ
Yapay Zekâ

Bir GPU, on proje: Proxmox ile pahalı kartları paylaştırın

Bir GPU'yu tek bir ekibe kilitlemek yerine sanal makinelere bölün. Yatırımınız boşta beklemesin.

GTM Open Source · 5 dakikalık okuma

Bir yapay zekâ GPU'su, birçok sunucudan daha pahalıdır. Peki şirketinizdeki GPU'lar günün kaç saatinde gerçekten çalışıyor?

Tipik tablo şöyle: Veri bilimi ekibi gündüz deneme yapar, akşam GPU boşta bekler. Geliştirme ekibinin küçük bir modeli kartın yalnız bir kısmını kullanır. Pilot proje haftada iki gün çalışır. Sonuç: Yüksek yatırım, düşük kullanım.

Proxmox ile üç paylaşım yolu

1 → 1PassthroughKartın tamamı tek bir sanal makinede; tam performans, ek lisans yok.
1 → NNVIDIA vGPUKart, belleği ayrılmış parçalarla birden çok sanal makineye bölünür.
MIGDonanım bölmeDestekleyen kartlarda her parça donanım düzeyinde yalıtılır.

Proxmox VE, NVIDIA vGPU yazılımının resmi olarak desteklenen platformları arasında. Proxmox bu kurulumu RTX PRO 6000 Blackwell Server Edition gibi güncel kartlarla test etti; bu kartta MIG parçaları üzerinde vGPU oluşturmak da mümkün.

GPU'yu satın almak yatırımdır. GPU'yu paylaştırmak, o yatırımı kâra çevirmektir.

Bir sunucu, birçok iş

Örnek bir gün, tek bir GPU'lu Proxmox sunucusunda:

  • Gündüz: Kurum içi sohbet asistanı vGPU parçasıyla çalışanlara hizmet verir; yanında iki geliştirici kendi parçalarında model dener.
  • Akşam: Geliştiriciler çıkınca parçaları serbest kalır; aynı kartta toplu belge işleme ya da ince ayar işi çalışır.
  • Gece: Bütün kart passthrough ile tek bir eğitim sanal makinesine verilir.

Hepsi aynı Proxmox arayüzünden; GPU'yu hangi sanal makinenin kullanacağını birkaç tıkla değiştirirsiniz.

Ekiplere kendi alanı

  • Her ekip kendi sanal makinelerini ve GPU parçasını görür; Proxmox'un rol ve yetki sistemiyle başkasının ortamına dokunamaz.
  • Deneme öncesi anlık görüntü: bozulan ortam saniyeler içinde geri gelir.
  • Model dosyaları Ceph üzerinde ortak depoda; her proje kopyalamadan kullanır.

Kaç GPU belleğine ihtiyacınız var? Modelinize göre hemen hesaplayın.

Hesaplayıcı

Lisans notu

Passthrough için ek GPU lisansı gerekmez. vGPU ve MIG üzerinde vGPU için NVIDIA'nın vGPU lisansı gerekir; NVIDIA desteği alabilmek için kümede Basic ya da üzeri Proxmox aboneliği de şarttır. GPU, NVIDIA lisansı ve Proxmox aboneliğini birlikte planlıyoruz. Teknik ayrıntılar: GPU passthrough ve vGPU rehberi.

GPU yatırımınızı tam kapasite kullanın

Ekiplerinizi ve iş yüklerinizi anlatın; GPU paylaşım modelini, NVIDIA lisansını ve Proxmox aboneliğini birlikte tasarlayalım.