For the complete documentation index, see llms.txt. This page is also available as Markdown.

NVIDIA GPU-Virtualisierung

Die NVIDIA-Integration mit VergeOS ermöglicht GPU-Beschleunigung für VMs über vGPU- und Multi-Instance-GPU-(MIG)-Technologien, sodass mehrere VMs physische GPU-Ressourcen unter Leistungsisolierung gemeinsam nutzen können.

Übersicht

Die NVIDIA-Integration mit VergeOS ermöglicht GPU-Beschleunigung für virtuelle Maschinen durch NVIDIAs vGPU- und Multi-Instance-GPU-(MIG)-Technologien. Mehrere VMs können physische GPU-Ressourcen gemeinsam nutzen und dabei Leistungsisolierung beibehalten, verwaltet über VergeOS Ressourcengruppen und Richtlinien zusammen mit herkömmlichen VMs.

Unterstützte Hardware

  • Nur ausgewählte Data-Center- und professionelle GPUs unterstützen vGPU. Überprüfen Sie die Hardware- und Treiberkompatibilität in der von NVIDIA vGPU unterstützten GPUs Liste.

  • NVIDIA vGPU unterstützt Windows- und Linux-Gastsysteme. Die Verfügbarkeit der Funktionen variiert je nach Betriebssystem – siehe die NVIDIA-vGPU-Produkt-Support-Matrix für Details.

  • IOMMU (VT-d) und SR-IOV müssen im BIOS des Hosts aktiviert sein.

  • Für einen Überblick über die Lizenzierungsoptionen siehe den NVIDIA-Lizenzierungshandbuch .

Architektur

Die NVIDIA-Integration besteht aus drei Ebenen:

Physische Ebene:

  • In VergeOS-Knoten installierte NVIDIA-GPU-Hardware

  • NVIDIA-vGPU-Hosttreiber (als Bundle-Treiber in das vSAN hochgeladen)

  • Hardware-Virtualisierungsunterstützung für IOMMU/SR-IOV

Virtualisierungsebene:

  • VergeOS-Ressourcengruppen für GPU-Geräteverwaltung und -Zuweisung

  • Konfigurierbare vGPU-Profile für verschiedene Workload-Typen

  • Zeitbasierte vGPU-Freigabe (softwaregesteuert) oder SR-IOV-Hardwarepartitionierung, abhängig vom GPU-Modell

  • Richtlinienbasierte Ressourcenzuweisung und -planung

Anwendungsebene:

  • In VMs installierte NVIDIA-Gasttreiber (optional als Treiber-ISO aus der Ressourcengruppe angehängt)

  • CUDA-Laufzeit- und Entwicklungsbibliotheken

  • KI-Frameworks, professionelle Anwendungen und VDI-Clients

vGPU-Profiltypen

Bei der Konfiguration von vGPU-Ressourcen verwendet NVIDIA einen Buchstabensuffix, um den Profiltyp und die vorgesehene Arbeitslast anzugeben:

Profilserie
Haupteinsatzbereich
Erforderliche Lizenz
CUDA-Unterstützung
Max. Bildschirme

A-Serie

Virtuelle Anwendungen

vApps

Nein

1

B-Serie

Virtuelle Desktops

vPC

Nein

Bis zu 4

C-Serie

KI/ML-Computing

AI Enterprise

Vollständig

1

Q-Serie

Professionelle Grafik

vWS

Vollständig

Bis zu 4

Lizenzierung der C-Serie

Profile der C-Serie erfordern eine NVIDIA AI Enterprise Lizenz (nicht die standardmäßige vGPU-Software). Die C-Serie wurde in Version 16.0 aus der standardmäßigen vGPU-Software entfernt.

Ein Profil auswählen

  • B-Serie — Standardmäßige VDI-Bereitstellungen im Büro, bei denen Benutzer eine grundlegende Grafikbeschleunigung ohne CUDA benötigen

  • Q-Serie — Professionelle Workstations, auf denen CAD, 3D-Rendering oder Anwendungen laufen, die zertifizierte NVIDIA-Treiber erfordern

  • C-Serie — Dedizierte GPU-Computing-Ressourcen für KI/ML-Trainings- und Inferenz-Workloads ohne Anzeigeanforderungen

  • A-Serie — Leichtgewichtiges Anwendungs-Streaming (z. B. RDSH/Citrix), bei dem ein einzelnes Display ausreicht

Framebuffer-Größen und maximale Display-Anzahlen variieren je nach spezifischem Profil innerhalb jeder Serie. Für vollständige Profilspezifikationen siehe den NVIDIA-vGPU-Benutzerhandbuch .

Multi-Instance GPU (MIG)

Unterstützte GPUs (wie die A100, H100 und RTX PRO 6000 Blackwell) können mithilfe der NVIDIA-MIG-Technologie in mehrere isolierte GPU-Instanzen aufgeteilt werden. Jede MIG-Instanz stellt dedizierte Rechenleistung, Speicher und Speicherbandbreite bereit — im Gegensatz zu Time-Slicing gibt es keine Ressourcen-Konkurrenz zwischen den Instanzen.

MIG-Instanzen können jeweils ihr eigenes vGPU-Profil (A/B/Q) ausführen, und in Kombination mit zeitbasierter vGPU-Freigabe innerhalb jeder Instanz können High-End-GPUs wie die RTX PRO 6000 Blackwell bis zu 48 gleichzeitige VMs von einer einzigen physischen GPU unterstützen.

MIG-Profile erscheinen im Profil-Dropdown der VergeOS-Ressourcengruppe mit einem MIG Präfix. Details zu den verfügbaren MIG-Konfigurationen finden Sie im NVIDIA-MIG-Benutzerhandbuch .

Wichtige Funktionen

  • Gemeinsam genutzte GPU-Ressourcen: Mehrere VMs teilen sich eine einzelne physische GPU und maximieren so die Hardwareauslastung, anstatt jeder VM eine GPU zuzuweisen

  • Live-Migration: Verschieben Sie GPU-beschleunigte VMs ohne Ausfallzeit zwischen Knoten (erfordert das gleiche GPU-Modell und vGPU-Profil auf Quell- und Zielknoten)

  • Mandantenisolierung: Hardwarebasierte Trennung und Leistungsgarantien zwischen GPU-Workloads, mit Unterstützung für das Durchreichen von vGPU-Geräten an Mandanten

  • Dynamische Zuweisung: Skalieren Sie GPU-Ressourcen basierend auf den Anforderungen und Prioritäten der Workload

Implementierungsressourcen

Erste Schritte

  1. Prüfen Überblick über Geräte-Passthrough für grundlegende Konzepte

  2. Folgen Sie dem NVIDIA-vGPU-Konfiguration Handbuch für die schrittweise Einrichtung

Erweiterte Konfiguration

  • VM-Best-Practices — Richtlinien zur Leistungsoptimierung

  • Wartungsmodus — Erforderlich beim Neustart von Knoten zur Treiberinstallation

Externe Dokumentation

Zuletzt aktualisiert

War das hilfreich?