> For the complete documentation index, see [llms.txt](https://docs.verge.io/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.verge.io/automate-protect-and-extend/de/integrationen-und-apis/nvidia-gpu-virtualization.md).

# NVIDIA GPU-Virtualisierung

## Übersicht

Die NVIDIA-Integration mit VergeOS ermöglicht GPU-Beschleunigung für virtuelle Maschinen durch NVIDIAs vGPU- und Multi-Instance-GPU-(MIG)-Technologien. Mehrere VMs können physische GPU-Ressourcen gemeinsam nutzen und dabei Leistungsisolierung beibehalten, verwaltet über VergeOS [Ressourcengruppen](/run-the-platform/de/systemadministration/device-pass-overview.md#resource-groups) und Richtlinien zusammen mit herkömmlichen VMs.

{% hint style="warning" %}
**Lizenzierung erforderlich**

Für die NVIDIA-vGPU-Funktionalität ist eine gültige **NVIDIA-vGPU-Softwarelizenz** erforderlich, die zu Ihrem ausgewählten Profiltyp und Ihrer Arbeitslast passt. Siehe [Unterstützte Hardware](#supported-hardware) für Details.
{% endhint %}

## Unterstützte Hardware

* Nur ausgewählte Data-Center- und professionelle GPUs unterstützen vGPU. Überprüfen Sie die Hardware- und Treiberkompatibilität in der [von NVIDIA vGPU unterstützten GPUs](https://docs.nvidia.com/vgpu/gpus-supported-by-vgpu.html) Liste.
* NVIDIA vGPU unterstützt Windows- und Linux-Gastsysteme. Die Verfügbarkeit der Funktionen variiert je nach Betriebssystem – siehe die [NVIDIA-vGPU-Produkt-Support-Matrix](https://docs.nvidia.com/vgpu/latest/product-support-matrix/index.html) für Details.
* IOMMU (VT-d) und SR-IOV müssen im BIOS des Hosts aktiviert sein.
* Für einen Überblick über die Lizenzierungsoptionen siehe den [NVIDIA-Lizenzierungshandbuch](https://www.nvidia.com/en-us/data-center/virtual-solutions/) .

## Architektur

Die NVIDIA-Integration besteht aus drei Ebenen:

**Physische Ebene:**

* In VergeOS-Knoten installierte NVIDIA-GPU-Hardware
* NVIDIA-vGPU-Hosttreiber (als Bundle-Treiber in das vSAN hochgeladen)
* Hardware-Virtualisierungsunterstützung für IOMMU/SR-IOV

**Virtualisierungsebene:**

* VergeOS-Ressourcengruppen für GPU-Geräteverwaltung und -Zuweisung
* Konfigurierbare vGPU-Profile für verschiedene Workload-Typen
* Zeitbasierte vGPU-Freigabe (softwaregesteuert) oder SR-IOV-Hardwarepartitionierung, abhängig vom GPU-Modell
* Richtlinienbasierte Ressourcenzuweisung und -planung

**Anwendungsebene:**

* In VMs installierte NVIDIA-Gasttreiber (optional als Treiber-ISO aus der Ressourcengruppe angehängt)
* CUDA-Laufzeit- und Entwicklungsbibliotheken
* KI-Frameworks, professionelle Anwendungen und VDI-Clients

## vGPU-Profiltypen

Bei der Konfiguration von vGPU-Ressourcen verwendet NVIDIA einen Buchstabensuffix, um den Profiltyp und die vorgesehene Arbeitslast anzugeben:

| Profilserie | Haupteinsatzbereich   | Erforderliche Lizenz | CUDA-Unterstützung | Max. Bildschirme |
| ----------- | --------------------- | -------------------- | ------------------ | ---------------- |
| **A-Serie** | Virtuelle Anwendungen | vApps                | Nein               | 1                |
| **B-Serie** | Virtuelle Desktops    | vPC                  | Nein               | Bis zu 4         |
| **C-Serie** | KI/ML-Computing       | AI Enterprise        | Vollständig        | 1                |
| **Q-Serie** | Professionelle Grafik | vWS                  | Vollständig        | Bis zu 4         |

{% hint style="info" %}
**Lizenzierung der C-Serie**

Profile der C-Serie erfordern eine **NVIDIA AI Enterprise** Lizenz (nicht die standardmäßige vGPU-Software). Die C-Serie wurde in Version 16.0 aus der standardmäßigen vGPU-Software entfernt.
{% endhint %}

### Ein Profil auswählen

* **B-Serie** — Standardmäßige VDI-Bereitstellungen im Büro, bei denen Benutzer eine grundlegende Grafikbeschleunigung ohne CUDA benötigen
* **Q-Serie** — Professionelle Workstations, auf denen CAD, 3D-Rendering oder Anwendungen laufen, die zertifizierte NVIDIA-Treiber erfordern
* **C-Serie** — Dedizierte GPU-Computing-Ressourcen für KI/ML-Trainings- und Inferenz-Workloads ohne Anzeigeanforderungen
* **A-Serie** — Leichtgewichtiges Anwendungs-Streaming (z. B. RDSH/Citrix), bei dem ein einzelnes Display ausreicht

Framebuffer-Größen und maximale Display-Anzahlen variieren je nach spezifischem Profil innerhalb jeder Serie. Für vollständige Profilspezifikationen siehe den [NVIDIA-vGPU-Benutzerhandbuch](https://docs.nvidia.com/vgpu/latest/grid-vgpu-user-guide/index.html) .

### Multi-Instance GPU (MIG)

Unterstützte GPUs (wie die A100, H100 und RTX PRO 6000 Blackwell) können mithilfe der NVIDIA-MIG-Technologie in mehrere isolierte GPU-Instanzen aufgeteilt werden. Jede MIG-Instanz stellt dedizierte Rechenleistung, Speicher und Speicherbandbreite bereit — im Gegensatz zu Time-Slicing gibt es keine Ressourcen-Konkurrenz zwischen den Instanzen.

MIG-Instanzen können jeweils ihr eigenes vGPU-Profil (A/B/Q) ausführen, und in Kombination mit zeitbasierter vGPU-Freigabe innerhalb jeder Instanz können High-End-GPUs wie die RTX PRO 6000 Blackwell bis zu 48 gleichzeitige VMs von einer einzigen physischen GPU unterstützen.

MIG-Profile erscheinen im Profil-Dropdown der VergeOS-Ressourcengruppe mit einem `MIG` Präfix. Details zu den verfügbaren MIG-Konfigurationen finden Sie im [NVIDIA-MIG-Benutzerhandbuch](https://docs.nvidia.com/datacenter/tesla/mig-user-guide/index.html) .

## Wichtige Funktionen

* **Gemeinsam genutzte GPU-Ressourcen**: Mehrere VMs teilen sich eine einzelne physische GPU und maximieren so die Hardwareauslastung, anstatt jeder VM eine GPU zuzuweisen
* **Live-Migration**: Verschieben Sie GPU-beschleunigte VMs ohne Ausfallzeit zwischen Knoten (erfordert das gleiche GPU-Modell und vGPU-Profil auf Quell- und Zielknoten)
* **Mandantenisolierung**: Hardwarebasierte Trennung und Leistungsgarantien zwischen GPU-Workloads, mit Unterstützung für [das Durchreichen von vGPU-Geräten an Mandanten](/run-the-platform/de/systemadministration/nvidia-vgpu-configuration.md#share-an-nvidia-vgpu-to-a-tenant)
* **Dynamische Zuweisung**: Skalieren Sie GPU-Ressourcen basierend auf den Anforderungen und Prioritäten der Workload

{% hint style="success" %}
**Vollständiges GPU-Passthrough**

Wenn Ihre Workload exklusiven Zugriff auf eine gesamte physische GPU erfordert (z. B. für maximale Leistung oder nicht unterstützte vGPU-Hardware), erwägen Sie [PCI-Geräte-Passthrough](/run-the-platform/de/systemadministration/generic-pci-passthrough.md) anstelle von vGPU.
{% endhint %}

## Implementierungsressourcen

### Erste Schritte

1. Prüfen [Überblick über Geräte-Passthrough](/run-the-platform/de/systemadministration/device-pass-overview.md) für grundlegende Konzepte
2. Folgen Sie dem [NVIDIA-vGPU-Konfiguration](/run-the-platform/de/systemadministration/nvidia-vgpu-configuration.md) Handbuch für die schrittweise Einrichtung

### Erweiterte Konfiguration

* [VM-Best-Practices](/run-the-platform/de/virtuelle-maschinen/vm-best-practices.md) — Richtlinien zur Leistungsoptimierung
* [Wartungsmodus](/run-the-platform/de/betrieb/maintenance-mode.md) — Erforderlich beim Neustart von Knoten zur Treiberinstallation

### Externe Dokumentation

* [NVIDIA-vGPU-Dokumentation](https://docs.nvidia.com/vgpu/) — Offizielle NVIDIA-vGPU-Dokumentation
* [NVIDIA-Entwicklerportal](https://developer.nvidia.com/) — CUDA-Entwicklungsressourcen und -tools
* [NVIDIA Enterprise Support](https://www.nvidia.com/en-us/support/enterprise/) — Professionelle Support-Services


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.verge.io/automate-protect-and-extend/de/integrationen-und-apis/nvidia-gpu-virtualization.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
