> For the complete documentation index, see [llms.txt](https://docs.verge.io/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.verge.io/run-the-platform/de/systemadministration/nvidia-vgpu-configuration.md). # NVIDIA-vGPU-Konfiguration VergeOS ermöglicht die nahtlose Nutzung der vGPU-Plattform von NVIDIA, um virtualisierte GPU-Geräte zwischen Mandanten und VMs zuzuweisen. {% hint style="info" %} **Neu in 26.1.3** VergeOS enthält jetzt erweiterte Unterstützung für NVIDIA-Funktionen und bietet mehr Flexibilität beim Aufteilen von GPU-Geräten über Workloads hinweg * **Heterogene vGPU-Profile** - verwendet mehrere herkömmliche vGPU-Profile innerhalb desselben Geräts. Erfordert NVIDIA-Treiberversion 17.2 oder höher sowie Geräteunterstützung. * **MIG-Profile** - eine einzelne GPU kann in bis zu sieben hardwareisolierte Instanzen partitioniert werden, um mehreren gleichzeitigen Workloads einen garantierten Service zu bieten. Erfordert Geräteunterstützung; empfohlen wird der neueste NVIDIA-Datacenter-Treiber. {% endhint %} {% hint style="success" %} **Die NVIDIA-vGPU-Funktionalität erfordert die kommerzielle vGPU-Lizenzierung von NVIDIA. Dies gilt sowohl für herkömmliche vGPU- als auch für MIG-gestützte vGPU-Konfigurationen.** {% endhint %} *** ## Gesamtablauf Dies sind die wichtigsten Schritte für die NVIDIA-vGPU-Konfiguration in VergeOS: * **Treiber hochladen** Laden Sie den mitgelieferten NVIDIA-Treiber in die VergeOS-Umgebung hoch. * **Ressourcengruppe erstellen** Generieren Sie eine Ressourcengruppe auf Basis ausgewählter physischer GPU-Geräte und wählen Sie dabei ein MIG- oder herkömmliches vGPU-Profil. Dadurch wird ein Pool zuweisbarer vGPU-Geräte erstellt. Pro physischem Gerät können mehrere Ressourcengruppen erstellt werden, um eine Mischung verschiedener vGPU-Typen für unterschiedliche Anwendungsfälle bereitzustellen. * **Treiber laden** Jeder Knoten sollte in den Wartungsmodus versetzt werden, um den NVIDIA-Treiber zu laden. (Ein Neustart des Knotens kann erforderlich sein, wenn IOMMU noch nicht aktiviert wurde und/oder der Treiber zum ersten Mal geladen wird.) * **Geräte einzelnen VMs hinzufügen** Fügen Sie einer VM ein Gerät hinzu und wählen Sie dabei die erstellte Ressourcengruppe aus. Dadurch kann die VM auf den Pool verfügbarer virtueller GPU-Geräte innerhalb der Ressourcengruppe zugreifen. * **An Mandanten freigeben** Geben Sie Geräte an einzelne Mandanten frei, sodass diese die vGPU-Geräte zu ihren eigenen VMs hinzufügen können. *** Die folgenden Abschnitte bieten schrittweise Anleitungen zum Aktivieren und Zuweisen von NVIDIA-vGPU-Ressourcen in VergeOS. ## Voraussetzungen Bevor Sie beginnen, stellen Sie sicher, dass Folgendes vorhanden ist: * **NVIDIA-vGPU-fähige GPU** in einem oder mehreren VergeOS-Knoten installiert (siehe [Von NVIDIA unterstützte GPUs](https://docs.nvidia.com/vgpu/gpus-supported-by-vgpu.html) ) * **IOMMU / VT-d / SR-IOV aktiviert** im Host-BIOS — falls noch nicht aktiviert, planen Sie während dieses Vorgangs einen Neustart des Knotens ein (befolgen Sie die ordnungsgemäßen [**Wartungsmodus**](/run-the-platform/de/betrieb/maintenance-mode.md) Verfahren). * **NVIDIA-vGPU-Softwarelizenz** — Zugriff auf das [NVIDIA-Lizenzierungsportal](https://nvidia.com/en-us/data-center/resources/vgpu-evaluation) zum Beziehen von Treibern * **VergeOS-Adminzugriff** auf den Ressourcen-Manager und die Knotenkonfiguration * Vertrautheit mit [**Risiken und Vorsichtsmaßnahmen beim PCI-Passthrough**](/run-the-platform/de/systemadministration/device-pass-overview.md#pci-passthrough-risksprecautions) ## Host-Installation/Konfiguration 1. Besorgen Sie sich den passenden NVIDIA-Linux-KVM-Treiber für Ihre GPU-Hardware. NVIDIA-vGPU-Treiber können über Ihr NVIDIA-Lizenzierungsportal heruntergeladen werden oder durch Registrierung für eine kostenlose NVIDIA-Testversion: [**https://nvidia.com/en-us/data-center/resources/vgpu-evaluation**](https://nvidia.com/en-us/data-center/resources/vgpu-evaluation).

VergeOS unterstützt NVIDIA-Treiber mit Bundle-Version. Eine Liste der derzeit unterstützten NVIDIA-Treiber finden Sie unter Ressourcen-Manager > Gruppen > Neu. Setzen Sie Typ=NVIDIA vGPU und klicken Sie auf die Schaltfläche, um kompatible Treiber von Drittanbietern anzuzeigen. In der Regel sollten Sie den neuesten Treiber aus dieser Liste verwenden, der mit Ihrer NVIDIA-Hardware kompatibel ist.

2. Laden Sie den NVIDIA-Bundle-Treiber in das VergeOS-vSAN hoch. Siehe [**Hochladen in das vSAN (Dateien)**](/run-the-platform/de/speicher/uploading-files-to-vsan.md) für Anweisungen zum Hochladen.

Die folgenden Anweisungen konfigurieren ausgewählte vGPU-Geräte für Virtual-Function-Passthrough, indem sie automatisch die erforderlichen Ressourceregeln für jedes ausgewählte Gerät erstellen und die Geräte einer Ressourcengruppe zuordnen. Dadurch wird ein Pool von Virtual-Function-Geräten erstellt, aus dem Mandanten und virtuelle Maschinen zugewiesen werden können. Weitere Informationen zu Ressourcengruppen und Ressourceregeln finden Sie unter: Geräte-Passthrough - Übersicht

3. Navigieren Sie zum **Dashboard des Ressourcenmanagers** (**Infrastruktur** > **Ressourcen** aus dem oberen Menü) **-ODER-** Navigieren Sie zu einem **spezifischer Knoten** wo die NVIDIA-Hardware installiert ist (**Infrastruktur** > **Knoten**). 4. Klicken Sie auf die **PCI-GERÄTE** Karte im Dashboard. 5. **Wählen Sie die gewünschten physischen NVIDIA-Geräte aus.** Um die gewünschten NVIDIA-Karten leicht zu finden, verwenden Sie die Suchleiste, um nach Name ("nvidia") oder Typ: Display-Controller zu filtern. 6. Klicken Sie **Ressource erstellen** im linken Menü. 7. **Eine vorhandene vGPU-Ressourcengruppe auswählen** **-ODER-** **wählen Sie --Neue Gruppe--** aus, um das Gerät zuzuordnen. *** **Felder der Ressourcengruppe**: * **Namen**: Bezeichnung zur Identifizierung der Ressourcengruppe (d. h. des Gerätepools); verwenden Sie einen aussagekräftigen Namen, damit Benutzer den Typ der verfügbaren virtuellen Geräte in dieser Gruppe leicht erkennen können. * **Typ**: sollte auf ***NVIDIA vGPU*** (Dieses Feld wird automatisch gesetzt, wenn die Ressourcengruppe auf Grundlage eines NVIDIA-Geräts initialisiert wurde.) * **Beschreibung**: optionales Feld für zusätzliche administrative Hinweise zur Ressourcengruppe * **Klasse**: wählen Sie ***vGPU***. Dieses Feld wird nur verwendet, um der Ressourcengruppe ein zugehöriges Dashboard-Symbol zuzuweisen, und hat keinen Einfluss auf die Funktionalität * **NVIDIA-vGPU-Profil**: legen Sie hier den vGPU-Typ fest, den diese Ressourcengruppe erstellen soll ```
``` ``` **Wenn die Profilliste leer ist, überspringen Sie dieses Feld vorerst und klicken Sie auf **Senden**, um die Ressourcengruppe zu speichern. Befolgen Sie die unten stehenden Anweisungen zum [Treiber neu laden](#reload-drivers) auf mindestens einem Knoten und kehren Sie dann zur Ressourcengruppe zurück (**Infrastruktur** > **Ressourcen** > **Gruppen** > Doppelklick auf die Gruppe > **Bearbeiten**), um das Profil auszuwählen.**
``` * Der **Treiber** Dropdown-Liste enthält alle NVIDIA-vGPU-Treiber (.zip), die im *Dateien* Abschnitt gefunden wurden. Der passende Treiber muss vor der Auswahl in das vSAN hochgeladen werden (Schritte 1–2 oben). Wählen Sie den passenden Treiber aus. * Klicken Sie **Senden** um die Ressourcengruppe zu speichern. Nachdem die Ressourcengruppe ausgewählt oder eine neue erstellt wurde, ein **Erfolgsmeldung** angezeigt werden, die darauf hinweist, dass Ressourceregeln für das/die Gerät(e) erstellt wurden. * Wenn ein Treiber noch nicht zuvor geladen wurde oder IOMMU noch nicht aktiviert ist, **starten Sie die zugehörigen Knoten neu** in [**Wartungsmodus**](/run-the-platform/de/betrieb/maintenance-mode.md) bevor Sie fortfahren. * Nachdem die Knoten neu gestartet wurden, navigieren Sie zu der gerade erstellten NVIDIA-vGPU-Ressourcengruppe (Infrastruktur > Ressourcen > Gruppen > Doppelklick auf die Gruppe). * Klicken Sie **Bearbeiten** im linken Menü. * Wählen Sie **NVIDIA-vGPU-Profil**: Traditionell oder MIG (die Tabs unten enthalten die entsprechenden Anweisungen): {% tabs %} {% tab title="Konfiguration herkömmlicher vGPU" %} * **NVIDIA-vGPU-Profil**: wählen Sie das gewünschte herkömmliche Profil aus. * **Gesamtzahl der vGPU-Instanzen**: Anzahl der virtuellen Instanzen, die mit dem angegebenen Profil erstellt werden sollen. * **Scheduler-Richtlinie**, **Frequenz**, **Mittelungsfaktor**, **Zeitscheibenlänge (ms)**, **Striktes Round Robin**: NVIDIA-spezifische Einstellungen — lesen Sie die NVIDIA-Dokumentation für spezifisches Performance-Tuning. * **Treiber**: aus dem vorherigen Schritt vorausgefüllt. {% hint style="info" %} **Flexible Profilkonfiguration** Ab Version 26.1.3 unterstützt VergeOS heterogene vGPU-Profile. Dies ermöglicht mehr Flexibilität und erlaubt es einem physischen Gerät, gleichzeitig eine Mischung aus verschiedenen Profiltypen und -größen zu hosten (erfordert NVIDIA-Treiberversion 17.2 oder höher und Geräteunterstützung). * NVIDIA erlaubt nur das Mischen von vGPU-Profilen, die dieselbe Architektur teilen und zur selben Kompatibilitätsgruppe gehören — weitere Informationen finden Sie in der NVIDIA-Dokumentation. * Kombinierte Profile müssen in den gesamten Framebuffer der GPU (verfügbarer VRAM) passen. * MIG- und herkömmliche Profile **können nicht** auf demselben physischen Gerät gemischt werden. * NVIDIA-SMI-Abfragen können Informationen über vGPU-Profile liefern, die mit den bereits für ein Gerät konfigurierten kompatibel sind. Siehe [Tipps zur Fehlerbehebung](#troubleshooting-tips) für weitere Informationen. {% endhint %} {% hint style="info" %} **Beispiel: Verwendung heterogener Profile** * **Physisches Gerät**: Die NVIDIA L40S bietet **48 GB Framebuffer-Speicher** * **Mehrere Profiltypen** sind für das Gerät implementiert: * **L40S-24C:** Eine compute-optimierte vGPU-Instanz mit 24 GB * **L40S-12Q:** Eine grafikoptimierte vGPU-Instanz mit 12 GB * **L40S-4C:** Drei leichte Compute-vGPU-Instanzen mit jeweils 4 GB (insgesamt 12 GB) * Für jeden Profiltyp wird eine separate Ressourcengruppe (Gerätepool) erstellt. * Zusammen belegen diese heterogenen Profile den gesamten Framebuffer und **unterstützen mehrere Workload-Typen** (Compute-, Grafik- und Inferenz-Workloads) auf derselben physischen GPU. * **Verbleibende Kapazität**: Diese Konfiguration nutzt den **gesamten 48-GB-Framebuffer**, sodass **keine Kapazität mehr übrig bleibt** für zusätzliche vGPU-Profile. {% endhint %} {% endtab %} {% tab title="MIG-vGPU-Konfiguration" %} * **NVIDIA-vGPU-Profil**: wählen Sie das gewünschte MIG-Profil aus. {% hint style="info" %} **Mehrere für ein einzelnes Gerät verwendete Profile** * Kombinierte Profile müssen in den gesamten Framebuffer der GPU (verfügbarer VRAM) passen. * MIG- und herkömmliche Profile können nicht auf demselben physischen Gerät gemischt werden. {% endhint %} * **MIG-GPU-Instanzen**: (das Maximum ist in der Beschreibung angegeben) Anzahl der zu erstellenden MIG-Instanzen. * **Gesamtzahl der vGPU-Instanzen**: Standard=0 (Maximum) - diese Einstellung bestimmt die Anzahl der zuweisbaren virtuellen GPU-Instanzen pro MIG-Partition. * Belassen Sie diesen Wert bei 0, um automatisch die maximale Anzahl virtueller GPUs für das ausgewählte MIG-Profil zu erstellen. * Setzen Sie den Wert auf 1, um eine einzelne virtuelle GPU unter Verwendung des gesamten MIG-Slices zu erstellen. * Wenn ein anderer Wert als 0 oder 1 gesetzt wird, bleibt innerhalb des MIG-Slices ungenutzte Kapazität zurück. * **Treiber**: aus dem vorherigen Schritt vorausgefüllt. {% hint style="info" %} **Beispiel: MIG-Instanz weiter in virtuelle Instanzen unterteilt** * **Physisches Gerät**: Das RTX Pro 6000 Blackwell DC bietet 96 GB Framebuffer-Speicher MIG-vGPU * **MIG-Profil hinzugefügt**: Durch Auswahl des Profils *NVIDIA RTX Pro 6000 Blackwell DC-2-12Q-MIG (2g.48gb+gfx)* und Angabe von *MIG-GPU-Instanzen*:1 erstellt einen MIG-Slice mit 48 GB dediziertem Framebuffer. Dieser MIG-Slice unterstützt **vier vGPU-Instanzen**, jede mit **12 GB** (das „12Q“-Profil) * **Verbleibende Kapazität**: Nach Zuweisung dieses 48-GB-MIG-Slices, **48 GB Framebuffer** bleiben für zusätzliche MIG-Profile verfügbar * Eine oder mehrere weitere Ressourcengruppen können erstellt werden, um die verbleibende Kapazität mit verschiedenen MIG-Profiltypen zu nutzen. {% endhint %} {% endtab %} {% endtabs %} ### Gasttreiber-ISO Die folgenden Gasttreiber-Einstellungen gelten sowohl für traditionelle als auch für MIG-vGPU-Konfigurationen. * **Treiber-ISO**: Verwenden Sie die **Gasttreiber-ISO erstellen** Option, um automatisch ein Gasttreiber-Installationsprogramm für Ihre VMs zu erstellen. Wenn Sie bereits Gasttreiber erstellt haben, wählen Sie im nächsten Schritt das ISO aus. * Der **Treiber-ISO** Datei gibt eine ISO-Datei an, die an konsumierende VMs angehängt werden kann und eine bequeme Möglichkeit bietet, auf Client-Treiber zuzugreifen, um sie im Gastbetriebssystem zu installieren. (Wählen Sie die ***Gasttreiber anhängen*** Option beim Anhängen des Geräts an eine VM oder einen Mandanten.) {% hint style="info" %} **Wenn Sie die *****Gasttreiber-ISO erstellen***** Option ausgewählt haben, lassen Sie das Feld Treiber-ISO auf *****-- Keine --*****; das System erstellt die ISO-Datei automatisch (basierend auf dem ausgewählten Bundle-Treiber), um Client-Treiber für VMs zu installieren.** {% endhint %} *** ## Treiber neu laden * Wenn die Ressourcengruppenkonfiguration abgeschlossen und gesendet wurde, versetzen Sie den Knoten in [**Wartungsmodus**](/run-the-platform/de/betrieb/maintenance-mode.md) und klicken Sie auf **Treiber neu laden**. * Überwachen Sie die Protokolle des Knoten-Dashboards (am unteren Seitenrand), um **zu überprüfen, dass der Treiber erfolgreich installiert wurde** bevor Sie den Wartungsmodus deaktivieren. {% hint style="success" %} Das Dashboard der Ressourcengruppe enthält die Ressourceregeln, die basierend auf den ausgewählten NVIDIA-Geräten automatisch generiert wurden. Sie können auf eine einzelne Regel klicken, um Konfigurationsdetails anzuzeigen. Eine systemseitig erstellte Regel kann bei Bedarf geändert werden. Zum Beispiel kann die *Knoten* Filter zu *-- Keine --* so geändert werden, dass passende Geräte von allen Knoten eingeschlossen werden; der *Slot* Filter kann entfernt oder angepasst werden, um Geräte aufzunehmen, die sich auf unterschiedlichen Slots innerhalb desselben Knotens oder über verschiedene Knoten hinweg befinden können. Informationen zu Ressourceregeln sind verfügbar unter: [**Übersicht über das Geräte-Passthrough - Ressourceregeln**](/run-the-platform/de/systemadministration/device-pass-overview.md#resource-rules) {% endhint %} ## VM/Gast-Konfiguration 1. Navigieren Sie zum VM-Dashboard (über das obere Menü: Virtuelle Maschinen > Liste > Doppelklick auf die gewünschte VM in der Liste) 2. Klicken Sie **Geräte** im linken Menü. 3. Klicken Sie **Neu** im linken Menü.

Sie können Geräte auch über den Ressourcen-Manager an eine VM anhängen; diese Methode ermöglicht das gleichzeitige Hinzufügen mehrerer Geräte zur VM. Im Dashboard der Ressourcengruppe > Doppelklick auf die gewünschte vGPU-Gruppe > Maschinen-Geräte anzeigen > Neu; wählen Sie die VM aus der Dropdown-Liste Maschine aus.

### Felder des Geräteeintragsformulars * **Namen**: **einen Namen angeben** um den Typ der vGPU/des Profils zu identifizieren **-ODER-** leer lassen, damit das System automatisch einen Namen für die Instanz generiert. * **Typ**: wählen Sie ***NVIDIA vGPU***. * **Beschreibung** (optional): Hier kann zusätzlicher Text für administrative Zwecke eingegeben werden. * **Ressourcengruppe**: wählen Sie die passende NVIDIA-vGPU-Ressourcengruppe aus der Dropdown-Liste aus. (Die Liste der Ressourcengruppen zeigt die Anzahl der aktuell verfügbaren Geräte in der Gruppe an.) * **Anzahl**: geben Sie die Anzahl der vGPU-Geräte an, die an die VM angehängt werden sollen. (Diese Option ist nur verfügbar, wenn auf den Geräteeintrag über den Ressourcen-Manager zugegriffen wird.) * **Gasttreiber anhängen**: wenn für die Ressourcengruppe eine Gasttreiber-ISO angegeben wurde, können Sie diese Option aktivieren, um automatisch ein CD-ROM-Laufwerk mit NVIDIA-Gasttreibern an die VM anzuhängen. * **Bildratenlimit**: um eine Obergrenze für Bilder pro Sekunde festzulegen. Empfohlene Aktualisierungsrateneinstellungen hängen von Ihrem spezifischen Workload ab. Niedrigere Aktualisierungsraten verringern unnötigen Overhead auf der vGPU. Wenn sie ausschließlich für Compute-Workloads (wie ML/Inference) und nicht für Grafik-/Anzeigezwecke verwendet wird, kann das Bildratenlimit auf 0 gesetzt werden. * **VNC der Konsole deaktivieren**: diese Option kann verwendet werden, wenn die vGPU für das primäre Display verwendet werden soll, z. B. Zugriff ausschließlich per RDP. * **Erweiterte NVIDIA-Einstellungen; lesen Sie die NVIDIA-Dokumentation zu den folgenden Optionen:** * **Unified Memory aktivieren** * **NVIDIA CUDA Toolkit-Debugger aktivieren** * **NVIDIA CUDA Toolkit-Profile aktivieren** 4. Wenn die Felder ausgefüllt sind, klicken Sie auf **Senden** um das Hinzufügen des neuen Geräts abzuschließen. 5. Die VM benötigt einen **Neustart** um das Gerät anzuhängen. Klicken Sie im VM-Dashboard auf den *Neustart* Link in der Nachricht, die oben im Dashboard angezeigt wird, oder klicken Sie auf **Neustart** im linken Menü. 6. **Erforderliche NVIDIA-Gasttreiber installieren**; erforderliche Treiber variieren je nach spezifischem GPU-Modell und Gast-OS-Version. Wenn die Option zum Anhängen von Gasttreibern ausgewählt wurde, steht ein CD-ROM-Laufwerk mit den erforderlichen NVIDIA-Treibern zur Installation zur Verfügung. 7. Lesen Sie die NVIDIA-Dokumentation zu den Anforderungen/Anweisungen für die Lizenzierung von Client-vGPU.

Die NVIDIA-Client-Lizenzierung kann das Generieren eines Client-Konfigurations-Tokens auf dem NVIDIA-Lizenzierungsserver umfassen, das in den VM-Gast heruntergeladen werden muss, gefolgt von einem VM-Neustart.

8. **Überprüfen Sie, ob die vGPU erkannt wird** — sobald die Gasttreiber installiert und die VM neu gestartet wurde, führen Sie `nvidia-smi` in der VM aus, um zu bestätigen, dass die virtuelle GPU erkannt wird und funktioniert. ## Eine NVIDIA-vGPU an einen Mandanten freigeben NVIDIA-vGPU-Geräte können an einen Mandanten übergeben werden, damit dieser sie an seine eigenen VMs weiterreichen kann. Wenn Sie Geräte an einen Mandanten durchreichen, wird innerhalb des Mandanten eine neue Ressourcengruppe erstellt. {% hint style="info" %} **An Mandanten freigegebene Geräte werden dick provisioniert (d. h. der Mandant besitzt die Geräte dann, sodass sie auch dann nicht anderen VMs oder Mandanten zugewiesen werden können, wenn sie nicht verwendet werden.)** {% endhint %} 1. Navigieren Sie zum gewünschten **Mandanten-Dashboard** (über das obere Menü: Tenants > Liste > doppelklicken Sie auf den Tenant in der Liste.) 2. Klicken Sie **Knoten** im linken Menü. 3. **Doppelklicken Sie auf einen der Tenant-Knoten**. 4. Klicken Sie **Geräte** im linken Menü. 5. Klicken Sie **Neu** im linken Menü. 6. Siehe [**Felder des Geräteeintragsformulars**](#device-entry-form-fields) oben. 7. Wenn die Felder ausgefüllt sind, klicken Sie auf **Senden** um das Hinzufügen des neuen Geräts abzuschließen. 8. Das Gerät steht nun für die Zuordnung zu Mandanten-VMs zur Verfügung. Befolgen Sie die [**VM/Gast-Konfiguration**](#vmguest-configuration) Anweisungen oben. ## Tipps zur Fehlerbehebung * **Treiber neu laden**: Jede Änderung an einer Ressourcengruppe erfordert ein Neuladen des Treibers. Folgen Sie den Neuladeaufforderungen oben im Knoten-Dashboard, um den Knoten in **Wartungsmodus** zu versetzen und die Treiber neu zu laden. Überwachen Sie die Knotenprotokolle, um zu bestätigen, dass der Treiber erfolgreich geladen wurde, bevor Sie den Wartungsmodus deaktivieren. Wiederholen Sie das Neuladen des Treibers für jeden betroffenen Knoten. * **NVIDIA SMI (System Management Interface)**: Dies ist ein leistungsstarkes NVIDIA-Tool zur Fehlerbehebung bei Konfigurationen, das über die VergeOS-Benutzeroberfläche zugänglich ist. Zugriff auf **Knotendiagnose**, wählen Sie **Abfrage: *****NVIDIA SMI*** und den gewünschten Befehl, um zusammenfassende oder detaillierte Abfrageinformationen zu Ihren konfigurierten NVIDIA-vGPU-Geräten bereitzustellen. --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.verge.io/run-the-platform/de/systemadministration/nvidia-vgpu-configuration.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.