> For the complete documentation index, see [llms.txt](https://docs.verge.io/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.verge.io/automate-protect-and-extend/zh/ji-cheng-yu-api/nvidia-gpu-virtualization.md).

# NVIDIA GPU 虚拟化

## 概述

NVIDIA 与 VergeOS 的集成通过 NVIDIA 的 vGPU 和多实例 GPU（MIG）技术，为虚拟机提供 GPU 加速。多个虚拟机可以共享物理 GPU 资源，同时保持性能隔离，并由 VergeOS 管理 [资源组](/run-the-platform/zh/xi-tong-guan-li/device-pass-overview.md#resource-groups) 以及策略，与传统虚拟机并存。

{% hint style="warning" %}
**需要许可**

NVIDIA vGPU 功能需要有效的 **NVIDIA vGPU 软件许可** ，并且该许可必须与您选择的配置文件类型和工作负载相匹配。参见 [受支持的硬件](#supported-hardware) 了解详情。
{% endhint %}

## 受支持的硬件

* 只有部分数据中心级和专业级 GPU 支持 vGPU。请在以下列表中验证硬件和驱动程序兼容性： [NVIDIA vGPU 支持的 GPU](https://docs.nvidia.com/vgpu/gpus-supported-by-vgpu.html) 。
* NVIDIA vGPU 支持 Windows 和 Linux 来宾操作系统。功能可用性因操作系统而异——请参见 [NVIDIA vGPU 产品支持矩阵](https://docs.nvidia.com/vgpu/latest/product-support-matrix/index.html) 了解详情。
* 主机 BIOS 中必须启用 IOMMU（VT-d）和 SR-IOV。
* 有关许可选项概览，请参阅 [NVIDIA 许可指南](https://www.nvidia.com/en-us/data-center/virtual-solutions/) .

## 架构

NVIDIA 集成由三层组成：

**物理层：**

* 安装在 VergeOS 节点中的 NVIDIA GPU 硬件
* NVIDIA vGPU 主机驱动程序（作为捆绑驱动上传到 vSAN）
* IOMMU/SR-IOV 硬件虚拟化支持

**虚拟化层：**

* 用于 GPU 设备管理和分配的 VergeOS 资源组
* 可为不同工作负载类型配置的 vGPU 配置文件
* 根据 GPU 型号，按时间片共享的 vGPU（软件调度）或 SR-IOV 硬件分区
* 基于策略的资源分配与调度

**应用层：**

* 安装在虚拟机中的 NVIDIA 来宾驱动程序（可选地作为驱动 ISO 从资源组挂载）
* CUDA 运行时和开发库
* AI 框架、专业应用程序和 VDI 客户端

## vGPU 配置文件类型

在配置 vGPU 资源时，NVIDIA 使用字母后缀来表示配置文件类型和预期工作负载：

| 配置文件系列   | 主要使用场景   | 所需许可          | CUDA 支持 | 最大显示器数量 |
| -------- | -------- | ------------- | ------- | ------- |
| **A 系列** | 虚拟应用程序   | vApps         | 否       | 1       |
| **B 系列** | 虚拟桌面     | vPC           | 否       | 最多 4 个  |
| **C 系列** | AI/ML 计算 | AI Enterprise | 完整      | 1       |
| **Q 系列** | 专业图形     | vWS           | 完整      | 最多 4 个  |

{% hint style="info" %}
**C 系列许可**

C 系列配置文件需要 **NVIDIA AI Enterprise** 许可（不是标准 vGPU 软件）。C 系列已在 16.0 版本中从标准 vGPU 软件中移除。
{% endhint %}

### 选择配置文件

* **B 系列** — 标准办公 VDI 部署，用户需要基本图形加速，但不需要 CUDA
* **Q 系列** — 运行 CAD、3D 渲染或需要经过认证的 NVIDIA 驱动程序的专业工作站
* **C 系列** — 用于 AI/ML 训练和推理工作负载、无需显示器要求的专用 GPU 计算
* **A 系列** — 轻量级应用流式传输（例如 RDSH/Citrix），单显示器即可满足需求

帧缓冲大小和最大显示器数量会因每个系列中的具体配置文件而异。有关完整的配置文件规格，请参见 [NVIDIA vGPU 用户指南](https://docs.nvidia.com/vgpu/latest/grid-vgpu-user-guide/index.html) .

### 多实例 GPU（MIG）

支持的 GPU（例如 A100、H100 和 RTX PRO 6000 Blackwell）可以使用 NVIDIA MIG 技术划分为多个彼此隔离的 GPU 实例。每个 MIG 实例都提供专用的计算、内存和内存带宽——与时间片不同，实例之间不存在资源争用。

每个 MIG 实例都可以运行自己的 vGPU 配置文件（A/B/Q），并且当与每个实例内部的按时间片 vGPU 共享结合时，像 RTX PRO 6000 Blackwell 这样的高端 GPU 可以从单个物理 GPU 支持多达 48 个并发虚拟机。

MIG 配置文件会在 VergeOS 资源组配置文件下拉菜单中显示为带有 `MIG` 前缀。如需了解可用的 MIG 配置详情，请参见 [NVIDIA MIG 用户指南](https://docs.nvidia.com/datacenter/tesla/mig-user-guide/index.html) .

## 主要能力

* **共享 GPU 资源**：多个虚拟机共享同一块物理 GPU，从而最大化硬件利用率，而不是为每个虚拟机专门分配一块 GPU
* **实时迁移**：在不停机的情况下在节点之间迁移启用 GPU 的虚拟机（源节点和目标节点必须具有匹配的 GPU 型号和 vGPU 配置文件）
* **租户隔离**：GPU 工作负载之间的硬件级隔离和性能保证，并支持 [将 vGPU 设备直通给租户](/run-the-platform/zh/xi-tong-guan-li/nvidia-vgpu-configuration.md#share-an-nvidia-vgpu-to-a-tenant)
* **动态分配**：根据工作负载需求和优先级扩展 GPU 资源

{% hint style="success" %}
**完整 GPU 直通**

如果您的工作负载需要独占整块物理 GPU（例如，为了获得最高性能，或使用不受支持的 vGPU 硬件），请考虑 [PCI 设备直通](/run-the-platform/zh/xi-tong-guan-li/generic-pci-passthrough.md) ，而不是使用 vGPU。
{% endhint %}

## 实施资源

### 入门

1. 查看 [设备直通概述](/run-the-platform/zh/xi-tong-guan-li/device-pass-overview.md) 以了解基础概念
2. 请遵循 [NVIDIA vGPU 配置](/run-the-platform/zh/xi-tong-guan-li/nvidia-vgpu-configuration.md) 指南进行逐步设置

### 高级配置

* [虚拟机最佳实践](/run-the-platform/zh/xu-ni-ji/vm-best-practices.md) — 性能优化指南
* [维护模式](/run-the-platform/zh/yun-wei/maintenance-mode.md) — 在重启节点安装驱动程序时必需

### 外部文档

* [NVIDIA vGPU 文档](https://docs.nvidia.com/vgpu/) — NVIDIA 官方 vGPU 文档
* [NVIDIA 开发者门户](https://developer.nvidia.com/) — CUDA 开发资源和工具
* [NVIDIA 企业支持](https://www.nvidia.com/en-us/support/enterprise/) — 专业支持服务


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.verge.io/automate-protect-and-extend/zh/ji-cheng-yu-api/nvidia-gpu-virtualization.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.