For the complete documentation index, see llms.txt. This page is also available as Markdown.

NVIDIA GPU 虚拟化

NVIDIA 与 VergeOS 的集成通过 vGPU 和多实例 GPU(MIG)技术为 VM 提供 GPU 加速,使多个 VM 能共享物理 GPU 资源并实现性能隔离。

概述

NVIDIA 与 VergeOS 的集成通过 NVIDIA 的 vGPU 和多实例 GPU(MIG)技术,为虚拟机提供 GPU 加速。多个虚拟机可以共享物理 GPU 资源,同时保持性能隔离,并由 VergeOS 管理 资源组 以及策略,与传统虚拟机并存。

受支持的硬件

  • 只有部分数据中心级和专业级 GPU 支持 vGPU。请在以下列表中验证硬件和驱动程序兼容性: NVIDIA vGPU 支持的 GPU 。

  • NVIDIA vGPU 支持 Windows 和 Linux 来宾操作系统。功能可用性因操作系统而异——请参见 NVIDIA vGPU 产品支持矩阵 了解详情。

  • 主机 BIOS 中必须启用 IOMMU(VT-d)和 SR-IOV。

  • 有关许可选项概览,请参阅 NVIDIA 许可指南 .

架构

NVIDIA 集成由三层组成:

物理层:

  • 安装在 VergeOS 节点中的 NVIDIA GPU 硬件

  • NVIDIA vGPU 主机驱动程序(作为捆绑驱动上传到 vSAN)

  • IOMMU/SR-IOV 硬件虚拟化支持

虚拟化层:

  • 用于 GPU 设备管理和分配的 VergeOS 资源组

  • 可为不同工作负载类型配置的 vGPU 配置文件

  • 根据 GPU 型号,按时间片共享的 vGPU(软件调度)或 SR-IOV 硬件分区

  • 基于策略的资源分配与调度

应用层:

  • 安装在虚拟机中的 NVIDIA 来宾驱动程序(可选地作为驱动 ISO 从资源组挂载)

  • CUDA 运行时和开发库

  • AI 框架、专业应用程序和 VDI 客户端

vGPU 配置文件类型

在配置 vGPU 资源时,NVIDIA 使用字母后缀来表示配置文件类型和预期工作负载:

配置文件系列
主要使用场景
所需许可
CUDA 支持
最大显示器数量

A 系列

虚拟应用程序

vApps

否

1

B 系列

虚拟桌面

vPC

否

最多 4 个

C 系列

AI/ML 计算

AI Enterprise

完整

1

Q 系列

专业图形

vWS

完整

最多 4 个

C 系列许可

C 系列配置文件需要 NVIDIA AI Enterprise 许可(不是标准 vGPU 软件)。C 系列已在 16.0 版本中从标准 vGPU 软件中移除。

选择配置文件

  • B 系列 — 标准办公 VDI 部署,用户需要基本图形加速,但不需要 CUDA

  • Q 系列 — 运行 CAD、3D 渲染或需要经过认证的 NVIDIA 驱动程序的专业工作站

  • C 系列 — 用于 AI/ML 训练和推理工作负载、无需显示器要求的专用 GPU 计算

  • A 系列 — 轻量级应用流式传输(例如 RDSH/Citrix),单显示器即可满足需求

帧缓冲大小和最大显示器数量会因每个系列中的具体配置文件而异。有关完整的配置文件规格,请参见 NVIDIA vGPU 用户指南 .

多实例 GPU(MIG)

支持的 GPU(例如 A100、H100 和 RTX PRO 6000 Blackwell)可以使用 NVIDIA MIG 技术划分为多个彼此隔离的 GPU 实例。每个 MIG 实例都提供专用的计算、内存和内存带宽——与时间片不同,实例之间不存在资源争用。

每个 MIG 实例都可以运行自己的 vGPU 配置文件(A/B/Q),并且当与每个实例内部的按时间片 vGPU 共享结合时,像 RTX PRO 6000 Blackwell 这样的高端 GPU 可以从单个物理 GPU 支持多达 48 个并发虚拟机。

MIG 配置文件会在 VergeOS 资源组配置文件下拉菜单中显示为带有 MIG 前缀。如需了解可用的 MIG 配置详情,请参见 NVIDIA MIG 用户指南 .

主要能力

  • 共享 GPU 资源:多个虚拟机共享同一块物理 GPU,从而最大化硬件利用率,而不是为每个虚拟机专门分配一块 GPU

  • 实时迁移:在不停机的情况下在节点之间迁移启用 GPU 的虚拟机(源节点和目标节点必须具有匹配的 GPU 型号和 vGPU 配置文件)

  • 租户隔离:GPU 工作负载之间的硬件级隔离和性能保证,并支持 将 vGPU 设备直通给租户

  • 动态分配:根据工作负载需求和优先级扩展 GPU 资源

实施资源

入门

  1. 查看 设备直通概述 以了解基础概念

  2. 请遵循 NVIDIA vGPU 配置 指南进行逐步设置

高级配置

外部文档

最后更新于

这有帮助吗?