NVIDIA GPU 虚拟化
NVIDIA 与 VergeOS 的集成通过 vGPU 和多实例 GPU(MIG)技术为 VM 提供 GPU 加速,使多个 VM 能共享物理 GPU 资源并实现性能隔离。
概述
NVIDIA 与 VergeOS 的集成通过 NVIDIA 的 vGPU 和多实例 GPU(MIG)技术,为虚拟机提供 GPU 加速。多个虚拟机可以共享物理 GPU 资源,同时保持性能隔离,并由 VergeOS 管理 资源组 以及策略,与传统虚拟机并存。
需要许可
NVIDIA vGPU 功能需要有效的 NVIDIA vGPU 软件许可 ,并且该许可必须与您选择的配置文件类型和工作负载相匹配。参见 受支持的硬件 了解详情。
受支持的硬件
只有部分数据中心级和专业级 GPU 支持 vGPU。请在以下列表中验证硬件和驱动程序兼容性: NVIDIA vGPU 支持的 GPU 。
NVIDIA vGPU 支持 Windows 和 Linux 来宾操作系统。功能可用性因操作系统而异——请参见 NVIDIA vGPU 产品支持矩阵 了解详情。
主机 BIOS 中必须启用 IOMMU(VT-d)和 SR-IOV。
有关许可选项概览,请参阅 NVIDIA 许可指南 .
架构
NVIDIA 集成由三层组成:
物理层:
安装在 VergeOS 节点中的 NVIDIA GPU 硬件
NVIDIA vGPU 主机驱动程序(作为捆绑驱动上传到 vSAN)
IOMMU/SR-IOV 硬件虚拟化支持
虚拟化层:
用于 GPU 设备管理和分配的 VergeOS 资源组
可为不同工作负载类型配置的 vGPU 配置文件
根据 GPU 型号,按时间片共享的 vGPU(软件调度)或 SR-IOV 硬件分区
基于策略的资源分配与调度
应用层:
安装在虚拟机中的 NVIDIA 来宾驱动程序(可选地作为驱动 ISO 从资源组挂载)
CUDA 运行时和开发库
AI 框架、专业应用程序和 VDI 客户端
vGPU 配置文件类型
在配置 vGPU 资源时,NVIDIA 使用字母后缀来表示配置文件类型和预期工作负载:
A 系列
虚拟应用程序
vApps
否
1
B 系列
虚拟桌面
vPC
否
最多 4 个
C 系列
AI/ML 计算
AI Enterprise
完整
1
Q 系列
专业图形
vWS
完整
最多 4 个
选择配置文件
B 系列 — 标准办公 VDI 部署,用户需要基本图形加速,但不需要 CUDA
Q 系列 — 运行 CAD、3D 渲染或需要经过认证的 NVIDIA 驱动程序的专业工作站
C 系列 — 用于 AI/ML 训练和推理工作负载、无需显示器要求的专用 GPU 计算
A 系列 — 轻量级应用流式传输(例如 RDSH/Citrix),单显示器即可满足需求
帧缓冲大小和最大显示器数量会因每个系列中的具体配置文件而异。有关完整的配置文件规格,请参见 NVIDIA vGPU 用户指南 .
多实例 GPU(MIG)
支持的 GPU(例如 A100、H100 和 RTX PRO 6000 Blackwell)可以使用 NVIDIA MIG 技术划分为多个彼此隔离的 GPU 实例。每个 MIG 实例都提供专用的计算、内存和内存带宽——与时间片不同,实例之间不存在资源争用。
每个 MIG 实例都可以运行自己的 vGPU 配置文件(A/B/Q),并且当与每个实例内部的按时间片 vGPU 共享结合时,像 RTX PRO 6000 Blackwell 这样的高端 GPU 可以从单个物理 GPU 支持多达 48 个并发虚拟机。
MIG 配置文件会在 VergeOS 资源组配置文件下拉菜单中显示为带有 MIG 前缀。如需了解可用的 MIG 配置详情,请参见 NVIDIA MIG 用户指南 .
主要能力
共享 GPU 资源:多个虚拟机共享同一块物理 GPU,从而最大化硬件利用率,而不是为每个虚拟机专门分配一块 GPU
实时迁移:在不停机的情况下在节点之间迁移启用 GPU 的虚拟机(源节点和目标节点必须具有匹配的 GPU 型号和 vGPU 配置文件)
租户隔离:GPU 工作负载之间的硬件级隔离和性能保证,并支持 将 vGPU 设备直通给租户
动态分配:根据工作负载需求和优先级扩展 GPU 资源
完整 GPU 直通
如果您的工作负载需要独占整块物理 GPU(例如,为了获得最高性能,或使用不受支持的 vGPU 硬件),请考虑 PCI 设备直通 ,而不是使用 vGPU。
实施资源
入门
查看 设备直通概述 以了解基础概念
请遵循 NVIDIA vGPU 配置 指南进行逐步设置
高级配置
外部文档
NVIDIA vGPU 文档 — NVIDIA 官方 vGPU 文档
NVIDIA 开发者门户 — CUDA 开发资源和工具
NVIDIA 企业支持 — 专业支持服务
最后更新于
这有帮助吗?