Ảo hóa GPU NVIDIA
Tích hợp NVIDIA với VergeOS cho phép tăng tốc GPU cho VM thông qua công nghệ vGPU và Multi-Instance GPU (MIG), cho phép nhiều VM chia sẻ tài nguyên GPU vật lý với sự cô lập hiệu năng.
Tổng quan
Tích hợp NVIDIA với VergeOS cho phép tăng tốc GPU cho các máy ảo thông qua các công nghệ vGPU và Multi-Instance GPU (MIG) của NVIDIA. Nhiều VM có thể chia sẻ tài nguyên GPU vật lý trong khi vẫn duy trì tách biệt hiệu năng, được quản lý thông qua VergeOS nhóm tài nguyên và các chính sách bên cạnh các VM truyền thống.
Yêu cầu cấp phép
Chức năng NVIDIA vGPU yêu cầu một giấy phép phần mềm NVIDIA vGPU hợp lệ phù hợp với loại hồ sơ và khối lượng công việc bạn đã chọn. Xem Phần cứng được hỗ trợ để biết chi tiết.
Phần cứng được hỗ trợ
Chỉ các GPU trung tâm dữ liệu và GPU chuyên nghiệp được chọn mới hỗ trợ vGPU. Xác minh khả năng tương thích của phần cứng và trình điều khiển trong Các GPU được NVIDIA vGPU hỗ trợ danh sách.
NVIDIA vGPU hỗ trợ hệ điều hành khách Windows và Linux. Khả năng sẵn có của tính năng thay đổi theo hệ điều hành — xem Bảng hỗ trợ sản phẩm NVIDIA vGPU để biết chi tiết.
IOMMU (VT-d) và SR-IOV phải được bật trong BIOS của máy chủ.
Để có tổng quan về các tùy chọn cấp phép, hãy tham khảo Hướng dẫn cấp phép NVIDIA .
Kiến trúc
Tích hợp NVIDIA gồm ba lớp:
Lớp vật lý:
phần cứng GPU NVIDIA được cài đặt trong các node VergeOS
trình điều khiển host NVIDIA vGPU (được tải lên vSAN dưới dạng bundle driver)
hỗ trợ ảo hóa phần cứng IOMMU/SR-IOV
Lớp ảo hóa:
nhóm tài nguyên VergeOS để quản lý và phân bổ thiết bị GPU
Các hồ sơ vGPU có thể cấu hình cho các loại khối lượng công việc khác nhau
Chia sẻ vGPU theo lát thời gian (lập lịch bằng phần mềm) hoặc phân vùng phần cứng SR-IOV, tùy theo mẫu GPU
Phân bổ và lập lịch tài nguyên dựa trên chính sách
Lớp ứng dụng:
trình điều khiển khách NVIDIA được cài đặt bên trong các VM (có thể đính kèm tùy chọn dưới dạng ISO trình điều khiển từ nhóm tài nguyên)
thời gian chạy CUDA và các thư viện phát triển
các framework AI, ứng dụng chuyên nghiệp và client VDI
Các loại hồ sơ vGPU
Khi cấu hình tài nguyên vGPU, NVIDIA dùng hậu tố chữ cái để chỉ loại hồ sơ và khối lượng công việc dự kiến:
Dòng A
Ứng dụng ảo
vApps
Không
1
Dòng B
Máy tính để bàn ảo
vPC
Không
Tối đa 4
Dòng C
Tính toán AI/ML
AI Enterprise
Đầy đủ
1
Dòng Q
Đồ họa chuyên nghiệp
vWS
Đầy đủ
Tối đa 4
Chọn một hồ sơ
Dòng B — Triển khai VDI văn phòng tiêu chuẩn, nơi người dùng cần tăng tốc đồ họa cơ bản mà không cần CUDA
Dòng Q — Máy trạm chuyên nghiệp chạy CAD, dựng hình 3D, hoặc các ứng dụng yêu cầu trình điều khiển NVIDIA đã được chứng nhận
Dòng C — Tính toán GPU chuyên dụng cho khối lượng công việc huấn luyện và suy luận AI/ML không có yêu cầu hiển thị
Dòng A — Phát trực tuyến ứng dụng nhẹ (ví dụ: RDSH/Citrix), nơi một màn hình là đủ
Kích thước bộ đệm khung hình và số màn hình tối đa thay đổi theo từng hồ sơ cụ thể trong mỗi dòng. Để xem đầy đủ thông số hồ sơ, hãy xem Hướng dẫn người dùng NVIDIA vGPU .
GPU đa phiên bản (MIG)
Các GPU được hỗ trợ (như A100, H100 và RTX PRO 6000 Blackwell) có thể được phân vùng thành nhiều phiên bản GPU cách ly bằng công nghệ NVIDIA MIG. Mỗi phiên bản MIG cung cấp riêng tài nguyên tính toán, bộ nhớ và băng thông bộ nhớ — khác với chia lát thời gian, không có tranh chấp tài nguyên giữa các phiên bản.
Mỗi phiên bản MIG có thể chạy hồ sơ vGPU riêng (A/B/Q), và khi kết hợp với chia sẻ vGPU theo lát thời gian trong từng phiên bản, các GPU cao cấp như RTX PRO 6000 Blackwell có thể hỗ trợ lên đến 48 VM đồng thời từ một GPU vật lý duy nhất.
Các hồ sơ MIG xuất hiện trong menu thả xuống hồ sơ của nhóm tài nguyên VergeOS với một MIG tiền tố. Để biết chi tiết về các cấu hình MIG có sẵn, hãy xem Hướng dẫn người dùng NVIDIA MIG .
Các khả năng chính
Tài nguyên GPU dùng chung: Nhiều VM chia sẻ một GPU vật lý duy nhất, tối đa hóa việc sử dụng phần cứng thay vì dành riêng một GPU cho mỗi VM
Di chuyển trực tiếp: Di chuyển các VM được tăng tốc GPU giữa các node mà không có thời gian chết (yêu cầu mẫu GPU và hồ sơ vGPU khớp nhau trên node nguồn và node đích)
Cô lập khách thuê: Phân tách ở cấp phần cứng và đảm bảo hiệu năng giữa các khối lượng công việc GPU, với hỗ trợ cho chuyển thiết bị vGPU cho khách thuê
Phân bổ động: Mở rộng tài nguyên GPU dựa trên nhu cầu và mức độ ưu tiên của khối lượng công việc
Passthrough toàn bộ GPU
Nếu khối lượng công việc của bạn yêu cầu quyền truy cập độc quyền vào toàn bộ GPU vật lý (ví dụ: để đạt hiệu năng tối đa hoặc khi phần cứng vGPU không được hỗ trợ), hãy cân nhắc passthrough thiết bị PCI thay vì vGPU.
Tài nguyên triển khai
Bắt đầu
Xem xét Tổng quan về passthrough thiết bị để nắm các khái niệm nền tảng
Hãy làm theo Cấu hình NVIDIA vGPU hướng dẫn để thiết lập từng bước
Cấu hình nâng cao
Các phương pháp hay nhất cho VM — Hướng dẫn tối ưu hiệu năng
Chế độ bảo trì — Bắt buộc khi khởi động lại các node để cài đặt trình điều khiển
Tài liệu bên ngoài
Tài liệu NVIDIA vGPU — Tài liệu chính thức của NVIDIA vGPU
Cổng nhà phát triển NVIDIA — Tài nguyên và công cụ phát triển CUDA
Hỗ trợ doanh nghiệp NVIDIA — Dịch vụ hỗ trợ chuyên nghiệp
Cập nhật lần cuối
Nội dung này có hữu ích không?