> For the complete documentation index, see [llms.txt](https://docs.verge.io/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.verge.io/automate-protect-and-extend/vi/tich-hop-va-api/nvidia-gpu-virtualization.md). # Ảo hóa GPU NVIDIA ## Tổng quan Tích hợp NVIDIA với VergeOS cho phép tăng tốc GPU cho các máy ảo thông qua các công nghệ vGPU và Multi-Instance GPU (MIG) của NVIDIA. Nhiều VM có thể chia sẻ tài nguyên GPU vật lý trong khi vẫn duy trì tách biệt hiệu năng, được quản lý thông qua VergeOS [nhóm tài nguyên](/run-the-platform/vi/quan-tri-he-thong/device-pass-overview.md#resource-groups) và các chính sách bên cạnh các VM truyền thống. {% hint style="warning" %} **Yêu cầu cấp phép** Chức năng NVIDIA vGPU yêu cầu một **giấy phép phần mềm NVIDIA vGPU hợp lệ** phù hợp với loại hồ sơ và khối lượng công việc bạn đã chọn. Xem [Phần cứng được hỗ trợ](#supported-hardware) để biết chi tiết. {% endhint %} ## Phần cứng được hỗ trợ * Chỉ các GPU trung tâm dữ liệu và GPU chuyên nghiệp được chọn mới hỗ trợ vGPU. Xác minh khả năng tương thích của phần cứng và trình điều khiển trong [Các GPU được NVIDIA vGPU hỗ trợ](https://docs.nvidia.com/vgpu/gpus-supported-by-vgpu.html) danh sách. * NVIDIA vGPU hỗ trợ hệ điều hành khách Windows và Linux. Khả năng sẵn có của tính năng thay đổi theo hệ điều hành — xem [Bảng hỗ trợ sản phẩm NVIDIA vGPU](https://docs.nvidia.com/vgpu/latest/product-support-matrix/index.html) để biết chi tiết. * IOMMU (VT-d) và SR-IOV phải được bật trong BIOS của máy chủ. * Để có tổng quan về các tùy chọn cấp phép, hãy tham khảo [Hướng dẫn cấp phép NVIDIA](https://www.nvidia.com/en-us/data-center/virtual-solutions/) . ## Kiến trúc Tích hợp NVIDIA gồm ba lớp: **Lớp vật lý:** * phần cứng GPU NVIDIA được cài đặt trong các node VergeOS * trình điều khiển host NVIDIA vGPU (được tải lên vSAN dưới dạng bundle driver) * hỗ trợ ảo hóa phần cứng IOMMU/SR-IOV **Lớp ảo hóa:** * nhóm tài nguyên VergeOS để quản lý và phân bổ thiết bị GPU * Các hồ sơ vGPU có thể cấu hình cho các loại khối lượng công việc khác nhau * Chia sẻ vGPU theo lát thời gian (lập lịch bằng phần mềm) hoặc phân vùng phần cứng SR-IOV, tùy theo mẫu GPU * Phân bổ và lập lịch tài nguyên dựa trên chính sách **Lớp ứng dụng:** * trình điều khiển khách NVIDIA được cài đặt bên trong các VM (có thể đính kèm tùy chọn dưới dạng ISO trình điều khiển từ nhóm tài nguyên) * thời gian chạy CUDA và các thư viện phát triển * các framework AI, ứng dụng chuyên nghiệp và client VDI ## Các loại hồ sơ vGPU Khi cấu hình tài nguyên vGPU, NVIDIA dùng hậu tố chữ cái để chỉ loại hồ sơ và khối lượng công việc dự kiến: | Dòng hồ sơ | Trường hợp sử dụng chính | Giấy phép bắt buộc | Hỗ trợ CUDA | Số màn hình tối đa | | ---------- | ------------------------ | ------------------ | ----------- | ------------------ | | **Dòng A** | Ứng dụng ảo | vApps | Không | 1 | | **Dòng B** | Máy tính để bàn ảo | vPC | Không | Tối đa 4 | | **Dòng C** | Tính toán AI/ML | AI Enterprise | Đầy đủ | 1 | | **Dòng Q** | Đồ họa chuyên nghiệp | vWS | Đầy đủ | Tối đa 4 | {% hint style="info" %} **Cấp phép dòng C** Các hồ sơ dòng C yêu cầu một **NVIDIA AI Enterprise** giấy phép (không phải phần mềm vGPU tiêu chuẩn). Dòng C đã bị loại khỏi phần mềm vGPU tiêu chuẩn từ phiên bản 16.0. {% endhint %} ### Chọn một hồ sơ * **Dòng B** — Triển khai VDI văn phòng tiêu chuẩn, nơi người dùng cần tăng tốc đồ họa cơ bản mà không cần CUDA * **Dòng Q** — Máy trạm chuyên nghiệp chạy CAD, dựng hình 3D, hoặc các ứng dụng yêu cầu trình điều khiển NVIDIA đã được chứng nhận * **Dòng C** — Tính toán GPU chuyên dụng cho khối lượng công việc huấn luyện và suy luận AI/ML không có yêu cầu hiển thị * **Dòng A** — Phát trực tuyến ứng dụng nhẹ (ví dụ: RDSH/Citrix), nơi một màn hình là đủ Kích thước bộ đệm khung hình và số màn hình tối đa thay đổi theo từng hồ sơ cụ thể trong mỗi dòng. Để xem đầy đủ thông số hồ sơ, hãy xem [Hướng dẫn người dùng NVIDIA vGPU](https://docs.nvidia.com/vgpu/latest/grid-vgpu-user-guide/index.html) . ### GPU đa phiên bản (MIG) Các GPU được hỗ trợ (như A100, H100 và RTX PRO 6000 Blackwell) có thể được phân vùng thành nhiều phiên bản GPU cách ly bằng công nghệ NVIDIA MIG. Mỗi phiên bản MIG cung cấp riêng tài nguyên tính toán, bộ nhớ và băng thông bộ nhớ — khác với chia lát thời gian, không có tranh chấp tài nguyên giữa các phiên bản. Mỗi phiên bản MIG có thể chạy hồ sơ vGPU riêng (A/B/Q), và khi kết hợp với chia sẻ vGPU theo lát thời gian trong từng phiên bản, các GPU cao cấp như RTX PRO 6000 Blackwell có thể hỗ trợ lên đến 48 VM đồng thời từ một GPU vật lý duy nhất. Các hồ sơ MIG xuất hiện trong menu thả xuống hồ sơ của nhóm tài nguyên VergeOS với một `MIG` tiền tố. Để biết chi tiết về các cấu hình MIG có sẵn, hãy xem [Hướng dẫn người dùng NVIDIA MIG](https://docs.nvidia.com/datacenter/tesla/mig-user-guide/index.html) . ## Các khả năng chính * **Tài nguyên GPU dùng chung**: Nhiều VM chia sẻ một GPU vật lý duy nhất, tối đa hóa việc sử dụng phần cứng thay vì dành riêng một GPU cho mỗi VM * **Di chuyển trực tiếp**: Di chuyển các VM được tăng tốc GPU giữa các node mà không có thời gian chết (yêu cầu mẫu GPU và hồ sơ vGPU khớp nhau trên node nguồn và node đích) * **Cô lập khách thuê**: Phân tách ở cấp phần cứng và đảm bảo hiệu năng giữa các khối lượng công việc GPU, với hỗ trợ cho [chuyển thiết bị vGPU cho khách thuê](/run-the-platform/vi/quan-tri-he-thong/nvidia-vgpu-configuration.md#share-an-nvidia-vgpu-to-a-tenant) * **Phân bổ động**: Mở rộng tài nguyên GPU dựa trên nhu cầu và mức độ ưu tiên của khối lượng công việc {% hint style="success" %} **Passthrough toàn bộ GPU** Nếu khối lượng công việc của bạn yêu cầu quyền truy cập độc quyền vào toàn bộ GPU vật lý (ví dụ: để đạt hiệu năng tối đa hoặc khi phần cứng vGPU không được hỗ trợ), hãy cân nhắc [passthrough thiết bị PCI](/run-the-platform/vi/quan-tri-he-thong/generic-pci-passthrough.md) thay vì vGPU. {% endhint %} ## Tài nguyên triển khai ### Bắt đầu 1. Xem xét [Tổng quan về passthrough thiết bị](/run-the-platform/vi/quan-tri-he-thong/device-pass-overview.md) để nắm các khái niệm nền tảng 2. Hãy làm theo [Cấu hình NVIDIA vGPU](/run-the-platform/vi/quan-tri-he-thong/nvidia-vgpu-configuration.md) hướng dẫn để thiết lập từng bước ### Cấu hình nâng cao * [Các phương pháp hay nhất cho VM](/run-the-platform/vi/may-ao/vm-best-practices.md) — Hướng dẫn tối ưu hiệu năng * [Chế độ bảo trì](/run-the-platform/vi/van-hanh/maintenance-mode.md) — Bắt buộc khi khởi động lại các node để cài đặt trình điều khiển ### Tài liệu bên ngoài * [Tài liệu NVIDIA vGPU](https://docs.nvidia.com/vgpu/) — Tài liệu chính thức của NVIDIA vGPU * [Cổng nhà phát triển NVIDIA](https://developer.nvidia.com/) — Tài nguyên và công cụ phát triển CUDA * [Hỗ trợ doanh nghiệp NVIDIA](https://www.nvidia.com/en-us/support/enterprise/) — Dịch vụ hỗ trợ chuyên nghiệp --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.verge.io/automate-protect-and-extend/vi/tich-hop-va-api/nvidia-gpu-virtualization.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.