> For the complete documentation index, see [llms.txt](https://docs.verge.io/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.verge.io/knowledge-base/vi/system-administration/using-igpu-ai-acceleration.md).

# Sử dụng iGPU để tăng tốc AI

{% hint style="info" %}
**Các điểm chính**

* iGPU (được tích hợp trực tiếp trong nhiều CPU máy chủ hiện đại) có thể cung cấp khả năng suy luận AI tăng tốc cho các mô hình AI nhỏ đến vừa
* Một iGPU có thể mang lại nhiệt lượng thấp hơn, mức tiêu thụ điện giảm và thông lượng tốt so với việc chỉ chạy trên CPU hoặc dùng GPU rời
* Sử dụng iGPU cho phép các tác vụ AI tận dụng sức mạnh GPU tích hợp sẵn vốn thường bị sử dụng chưa hết
  {% endhint %}

{% hint style="info" %}
**Thông tin thêm**

Một **iGPU** (đơn vị xử lý đồ họa tích hợp) được tích hợp trực tiếp vào CPU thay vì tồn tại dưới dạng card đồ họa riêng. Trong VergeOS, iGPU có thể được dùng để tăng tốc AI riêng tư, cho phép bạn tận dụng phần cứng đã có sẵn trong nhiều máy chủ hiện đại. Cách tiếp cận này giảm gánh nặng xử lý lên các lõi CPU, đồng thời thường потреб ít điện năng và làm mát hơn so với GPU gắn thêm chuyên dụng. Vì iGPU được tối ưu cho các phép toán ma trận và vector song song, chúng thường hiệu quả hơn CPU đối với các tác vụ suy luận.

iGPU chia sẻ bộ nhớ hệ thống với CPU, điều này có thể trở thành một nút thắt cổ chai. Tuy nhiên, đối với các mô hình nhỏ đến vừa, hạn chế này thường có thể chấp nhận được. Nếu mục tiêu của bạn là hiệu năng tối đa, phần cứng GPU rời vẫn là lựa chọn ưu tiên.

Đối với các tác vụ suy luận nhẹ (ví dụ: mô hình ngôn ngữ nhỏ), iGPU thường tiết kiệm điện hơn. Đối với các khối lượng công việc huấn luyện nặng, cả CPU lẫn iGPU đều không lý tưởng.

Trên các máy chủ cá nhân chạy các mô hình AI vừa phải, suy luận bằng iGPU mang lại điểm cân bằng lý tưởng: ít nhiệt hơn, mức tiêu thụ điện thấp hơn và thông lượng khá tốt.

**Lợi ích của việc sử dụng iGPU**

* Tiêu thụ điện năng thấp hơn và yêu cầu làm mát ít hơn so với việc chỉ chạy trên CPU
* Tận dụng phần cứng đã được tích hợp sẵn trong CPU, tránh phải mua thêm
* Thông lượng trên mỗi watt tốt hơn so với các lõi CPU
* Giảm tải tính toán khỏi các lõi CPU, cải thiện khả năng phản hồi tổng thể của hệ thống

Các máy chủ hiện đại thường có iGPU đủ mạnh. Ngay cả các máy chủ cũ hơn hoặc kém mạnh hơn cũng có thể mang lại khả năng tăng tốc đáng kể bằng cách sử dụng phần cứng tích hợp sẵn này.
{% endhint %}

{% hint style="warning" %}
**Điều kiện tiên quyết**

* CPU máy chủ phải có GPU tích hợp (iGPU)
* Xác minh rằng iGPU đã được bật trong cài đặt BIOS
* Có thể cần bật IOMMU/VT-d (Intel) hoặc AMD-Vi (AMD) để passthrough
  {% endhint %}

***

## Các bước tổng quan

Để sử dụng iGPU cho các mô hình AI riêng tư, cần thực hiện các bước tổng quát sau:

* Tạo Nhóm tài nguyên: loại = "GPU máy chủ"
* Thêm thiết bị iGPU từ các nút vật lý vào nhóm tài nguyên
* Gán nhóm tài nguyên cho một hoặc nhiều mô hình AI

## Cấu hình Nhóm tài nguyên với iGPU

1. Điều hướng tới **Cơ sở hạ tầng** > **Các node** và **nhấp đúp vào nút** chứa iGPU.
2. Chọn **Thiết bị PCI** thẻ hoặc tùy chọn ở menu bên trái.
3. Từ danh sách thiết bị, đặt **Loại** bộ lọc (ở đầu cột Type) thành ***Bộ điều khiển hiển thị*** để chỉ hiển thị các thiết bị hiển thị.
4. Chọn thiết bị iGPU từ danh sách đã lọc. ⚠️ *Hãy cẩn thận khi chọn thiết bị cho các nhóm tài nguyên. Chọn nhầm thiết bị có thể gây ra sự cố.*
5. Nhấp **Tạo tài nguyên** trong menu bên trái.
6. Tạo một **Nhóm tài nguyên mới:**

* Nếu chưa có nhóm nào tồn tại, biểu mẫu nhập sẽ tự động xuất hiện.
* Ngược lại, hãy chọn **Gắn vào**: ***--Nhóm mới--*** và nhấp **Tiếp theo**

7. Cấu hình các trường của Nhóm tài nguyên:

* **Tên**: Cung cấp một tên mô tả, ví dụ: "iGPU"
* **Loại**: Chọn ***GPU máy chủ***
* **Max vRAM**: Giới hạn lượng RAM hệ thống khả dụng cho iGPU (mặc định = 0; không giới hạn).
  * Trên các hệ thống đang chạy các khối lượng công việc khác, hãy đặt mức vRAM tối đa để tránh tranh chấp giữa các tác vụ và việc sử dụng iGPU.
  * Nếu vRAM tối đa được đặt quá thấp, mô hình có thể không tải được và phát sinh lỗi.

8. Nhấp **Gửi** để lưu Nhóm tài nguyên mới với iGPU đã chọn.
9. Làm theo các lời nhắc ở đầu bảng điều khiển để **Xem nút**, đưa nút vào **Chế độ bảo trì** (xem thông báo ở đầu bảng điều khiển của nút), và **Tải lại trình điều khiển** (được nhắc ở đầu bảng điều khiển sau khi nút ở chế độ bảo trì).
10. **Thoát Chế độ bảo trì** trên nút sau khi tải lại trình điều khiển hoàn tất.
11. Điều hướng tới **Cơ sở hạ tầng** > **Tài nguyên** > **Nhóm** và xác minh rằng nhóm tài nguyên mới của bạn xuất hiện với **Đã bật** được chọn. Nhấp đúp vào nhóm để xác nhận **Tài nguyên nút** phần này liệt kê thiết bị iGPU của bạn.

***

### Thêm các iGPU nút bổ sung vào cùng một Nhóm tài nguyên

{% hint style="success" %}
**Gộp iGPU trên nhiều nút**

Bằng cách thêm iGPU từ nhiều nút vào cùng một nhóm tài nguyên, bạn tạo ra một vùng tài nguyên tăng tốc dùng chung mà các mô hình AI có thể khai thác. Để biết thêm chi tiết, xem [Nhóm tài nguyên](/run-the-platform/system-administration/device-pass-overview.md#resource-groups)
{% endhint %}

Để thêm thêm iGPU:

* Lặp lại các bước 1–5 ở trên.
* Khi được nhắc chọn một nhóm tài nguyên để ***Gắn vào***, **chọn nhóm tài nguyên GPU máy chủ hiện có**.
* Làm theo lời nhắc trên bảng điều khiển để đưa nút vào **chế độ bảo trì** và **tải lại trình điều khiển**.
* **Thoát chế độ bảo trì** sau khi quá trình tải lại hoàn tất.

***

## Gán Nhóm tài nguyên iGPU cho một mô hình

Sau khi cấu hình xong, hãy gán nhóm tài nguyên GPU máy chủ cho mô hình AI của bạn:

1. Điều hướng tới **AI riêng tư** > **Mô hình**.
2. Chọn mô hình AI bạn muốn tăng tốc.
3. Nhấp **Chỉnh sửa** trong menu bên trái.
4. Trong **Phân bổ Nhóm tài nguyên GPU** trường này, hãy chọn nhóm tài nguyên iGPU của bạn.
5. Nhấp **Gửi** để lưu.

Mô hình giờ đây sẽ lấy tài nguyên từ bất kỳ iGPU nào khả dụng trong nhóm tài nguyên. Để biết thêm thông tin về cấu hình Private AI, xem [Cấu hình Private AI](/automate-protect-and-extend/private-ai/configuration.md).


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.verge.io/knowledge-base/vi/system-administration/using-igpu-ai-acceleration.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.