# “Hàng Rào An Toàn” Cho AI - Guardrails

#### **Guardrails là gì?**

**Guardrails** (tạm dịch: *hàng rào an toàn*) là các cơ chế, quy tắc, hoặc giới hạn **được thiết kế để kiểm soát hành vi của AI**, đảm bảo AI hoạt động **đúng mục đích, an toàn, và đáng tin cậy**.

Chúng giống như "lan can" trên đường cao tốc, ngăn AI vượt khỏi phạm vi mong muốn – dù AI có khả năng suy diễn linh hoạt hoặc tự động xử lý nhiều bước.

#### **Tại sao cần Guardrails?**

Khi sử dụng **AI agent** hoặc **LLM (mô hình ngôn ngữ lớn)** trong các hệ thống tự động như:

- Gửi email tự động
- Trò chuyện với khách hàng
- Gọi API bên ngoài
- Quyết định lựa chọn công cụ

Thì **việc thiếu kiểm soát** có thể gây ra:

<table id="bkmrk-t%C3%ACnh-hu%E1%BB%91ng-r%E1%BB%A7i-ro-ag" style="width: 98.6905%;"><thead><tr><th class="align-left" style="width: 46.4208%;">**Tình huống**</th><th class="align-left" style="width: 53.5792%;">**Rủi ro**</th></tr></thead><tbody><tr><td style="width: 46.4208%;">Agent tự tạo nội dung độc hại</td><td style="width: 53.5792%;">Vi phạm đạo đức/hành vi</td></tr><tr><td style="width: 46.4208%;">Agent gửi email không phù hợp</td><td style="width: 53.5792%;">Ảnh hưởng danh tiếng doanh nghiệp</td></tr><tr><td style="width: 46.4208%;">Agent gọi API sai</td><td style="width: 53.5792%;">Gây lỗi hệ thống hoặc tốn chi phí</td></tr><tr><td style="width: 46.4208%;">Agent trả lời sai lệch</td><td style="width: 53.5792%;">Gây hiểu nhầm hoặc sai thông tin</td></tr></tbody></table>

Vì vậy, **Guardrails giúp định hướng và giới hạn hành vi AI một cách có kiểm soát.**

#### **Guardrails hoạt động như thế nào?**

Một số **kỹ thuật hoặc chiến lược để thiết lập Guardrails** gồm:

##### 1. **Instructions rõ ràng (hướng dẫn vai trò cụ thể)**

Ví dụ:

```
"Bạn là Giám đốc bán hàng. Không bao giờ tự tạo email. Luôn sử dụng các công cụ được cung cấp."
```

→ Hạn chế AI không tự viết email, buộc phải sử dụng tool hợp lệ.

##### 2. **Tách biệt giữa "Tool" và "Handoff"**

<table id="bkmrk-lo%E1%BA%A1i-vai-tr%C3%B2-tool-%28c" style="height: 73px; width: 100%;"><thead><tr><th style="width: 49.9405%;">Loại</th><th style="width: 49.9405%;">Vai trò</th></tr></thead><tbody><tr><td style="width: 49.9405%;">**Tool** (công cụ)</td><td style="width: 49.9405%;">Gọi API, thực hiện hành động cụ thể</td></tr><tr><td style="width: 49.9405%;">**Handoff** (bàn giao)</td><td style="width: 49.9405%;">Chuyển quyền điều khiển sang agent khác</td></tr></tbody></table>

Giúp đảm bảo rõ ràng từng phần trong quy trình được kiểm soát và có thể audit.

### **Trace &amp; quan sát (theo dõi agent)**

Sử dụng tính năng **trace** để theo dõi:

- Agent nào đã làm gì?
- Dùng công cụ nào?
- Thời điểm bàn giao ra sao?

Điều này **giúp kiểm tra và khôi phục lại hành vi nếu có sai sót**.

#### **Các kiểu Guardrails phổ biến**

<table id="bkmrk-lo%E1%BA%A1i-guardrails-m%C3%B4-t" style="height: 162px; width: 98.4524%;"><thead><tr><th style="width: 49.9395%;">Loại Guardrails</th><th style="width: 49.9395%;">Mô tả</th></tr></thead><tbody><tr><td style="width: 49.9395%;">**Ràng buộc logic**</td><td style="width: 49.9395%;">Nếu không hài lòng với kết quả, thử lại bằng công cụ khác</td></tr><tr><td style="width: 49.9395%;">**Luật đạo đức / an toàn**</td><td style="width: 49.9395%;">Không thảo luận về chủ đề nhạy cảm hoặc cá nhân hóa quá mức</td></tr><tr><td style="width: 49.9395%;">**Giới hạn hành động**</td><td style="width: 49.9395%;">Chỉ được phép gửi email sau khi kiểm tra toàn bộ tools</td></tr><tr><td style="width: 49.9395%;">**Theo dõi chi tiết (trace)**</td><td style="width: 49.9395%;">Kiểm tra lại toàn bộ hành trình trước khi gửi</td></tr></tbody></table>

#### **Bài học thực tế từ Sales Automation**

Trong ví dụ "From Function Calls to Agent Autonomy":

- AI sales manager **được hướng dẫn cụ thể** không tự tạo email.
- AI **phải dùng đủ 3 công cụ tạo email trước khi chọn cái tốt nhất**.
- Sau đó **handoff sang Email Manager** để gửi.
- Mọi hành động đều được **trace và kiểm soát**.

→ Đây là mô hình agent có Guardrails rõ ràng.

#### **Thực hành đề xuất**

##### **Bài tập 1: Xác định Guardrails trong đoạn sau**

> “"Bạn là Giám đốc bán hàng. Không bao giờ tự tạo email. Luôn sử dụng các công cụ được cung cấp."”

**Câu hỏi**:

- Guardrails nào đang được áp dụng?
- Mục tiêu của guardrails đó là gì?

##### **Bài tập 2: Viết Guardrails cho Agent Tuyển dụng**

Hãy viết các hướng dẫn guardrails cho một AI agent tuyển dụng, với các quy tắc như:

- Luôn hỏi ứng viên 3 câu hỏi trước khi gửi thông tin cho quản lý
- Không tự quyết định nhận ứng viên

##### **Bài tập 3: Quan sát hành vi agent qua Trace**

Dựa trên dữ liệu trace của ví dụ trên:

- Agent nào thực hiện những bước nào?
- Handoff xảy ra ở đâu?
- Guardrails đã giúp kiểm soát hành vi nào?

Guardrails là **linh hồn của hệ thống AI có trách nhiệm**. Chúng:

Giữ AI hoạt động đúng vai trò  
Tránh sai lệch, vi phạm đạo đức hoặc kỹ thuật  
Tạo cơ sở để mở rộng agent một cách an toàn

**Tác giả: Đỗ Ngọc Tú**  
**Công Ty Phần Mềm [VHTSoft](https://vhtsoft.com/ "Công Ty Phần Mềm VHTSoft")**