# Những Điểm Đặc Biệt (Quirks) của XGBoost

## MỤC TIÊU BÀI HỌC

Sau bài học này, bạn sẽ:

- Biết được 3 đặc điểm quan trọng khi sử dụng XGBoost.
- Hiểu cách xử lý biến phân loại, giá trị thiếu (NA), và mối quan hệ phi tuyến.
- Biết cách tránh sai lầm khi tiền xử lý dữ liệu cho XGBoost.

---

#### **I. GIỚI THIỆU NGẮN GỌN**

XGBoost là một thuật toán mạnh mẽ nhưng có một số **đặc điểm riêng biệt (quirks)** mà người dùng cần hiểu rõ để sử dụng hiệu quả. Cụ thể có **3 điểm chính** như sau:

##### **BIẾN PHÂN LOẠI (Categorical Variables)**

Vấn đề:

- **XGBoost không hiểu kiểu dữ liệu “character” hay “factor”** (chuỗi hoặc phân loại).
- Bạn cần **chuyển đổi chúng thành biến giả (dummy variables)** trước khi đưa vào mô hình.

Ví dụ:

Giả sử bạn có cột **“Giới tính”** với 2 giá trị:

- Nam
- Nữ

Bạn cần chuyển thành:

<table id="bkmrk-gi%E1%BB%9Bi-t%C3%ADnh_nam-gi%E1%BB%9Bi-t" style="height: 80px; width: 99.4048%;"><thead><tr><th style="width: 49.9341%;">Giới tính\_Nam</th><th style="width: 50.068%;">Giới tính\_Nữ</th></tr></thead><tbody><tr><td style="width: 49.9341%;">1</td><td style="width: 50.068%;">0</td></tr><tr><td style="width: 49.9341%;">0</td><td style="width: 50.068%;">1</td></tr></tbody></table>

> Tuy nhiên, bạn **không nên giữ cả 2 cột** này cùng lúc!

Đây là cái gọi là **“Dummy Variable Trap”**, vì việc giữ cả 2 cột sẽ tạo ra **đa cộng tuyến (multicollinearity)**.

**Giải pháp**:

- Giữ lại 1 cột duy nhất (ví dụ chỉ giữ "Giới tính\_Nam")
- Cột còn lại sẽ được suy ra.

#### **II. GIÁ TRỊ THIẾU (Missing Values - NA)**

##### Điểm đặc biệt của XGBoost:

- **Không cần loại bỏ hay thay thế NA**.
- XGBoost **coi giá trị NA là một thông tin riêng biệt**.

##### Ví dụ minh họa:

Giả sử bạn có cột “Thu nhập”:

<table id="bkmrk-id-thu-nh%E1%BA%ADp-1-5-tri%E1%BB%87" style="height: 139px; width: 92.619%;"><thead><tr><th style="width: 49.9357%;">ID</th><th style="width: 49.9357%;">Thu nhập</th></tr></thead><tbody><tr><td style="width: 49.9357%;">1</td><td style="width: 49.9357%;">5 triệu</td></tr><tr><td style="width: 49.9357%;">2</td><td style="width: 49.9357%;">NA</td></tr><tr><td style="width: 49.9357%;">3</td><td style="width: 49.9357%;">7 triệu</td></tr><tr><td style="width: 49.9357%;">4</td><td style="width: 49.9357%;">NA</td></tr></tbody></table>

Nếu bạn đang dùng hồi quy tuyến tính hay Random Forest, bạn **phải thay thế NA** bằng trung bình hoặc loại bỏ dòng.

❗ Nhưng với XGBoost:

- Nó **xem NA là một nhánh riêng trong cây quyết định**.
- Giúp giữ lại ý nghĩa của việc “không có thông tin”.

##### Tại sao điều này quan trọng?

Trong thực tế:

- Nhiều khách hàng không cung cấp đầy đủ dữ liệu.
- Việc giữ nguyên NA sẽ giúp mô hình hiểu rằng **“việc không cung cấp thông tin” là một tín hiệu riêng biệt**.

#### **III. MỐI QUAN HỆ PHI TUYẾN (Non-linearity)**

##### Lợi thế của XGBoost:

- Hiểu được mối quan hệ **phi tuyến (non-linear)** giữa biến độc lập và biến phụ thuộc.

Ví dụ:

Bạn có thể gặp:

- Mối quan hệ hình chữ U (U-shape)
- Mối quan hệ hình chữ S (S-shape)

Với các mô hình hồi quy tuyến tính, bạn phải:

- Biến đổi biến thủ công (thêm <span class="katex"><span class="katex-mathml">x2x^2</span><span aria-hidden="true" class="katex-html"><span class="base"><span class="mord"><span class="mord mathnormal">x</span><span class="msupsub"><span class="vlist-t"><span class="vlist-r"><span class="vlist"><span class="sizing reset-size6 size3 mtight"><span class="mord mtight">2</span></span></span></span></span></span></span></span></span></span>, log, v.v.)

👉 Nhưng XGBoost thì:

- **Tự động học được mối quan hệ phức tạp đó** thông qua cây quyết định.

#### **IV. TỔNG HỢP QUA VÍ DỤ THỰC TẾ**

Giả sử bạn có tập dữ liệu về khách hàng:

<table id="bkmrk-tu%E1%BB%95i-gi%E1%BB%9Bi-t%C3%ADnh-thu-n" style="height: 127px; width: 98.9286%;"><thead><tr><th style="width: 24.9699%;">Tuổi</th><th style="width: 24.9699%;">Giới tính</th><th style="width: 24.9699%;">Thu nhập</th><th style="width: 24.9699%;">Mua hàng</th></tr></thead><tbody><tr><td style="width: 24.9699%;">25</td><td style="width: 24.9699%;">Nam</td><td style="width: 24.9699%;">5 triệu</td><td style="width: 24.9699%;">1</td></tr><tr><td style="width: 24.9699%;">32</td><td style="width: 24.9699%;">Nữ</td><td style="width: 24.9699%;">NA</td><td style="width: 24.9699%;">0</td></tr><tr><td style="width: 24.9699%;">40</td><td style="width: 24.9699%;">Nam</td><td style="width: 24.9699%;">10 triệu</td><td style="width: 24.9699%;">1</td></tr></tbody></table>

##### Bạn cần làm gì?

1. **Giới tính** → chuyển thành biến giả: giữ "Giới\_tính\_Nam"
2. **Thu nhập NA** → giữ nguyên (không thay thế)
3. Dùng XGBoost để học mô hình → mô hình vẫn hoạt động tốt

#### **KẾT LUẬN**

<table id="bkmrk-%C4%90%E1%BA%B7c-%C4%91i%E1%BB%83m-m%C3%B4-t%E1%BA%A3-x%E1%BB%AD-l%C3%BD" style="height: 125px; width: 100%;"><thead><tr><th style="width: 33.2924%;">Đặc điểm</th><th style="width: 33.2924%;">Mô tả</th><th style="width: 33.2962%;">Xử lý như thế nào</th></tr></thead><tbody><tr><td style="width: 33.2924%;">Biến phân loại</td><td style="width: 33.2924%;">Không hỗ trợ trực tiếp</td><td style="width: 33.2962%;">Dùng dummy variables, tránh trap</td></tr><tr><td style="width: 33.2924%;">NA (giá trị thiếu)</td><td style="width: 33.2924%;">XGBoost tự xử lý</td><td style="width: 33.2962%;">Không cần thay thế</td></tr><tr><td style="width: 33.2924%;">Phi tuyến</td><td style="width: 33.2924%;">Học tốt các mối quan hệ phi tuyến</td><td style="width: 33.2962%;">Không cần biến đổi thủ công</td></tr></tbody></table>

**Tác giả: Đỗ Ngọc Tú**  
**Công Ty Phần Mềm [VHTSoft](https://vhtsoft.com/ "Công Ty Phần Mềm VHTSoft")**