Học sâu là gì? Các công bố khoa học về Học sâu

Học sâu (Deep Learning) là một phân ngành chuyên sâu của học máy (Machine Learning) và trí tuệ nhân tạo (AI), dựa trên kiến trúc các mạng nơ-ron nhân tạo nhiều tầng (Deep Neural Networks). Khác với các thuật toán học máy truyền thống đòi hỏi kỹ nghệ trích chọn đặc trưng thủ công (feature engineering), học sâu có khả năng tự động học các biểu diễn phân cấp (hierarchical representations) của dữ liệu từ các đặc trưng thô mức thấp đến các khái niệm ngữ nghĩa trừu tượng mức cao.

Cơ chế toán học của mạng nơ-ron sâu

Một mạng nơ-ron sâu bao gồm một lớp đầu vào, nhiều lớp ẩn (hidden layers) và một lớp đầu ra:

• Quá trình truyền thẳng (Forward Propagation): Tại mỗi lớp $l$, vector kích hoạt $a^{[l]}$ được tính toán từ lớp trước $a^{[l-1]}$ thông qua ma trận trọng số $W^{[l]}$, vector độ lệch (bias) $b^{[l]}$ và hàm kích hoạt phi tuyến $\sigma$:
  $$z^{[l]} = W^{[l]} a^{[l-1]} + b^{[l]}$$
  $$a^{[l]} = \sigma(z^{[l]})$$
• Hàm kích hoạt (Activation Function): Các hàm phi tuyến phổ biến gồm ReLU ($\sigma(z) = \max(0, z)$), Sigmoid và GELU, giúp mạng có khả năng xấp xỉ các hàm số phi tuyến tùy ý phức tạp.
• Hàm mất mát và Tối ưu hóa (Loss Function & Optimization): Mức độ sai lệch giữa đầu ra dự đoán $\hat{y}$ và nhãn thực tế $y$ được định lượng bằng hàm mất mát $\mathcal{L}(\hat{y}, y)$ (như Cross-Entropy hoặc Mean Squared Error).
• Lan truyền ngược (Backpropagation): Sử dụng quy tắc chuỗi giải tích (chain rule) để tính toán gradient của hàm mất mát đối với từng trọng số:
  $$\frac{\partial \mathcal{L}}{\partial W^{[l]}} = \frac{\partial \mathcal{L}}{\partial z^{[l]}} (a^{[l-1]})^T$$
  Các trọng số sau đó được cập nhật theo thuật toán hạ gradient (Gradient Descent, Adam): $W \leftarrow W - \alpha \nabla_W \mathcal{L}$ với tốc độ học $\alpha$.

Kiến trúc mạng	Đặc điểm cấu trúc chính	Phép toán nền tảng	Ứng dụng điển hình
CNN (Mạng tích chập)	Chia sẻ trọng số, bất biến tịnh tiến	Phép tích chập (Convolution), Pooling	Thị giác máy tính, phân loại ảnh, phân vùng y tế
RNN / LSTM / GRU	Bộ nhớ chuỗi thời gian, cổng quên/ghi	Truyền trạng thái ẩn theo thời gian (BPTT)	Dữ liệu chuỗi, phân tích âm thanh, dự báo tài chính
Transformer	Cơ chế tự chú ý đa đầu (Multi-Head Self-Attention)	$\text{Softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V$	Mô hình ngôn ngữ lớn (LLM), dịch máy, xử lý đa phương thức
ResNet (Mạng phần dư)	Kết nối tắt vượt tầng (Skip connections)	$\mathcal{H}(x) = \mathcal{F}(x) + x$	Huấn luyện mạng siêu sâu, nhận dạng đối tượng

So sánh học sâu và học máy truyền thống

Sự khác biệt căn bản giữa hai phương pháp tiếp cận bao gồm:

• Trích chọn đặc trưng: Học máy truyền thống (như SVM, Random Forest) phụ thuộc vào con người tự thiết kế đặc trưng, trong khi học sâu tự động trích xuất các đặc trưng tối ưu phục vụ mục tiêu cuối cùng.
• Khả năng mở rộng theo quy mô dữ liệu: Hiệu năng của thuật toán học máy cổ điển có xu hướng bão hòa khi lượng dữ liệu tăng cao; ngược lại, mạng học sâu tiếp tục tăng trưởng độ chính xác khi được huấn luyện trên tập dữ liệu khổng lồ (Big Data).
• Yêu cầu phần cứng tính toán: Học sâu đòi hỏi năng lực tính toán song song quy mô lớn trên các vi xử lý chuyên dụng (GPU, TPU) và dung lượng bộ nhớ lớn.

Các thách thức hiện tại và định hướng phát triển

Mặc dù đạt được những thành tựu vượt bậc, học sâu vẫn đang đối diện với nhiều rào cản nghiên cứu:

• Tính giải thích được (Explainable AI - XAI): Mạng nơ-ron sâu thường được ví như "hộp đen" (black box) do cấu trúc phi tuyến phức tạp với hàng tỷ tham số, gây khó khăn trong việc suy luận minh bạch cho các quyết định y khoa hay pháp lý.
• Tính nhạy cảm với mẫu đối kháng (Adversarial Robustness): Mô hình có thể bị đánh lừa bởi những nhiễu loạn cực nhỏ không thể nhận biết bằng mắt thường.
• Chi phí năng lượng và tính toán: Việc huấn luyện các mô hình tham số lớn đòi hỏi lượng điện năng tiêu thụ khổng lồ, thúc đẩy các hướng nghiên cứu về nén mô hình (quantization, pruning, distillation) và học sâu hiệu quả.