Từ điển học thuật Khoa học tự nhiên

Ước lượng không thiên lệch là gì? Bất đẳng thức Cramér-Rao, định lý Rao-Blackwell và UMVUE

Tiếng Anhunbiased estimation

Tên gọi khácước lượng không chệchước lượng không thiên vịunbiased estimatorunbiased point estimation

Ước lượng không thiên lệch (ước lượng không chệch) là ước lượng điểm trong thống kê toán học có giá trị kỳ vọng toán học của thống kê mẫu bằng chính xác giá trị thực của tham số tổng thể cần ước lượng.

246 lượt xem Cập nhật 29/8/2026

Trong lý thuyết thống kê toán học và suy diễn thống kê, một ước lượng không thiên lệch (còn gọi là Ước lượng không chệch - Unbiased Estimator) của một tham số tổng thể chưa biết θ\theta là một thống kê mẫu θ^=T(X1,X2,...,Xn)\hat{\theta} = T(X_1, X_2, ..., X_n) sao cho giá trị kỳ vọng toán học của nó trùng khớp hoàn toàn với giá trị tham số thực của tổng thể với mọi giá trị có thể có của θ\theta.

Định nghĩa toán học và Độ chệch (Bias)

Xét mẫu ngẫu nhiên độc lập cùng phân phối X1,X2,...,XnX_1, X_2, ..., X_n từ phân phối có tham số θ\theta. Độ chệch (Bias) của ước lượng θ^\hat{\theta} được xác định bởi công thức:

Bias(θ^)=E[θ^]θ\text{Bias}(\hat{\theta}) = \mathbb{E}[\hat{\theta}] - \theta

Ước lượng được gọi là không thiên lệch khi và chỉ khi Bias(θ^)=0\text{Bias}(\hat{\theta}) = 0, tức là E[θ^]=θ\mathbb{E}[\hat{\theta}] = \theta.

Các ví dụ kinh điển trong suy diễn thống kê

  • Trung bình mẫu (Xˉ\bar{X}): Luôn là ước lượng không thiên lệch của kỳ vọng tổng thể μ\mu, tức là E[Xˉ]=μ\mathbb{E}[\bar{X}] = \mu.
  • Phương sai mẫu hiệu chỉnh (S2S^2): Để ước lượng phương sai tổng thể σ2\sigma^2 không bị thiên lệch, tổng bình phương độ lệch phải chia cho bậc tự do n1n - 1 thay vì chia cho nn (gọi là hiệu chỉnh Bessel):

    S2=1n1i=1n(XiXˉ)2    E[S2]=σ2S^2 = \frac{1}{n-1}\sum_{i=1}^n (X_i - \bar{X})^2 \implies \mathbb{E}[S^2] = \sigma^2

Bất đẳng thức Cramér-Rao và Ước lượng UMVUE

Theo công trình kinh điển của C. R. Rao (1992), phương sai của bất kỳ ước lượng không thiên lệch nào cũng luôn bị chặn dưới bởi nghịch đảo của lượng thông tin Fisher I(θ)I(\theta):

Var(θ^)1nI(θ)\text{Var}(\hat{\theta}) \ge \frac{1}{n I(\theta)}

Ước lượng không thiên lệch đạt được dấu đẳng thức của chặn dưới Cramér-Rao được gọi là ước lượng hiệu quả (Efficient Estimator). Theo giáo trình của Bickel và Doksum (2015), một ước lượng không thiên lệch có phương sai nhỏ nhất trong toàn bộ lớp các ước lượng không thiên lệch với mọi giá trị tham số được gọi là Ước lượng không thiên lệch đều có phương sai cực tiểu (UMVUE). Định lý Rao-Blackwell và định lý Lehmann-Scheffé cung cấp phương pháp xây dựng UMVUE thông qua kỳ vọng có điều kiện dựa trên thống kê đủ và đầy đủ.

Tham số cần ước lượng Ước lượng không thiên lệch Ước lượng có thiên lệch phổ biến Ý nghĩa hiệu chỉnh toán học
Kỳ vọng tổng thể (μ\mu) Trung bình mẫu Xˉ\bar{X} Trung vị mẫu (với phân phối lệch) Không có độ chệch trong mọi phân phối
Phương sai tổng thể (σ2\sigma^2) Phương sai mẫu S2S^2 (chia n1n-1) Phương sai mẫu cực đại (chia nn) Khắc phục việc mẫu làm mất đi một bậc tự do

Hiện tượng kỳ lạ Stein (Stein's Paradox)

Theo phát hiện chấn động của James và Stein (1992), trong không gian tham số từ ba chiều trở lên (p3p \ge 3), ước lượng không thiên lệch thông thường (trung bình mẫu vectơ) lại là một ước lượng không chấp nhận được (Inadmissible) dưới hàm mất mát toàn phương. Nhóm tác giả đã chứng minh ước lượng co rút James-Stein (dù là ước lượng có thiên lệch) luôn đạt sai số bình phương trung bình (MSE) tổng thể nhỏ hơn ước lượng không thiên lệch tiêu chuẩn.

Câu hỏi thường gặp

Tại sao công thức phương sai mẫu lại chia cho n-1 thay vì n?

Bởi vì các độ lệch được tính so với trung bình mẫu chứ không phải trung bình tổng thể thực sự. Việc sử dụng trung bình mẫu làm mất đi một bậc tự do, do đó phải chia cho n-1 để kỳ vọng của phương sai mẫu bằng chính xác phương sai của tổng thể.

Ước lượng không thiên lệch có nhất thiết luôn là ước lượng tốt nhất không?

Không. Tiêu chí quan trọng hơn là Sai số toàn phương trung bình MSE = Var + Bias^2. Đôi khi một ước lượng có độ chệch nhỏ nhưng phương sai giảm mạnh sẽ mang lại sai số tổng thể thấp hơn ước lượng không chệch.

Định lý Rao-Blackwell có ý nghĩa gì trong ước lượng tham số?

Định lý chỉ ra rằng nếu ta lấy kỳ vọng có điều kiện của một ước lượng không thiên lệch bất kỳ dựa trên một thống kê đủ, ta sẽ luôn thu được một ước lượng không thiên lệch mới có phương sai bằng hoặc nhỏ hơn ước lượng ban đầu.

Tài liệu tham khảo

  1. Rao, C. R. (1992). Information and the Accuracy Attainable in the Estimation of Statistical Parameters. In Breakthroughs in Statistics (pp. 235-247). Springer, New York, NY. DOI: 10.1007/978-1-4612-0919-5_16
  2. Bickel, P. J., & Doksum, K. A. (2015). Mathematical Statistics: Basic Ideas and Selected Topics. Chapman and Hall/CRC. DOI: 10.1201/9781315369266
  3. James, W., & Stein, C. (1992). Estimation with Quadratic Loss. In Breakthroughs in Statistics (pp. 443-460). Springer, New York, NY. DOI: 10.1007/978-1-4612-0919-5_30