Trong lý thuyết thống kê toán học và suy diễn thống kê, một ước lượng không thiên lệch (còn gọi là Ước lượng không chệch - Unbiased Estimator) của một tham số tổng thể chưa biết là một thống kê mẫu sao cho giá trị kỳ vọng toán học của nó trùng khớp hoàn toàn với giá trị tham số thực của tổng thể với mọi giá trị có thể có của .
Định nghĩa toán học và Độ chệch (Bias)
Xét mẫu ngẫu nhiên độc lập cùng phân phối từ phân phối có tham số . Độ chệch (Bias) của ước lượng được xác định bởi công thức:
Ước lượng được gọi là không thiên lệch khi và chỉ khi , tức là .
Các ví dụ kinh điển trong suy diễn thống kê
- Trung bình mẫu (): Luôn là ước lượng không thiên lệch của kỳ vọng tổng thể , tức là .
- Phương sai mẫu hiệu chỉnh (): Để ước lượng phương sai tổng thể không bị thiên lệch, tổng bình phương độ lệch phải chia cho bậc tự do thay vì chia cho (gọi là hiệu chỉnh Bessel):
Bất đẳng thức Cramér-Rao và Ước lượng UMVUE
Theo công trình kinh điển của C. R. Rao (1992), phương sai của bất kỳ ước lượng không thiên lệch nào cũng luôn bị chặn dưới bởi nghịch đảo của lượng thông tin Fisher :
Ước lượng không thiên lệch đạt được dấu đẳng thức của chặn dưới Cramér-Rao được gọi là ước lượng hiệu quả (Efficient Estimator). Theo giáo trình của Bickel và Doksum (2015), một ước lượng không thiên lệch có phương sai nhỏ nhất trong toàn bộ lớp các ước lượng không thiên lệch với mọi giá trị tham số được gọi là Ước lượng không thiên lệch đều có phương sai cực tiểu (UMVUE). Định lý Rao-Blackwell và định lý Lehmann-Scheffé cung cấp phương pháp xây dựng UMVUE thông qua kỳ vọng có điều kiện dựa trên thống kê đủ và đầy đủ.
| Tham số cần ước lượng | Ước lượng không thiên lệch | Ước lượng có thiên lệch phổ biến | Ý nghĩa hiệu chỉnh toán học |
|---|---|---|---|
| Kỳ vọng tổng thể () | Trung bình mẫu | Trung vị mẫu (với phân phối lệch) | Không có độ chệch trong mọi phân phối |
| Phương sai tổng thể () | Phương sai mẫu (chia ) | Phương sai mẫu cực đại (chia ) | Khắc phục việc mẫu làm mất đi một bậc tự do |
Hiện tượng kỳ lạ Stein (Stein's Paradox)
Theo phát hiện chấn động của James và Stein (1992), trong không gian tham số từ ba chiều trở lên (), ước lượng không thiên lệch thông thường (trung bình mẫu vectơ) lại là một ước lượng không chấp nhận được (Inadmissible) dưới hàm mất mát toàn phương. Nhóm tác giả đã chứng minh ước lượng co rút James-Stein (dù là ước lượng có thiên lệch) luôn đạt sai số bình phương trung bình (MSE) tổng thể nhỏ hơn ước lượng không thiên lệch tiêu chuẩn.