Đo lường thông tin và định luật sai số

Springer Science and Business Media LLC - Tập 37 - Trang 3119-3137 - 1998
B. H. Lavenda

Tóm tắt

Logarit của mật độ sai số chung cho các phương pháp phổ biến nhất được cho là tỷ lệ với sự khác biệt của hai phương sai có trọng số, mà phân biệt giữa phân phối xác suất hoàn chỉnh, không đồng nhất và phân phối đồng nhất. Sự khác biệt trong các phương sai có trọng số liên quan đến một bất đẳng thức kiểu Shannon mới cho sự phân biệt giữa hai phân phối xác suất. Các phép đo khoảng cách giữa hai phân phối được xác định và một thống kê mới, có thể so sánh với χ2, được suy ra từ một ước lượng bậc nhất của độ phân kỳ có hướng. So sánh được thực hiện giữa các định luật sai số và phương pháp khả năng tối đa.

Từ khóa

#đo lường thông tin #định luật sai số #mật độ sai số #phân phối xác suất #bất đẳng thức Shannon #độ phân kỳ có hướng #thống kê χ2

Tài liệu tham khảo

Aczél, J., and Daróczy, Z. (1975). On Measures of Information and Their Characterizations (Academic Press, New York, 1975). Bickel, P. J., and Doksum, K. A. (1977). Mathematical Statistics (Prentice-Hall, Englewood Cliffs, N.J.), p. 225. Cargo, G. T., and Shisha, O. (1970). In Inequalities II, O. Shisha, ed. (Academic Press, New York), pp. 163–178. Good, I. J. (1952). J. Roy. Stat. Soc. B 14, 107–114. Hardy, G.H., Littlewood, J. E., and Pólya, G. (1952). Inequalities, 2nd ed., Cambridge University Press, Cambridge, §3.4. Keynes, J. M. (1921). A Treatise on Probability (St. Martin' s Press, New York), pp. 218–228. Kullback, S. (1959). Information Theory and Statistics (Wiley, New York), Ch. 1. Lavenda, B. H. (1991). Statistical Physics: A Probabilistic Approach (Wiley-Interscience, New York), Ch. 1. Marshall, A. W., Olkin, I., and Proschan, F. (1967). In Inequalities, O. Shisha, ed. (Academic Press, New York), pp. 177–190. Marshall, A. W., and Olkin, I. (1979). Inequalities: Theory of Majorization and its Applications (Academic Press, New York), p. 71. Rudin, W. (1973). Functional Analysis (McGraw-Hill, New York), p. 24.