Пусть $X_1,…, X_n $ - независимые случайные величины, принимающие значения в алфавите $\{0,1,…,r\} $, и $S_n=\sum_{i=1}^nX_i$. Теорема Шеппа-Олкина утверждает, что бинарном случае ($r=1$) энтропия Шеннона случайной величины $S_n$ максимальна, когда все $X_i$ равномерно распределены, т.е. являются бернуллиевскими с параметром $1/2$. Стремясь обобщить эту теорему на случай конечных алфавитов, мы ...
