ЭНТРОПИЯ

теоретико-информационная мера степени неопределенности случайной величины. Если $\xi \in(\Omega, \sqrt{,}, \mathrm{P})-$ дискретная случайная величина, принимающая значения $x_{1}, \ldots, x_{n}$ с распределением вероятностей $p_{1}, \ldots, p_{n}$ (где $\left.p_{i}=\mathrm{P}\left\{\xi=x_{i}\right\}\right)$, то энтропия определяется выражением \[ H=H\left(p_{1}, \ldots, p_{n}\right)=\sum_{i=1}^{n} p_{i} \log \left(1 / p_{i}\right) \] (считается, что $0 \cdot \log 0=0$ ). М. А. Сташенко

теоретико-информационная мера степени неопределенности случайной величины. Если $\xi \in(\Omega, \sqrt{,}, \mathrm{P})-$ дискретная случайная величина, принимающая значения $x_{1}, \ldots, x_{n}$ с распределением вероятностей $p_{1}, \ldots, p_{n}$ (где $\left.p_{i}=\mathrm{P}\left\{\xi=x_{i}\right\}\right)$, то энтропия определяется выражением \[ H=H\left(p_{1}, \ldots, p_{n}\right)=\sum_{i=1}^{n} p_{i} \log \left(1 / p_{i}\right) \] (считается, что $0 \cdot \log 0=0$ ). М. А. Сташенко