ФЭНДОМ



Избыточность — термин из теории информации, означающий превышение количества информации, используемой для передачи или хранения сообщения, над его информационной энтропией. Для уменьшения избыточности применяется сжатие данных без потерь, в то же время контрольная сумма применяется для внесения дополнительной избыточности в поток, что позволяет производить исправление ошибок при передаче информации по каналам, вносящим искажения (спутниковая трансляция, беспроводная передача и т. д.).

Количественное определение Править

Информационное содержание одного сообщения в потоке, в наиболее общем случае, определяется как:

r=\mathbb E H(M_t|M_{t-1},M_{t-2},M_{t-3}, \dots)

Обозначим как R логарифм числа символов в алфавите сообщений:

R = \log |M|

Абсолютная избыточность может быть определена как разность этих двух величин:

 D = R - r

Соотношение \frac D R называется относительной избыточностью и дает математическую оценку максимальной степени сжатия, на которую может быть уменьшен размер файла.

Другие определения избыточности Править

Мера избыточности между двумя случайными величинами — взаимная информация.

См. также Править



Обнаружено использование расширения AdBlock.


Викия — это свободный ресурс, который существует и развивается за счёт рекламы. Для блокирующих рекламу пользователей мы предоставляем модифицированную версию сайта.

Викия не будет доступна для последующих модификаций. Если вы желаете продолжать работать со страницей, то, пожалуйста, отключите расширение для блокировки рекламы.