[бит/симв]. Сравнить со случаем некоррелированных равновероятных символов.
1.3. Принципы кодирования информации
|
Принципы обнаружения и исправления ошибок |
Эффективное
(статистическое) кодирование осуществляется с целью повышения скорости передачи информации и приближения её к пропускной способности канала.
Теорема Шеннона для эффективных кодов (без доказательства): для канала
без помех всегда можно создать систему эффективного кодирования дискретных сообщений, у которой среднее количество двоичных кодовых сигналов на один символ сообщения будет приближаться как угодно близко к энтропии источника сообщений.
Корректирующее
(помехоустойчивое) кодирование имеет целью повышение верности передачи информации путём обнаружения и исправления ошибок.
Теорема Шеннона для корректирующих кодов (без доказательства): для канала с помехами всегда можно найти такую систему кодирования, при которой сообщения будут переданы со сколь угодно высокой степенью верности, если только производительность источника сообщений не превышает пропускной способности канала.
При кодировании каждый символ дискретного сообщения пронумеровывается, и передача сообщений сводится к передаче последовательности чисел.
Например, для передачи русских букв нужно передавать числа от 1 до 32.
Если основание системы счисления есть g , то n – разрядное число X можно записать в виде полинома
(8)
где
– целые числа,
В двоичной системе, очевидно,
= 0 или 1.
Кодом
называется полная совокупность условных символов, которую применяют для кодирования сообщений.
Содержание Назад Вперед
