Основы теории информации и передачи сигналов




Каналы передачи информации - часть 4


В ней утверждается, что существует такой код, использование которого позволит обнаружить и исправить практически все ошибки. Задача заключается в отыскании и построении таких кодов.

Избыточность кодов и длина кодовых комбинаций в реальных каналах

Установим взаимосвязь, которая должна существовать в реальных каналах для обеспечения сколь угодно высокой верности передачи, между средней длиной 

кодовой комбинации, избыточностью кода 
и количеством 
информации, теряемой из-за помех.

Чтобы кодер успевал преобразовать каждый символ сообщения в кодовую комбинацию со средней длиной 

элементарных кодовых сигналов скорость 
передачи сигналов кодером должна быть в 
раз выше скорости 
передачи символов источником. Поэтому для безошибочного кодирования должно выполняться условие

(15)

Кроме этого условия должно выполняться условие отсутствия потерь информации при кодировании:

(16)

Это условие определяет, что среднее количество информации

, которое заключено в одном символе сообщения, должны переносить 
символов кодовой комбинации. С Учетом (16) избыточность кода для реальных каналов определяется выражением

(17)

Условие теоремы Шеннона для реальных каналов с учетом (14) можно представить в виде неравенства

или иначе

(18)

Из (15) и неравенства (18) получим

(19)

Из неравенства (19) следует практически важный вывод: с ростом среднего количества информации 

теряемой в канале из-за помех, для обеспечения сколь угодно высокой верности передачи информации должна возрастать средняя длина кодовой комбинации.

Аналогичный вывод справедлив и относительно избыточности кода (17). Если 

растет, дробь в правой части (17) уменьшается, а значение 
увеличивается. Можно установить непосредственную связь между 
и 
Так как 
, то неравенство (18) можно представить в виде

. (20)

Разделив обе части неравенства (20) на 

, получим

(21)

С учетом (15), поменяв местами дроби в неравенстве, получим

Левая часть неравенства представляет коэффициент избыточности кода (17).


Содержание  Назад  Вперед