Основы теории информации и передачи сигналов
Основы теории информации и теории сигналов - часть 7
Число различных символов в коде называется основанием кода. Код с основанием 2 – бинарный, с другими основаниями – многопозиционный.
Пример:
Кодовая комбинация – это последовательность кодовых символов, соответствующих одному элементу (символу) дискретного сообщения, т.е. число, записанное в выбранной системе счисления.
Число символов в кодовой комбинации называется значностью кода.
Оператор кодирования показывает, какую кодовую комбинацию присваивают каждому элементу сообщения.
Если все кодовые комбинации содержат одинаковое число символов, код называют равномерным, в иных случаях – неравномерным.
Для равномерного кода общее число различных кодовых комбинаций равно
где b – основание кода, n – значность кода.
Примеры:
Равномерный код Бодеb = 2, n = 5, N = 32.
Код Морзе – неравномерный (наиболее часто встречающиеся буквы кодируются наиболее короткими кодовыми комбинациями).
Принципы обнаружения и исправления ошибок.
Идея обнаружения ошибок заключается в том, что для передачи сообщений используют не все N кодовых комбинаций, а только часть из них
, которые называются разрешёнными. Оставшиеся 
комбинаций называют запрещёнными. Ошибки обнаруживают тогда, когда на приёмной стороне получают запрещённую комбинацию. Доля обнаруживаемых ошибок
Если
т.е. 
, то код не способен обнаруживать ошибки и его называют примитивным
(безызбыточным).
Избыточность корректирующего кода определяется формулой
.
Очевидно, что доля обнаруживаемых ошибок растёт с увеличением избыточности кода.
Исправление ошибок корректирующими кодами основано на определении “расстояния” между кодовыми комбинациями и отыскании минимального расстояния до разрешённой кодовой комбинации.
Расстоянием
между кодовыми комбинациями 
и 
называют результат сложения по модулю b
одноименных разрядов кодовых комбинаций
(9)
где
и 
– k-й разряд кодовых комбинаций, n
– значность кода.
При суммировании по модулю результат равен модулю суммы разрядов, если этот модуль меньше b. Если модуль суммы разрядов больше b, то результат получают вычитанием b из суммы.
Аналитическая запись сложения по модулю b имеет вид
Таким образом, расстояние между кодовыми комбинациями получают поразрядным суммированием по модулю с последующим обычным суммированием (вычитанием).
Для равномерного двоичного кода кодовое расстояние – это число символов, на которое отличается одна комбинация от другой.