Динамика иерархических систем: эволюционное представление - Николис Дж.
Скачать (прямая ссылка):
качестве наиболее вероятной формы сигнала тот из сигналов, имеющихся в
ящике памяти, который имеет наибольшую кросс-корреляцию с поступившим
сигналом. Наконец, заметим, что кодер источника и декодер канала
выполняют операции отображения многих элементов в один, тогда как кодер
канала и декодер источника выполняют лишь взаимно однозначные
отображения, преобразующие решения, принимаемые кодером источника и
декодером канала, во входные сигналы, приемлемые соответственно для
канала связи и пользователя. Таким образом, кодер источника и декодер
канала
166
Глава 4
связи находятся на более высокой ступени иерархии, чем кодер канала и
декодер источника.
К проблеме кодирования и декодирования мы будем подходить постепенно.
Начнем с вопроса о том, как можно формально понять (на динамическом
уровне) то, что формально предсказывает формула Шеннона (4.1.50), а
именно то, что однозначная передача информации может происходить, даже
если сигнал сколь угодно мал по сравнению с шумом в канале? Прежде всего
следует выяснить, какой тип волн мы отождествляем с "сигналом" и какой -
с "шумом".
Мы называем сигналом волну, фаза которой фх во все моменты остается
когерентной (см. разд. 2.2.4) относительно фазы фя некоторого эталонного
осциллятора, имеющегося в рассматриваемом приемнике, т. е.
1фЛ0 - Фд(0 I < Ф < 2я. (4.2.1)
Ясно, что такая характеристика имеет сильнейшую "привязку" к конкретным
особенностям рассматриваемой системы.
Аналогичным образом, любая волна, фаза которой некогерентна относительно
фазы эталонного осциллятора приемника, называется "шумом". В этом случае
разность фаз
I ФЛО - Фд (0 I ~ 2я (4.2.2)
не ограничена (в пределах от 0 до 2я).
Предположим, что мы принимаем серию импульсов, сильно искаженных шумом,
при условии Г <С 1. Единственный известный нам параметр - период Т. Каким
образом мы можем детектировать (и усилить) слабый сигнал (если такой
существует) в "море" гораздо более сильного шума? Предположим, что шум
аддитивный и имеет следующие первых два момента: (n(t)y = 0, <n2(t)} =
o2. Принятая волна представима в виде Y(t)== X(t)-\-n(t). Можно
воспользоваться системой обработки информации, по существу заимствованной
у биологических организмов и известной под названием процедуры хранения и
интегрирования. Эта процедура позволяет хранить К-й импульс в течение Т
секунд и затем наложить его на поступающий (К+1)-й импульс--в реальном
времени. Если воспользоваться таким "алгоритмом приема" m раз подряд, то
полный сигнал на выхрде узла хранения информации можно записать в виде
m ш тп
Z(t)=Z Y(t + KT)=Z X(t + KT)+Z n(t+KT). (4.2.3) к=i д-i д-i
Но наш сигнал периодический, т. е. X (tКТ) = X (t), поэтому
(4.2.4)
Элементы теории информации и кодирования
167
где
N(t)=Z n(t + KT)=Z пк.
К= 1 К=1
(4.2.5)
Здесь пк - выборочные значения шума, которые берутся каждые Т секунд.
Если время корреляции шума меньше Т, то дисперсия D(N) шума N равна
¦сумме дисперсий отдельных значений шума:
D(N) = mD(n(t)) = ma2. (4.2.6)
Таким образом, если сигнал и шум некоррелированы, то на выходе узла
хранения информации и интегрирования мы получим
(Z2) = т2Х2 (О + та2. (4.2.7)
Соотношение (4.2.7) означает, что отношение сигнал/шум на выходе равно
Гои1 = ^ = тГ1п, (4.2.8)
Рис. 4.6. Сфера шума (неопределенности) с центром в неизвестном сигнале в
2 И7Г-мерном пространстве состояний, покрытая "волосами".
т. е. в т. раз больше того же отношения на входе.
Мы можем начать, например, с величины Гщ ~ Ю-6 и при т = 109 прийти на
выходе к отношению сигнал/шум порядка 30 дБ.
Второй вопрос, который возникает в связи с проблемой эффективного
декодирования, состоит в следующем. Мы знаем, что принятый сигнал Y
представляет собой вектор в 2№Т-мер-ном евклидовом пространстве. Чтобы
принять переданный сигнал X, мы должны по существу проникнуть в
сферическое "облако" шума, окружающее конец вектора X (рис. 4.6). Каким
образом мы можем однозначно отличить X от Y? Процесс детектирования X в
общих чертах сводится к следующему.
Прежде всего необходимо как можно точнее определить статистику "облака
шума". Это означает, что мы должны установить функцию плотности
вероятности Р{г) для радиуса г гиперсферы шума в 2№Т-мерном пространстве.
Для этого радиуса справедливо соотношение
2WT
: Е п2,
i = l
168
Глава 4
ИЛИ
V2WT
I nj, (4.2.9)
1 = 1
где т--отдельные выборочные значения (проекции) гипервектора шума N. Что
же касается 2№Т-мерного распределения вероятности Р(п\, п2, ..., п2ш), то
оно просто равно произведению распределений вероятности отдельных
компонент Р(п,), ie(l, 2, ..., 2WT), так как выборочные значения
статистически независимы. Пусть К - 2WT. Тогда
Р(щ, п2, ..., пк) = exp(~Z n\j2a^j. (4.2.10)
Перейдем к сферическим координатам в /(-мерном пространстве. Известно
(см., например, [4.2]), что элементы объема в исходной и сферической
системах координат связаны соотношением
йщ dn2... dnK = д ^ "Д' '"[lKJ^dr dft, dft2 ... =
= /¦*"^(0,, в2, ..., ^^drd^d^ ... dbK_u (4.2.11)
