Динамика иерархических систем: эволюционное представление - Николис Дж.
Скачать (прямая ссылка):
Если источник, приемник и канал связи характеризуются непрерывными
функциями плотности вероятности, соотношения (4.1.6а), (4.1.7а) переходят
в соотношения
5 (X/Y) = - ^ Р (х, у) log2 Р (х/у) dx dy, (4.1.66)
и
I(X-*Y) = S(X)-S (X/Y) = - J \Р (х, у) log2 dxdy.
(4.1.76)
Обратимся теперь к важной проблеме преобразования непрерывной волны,
обладающей бесконечно большим числом степеней свободы (если такая волна
представляет собой сигнал, содержащий информацию, то для приема такого
сигнала потребовалось бы бесконечно большое время), в дискретную
временную последовательность; иначе говоря, обратимся к теореме Шеннона о
выборке.
Рис. 4.2. Функция (а) и ее преобразование Фурье (б), о которых говорится
в теореме о выборке.
Рассмотрим непрерывный ограниченный по времени отрезок волны X(t), как на
рис. 4.2, а, достаточно гладкий для того, чтобы его преобразование Фурье
(его спектр) имело конечную ширину полосы с критической частотой W (рис.
4.2, б). Как следует наилучшим образом выбирать X(t) вдоль оси времени,
чтобы получить дискретный временной ряд с конечным числом степеней
свободы? Если этот аналог цифрового преобразования осуществим, то мы
можем заменить одномерную волну с бесконечным числом степеней свободы
гипервектором (в некотором многомерном пространстве), компоненты которого
являются выборочными координатами сигнала X(t).
Элементы теории информации и кодирования
153
Из доказательства этой теоремы (которое мы не приводим, поскольку
читатель может найти его в любом хорошем учебнике теории информации)
следует, что объем выборки равен 2WT (т. е. гипервектор пополняется
выборочными координатами со скоростью одна компонента каждую 1/2W
секунды). Таким образом, впредь вместо непрерывной волны в одномерном
(временном) пространстве мы можем говорить о гипервекторах в /г-мерном
пространстве (п = 2WT). Некоторые очень "хитрые" свойства, представленные
в /г-мерном евклидовом пространстве, во многих отношениях выходят за
рамки доступного интуиции и здравому смыслу. В этой связи мы считаем
уместным совершить небольшой экскурс и опишем некоторые наиболее
существенные особенности п-мерного евклидова пространства в качестве
подготовки к дальнейшему изложению (проблем передачи информации и
оптимального приема непрерывных волновых сигналов). Мы будем следовать
работе Хэмминга [4.1].
Термин "n-мерное пространство" означает лишь, что мы имеем п независимых
переменных х\, к2, ¦ ¦ ., хп. Называя пространство евклидовым, мы
понимаем под этим пифагорово расстояние х\ + х\ + ••• + х2п = г2 и
определяем с помощью этого выражения сферу радиуса г. В частности, мы
хотим вычислить объем /г-мерной сферы. Этот объем зависит от радиуса г
как гп. Запишем пока, что Vn{r)= Спгп, где Сп - некоторая постоянная
(значение которой нам предстоит вычислить), зависящая от п. (Например, Сi
= 2я, С2 = л и С3 = 4я/3.)
Чтобы определить значение Сп, нам придется ввести знаменитую гамма-
функцию Г(/г) (приношу извинения читателям за то, что вычислить Сп иначе
невозможно). По существу речь идет об исследовании некоторого
определенного интеграла как функция параметра п. Рассмотрим интеграл
При п > 1 мы можем, интегрируя по частям, получить
оо
Г (п) = ^ e~xxn~1dx.
(4.1.11)
о
или
Г (п) = (п- 1) Г (/г - 1);
(4.1.12)
при п - 1
оо
Г (1) = ^ e-xdx = -e~x |"= 1;
(4.1.13)
О
154
Глава 4
следовательно, при любом делом п
Г (2) = 1, Г (3) = 21, Г (4) = 3! . . ., Г (п) = (п - 1)! (п= 1,2,...).
(4.1.14)
Заметим кстати, что гамма-функция служит естественным обобщением
факториальной функции, так как интеграл (4.1.11) существует и при нецелых
п.
Рассмотрим далее гамма-функцию при значении аргумента, равном 1/2.
Запишем определение гамма-функции
Г (y) = ^ е~хх~11'2 dx. о
Полагая л: = t2, получаем
ОО + со
Г (-j j = 2 ^ e~i2dt = ^ e~i2dt
О - оо
(это так называемый интеграл ошибок). Рассмотрим произведение
+ оо + со
г(т)г(т)= \ \
- ОО - ОО
Перейдем к полярным координатам
2Л оо
(4.1.15)
(4.1.16)
поэтому
[ГШМ \e-rdri* =
О о
(4.1.17)
л, (4.1.18)
(4.1.19)
Чтобы найти теперь значение нашей постоянной Сп, мы можем воспользоваться
аналогичным трюком, а именно умножить интеграл, задающий гамма-функцию,
на себя и перейти к полярным координатам.
Рассмотрим произведение п таких интегралов:
|-оо -г оо
~f2 dx{ dx2 .. . dxn -
-OO -oo - oo
(4.1.20)
где dVn = dx\dx2 ... dxn - элемент объема.
Элементы теории информации и кодирования 155
Сравним это выражение с результатом, полученным нами при п - 2. В этом
случае мы получили выражение (4.1.18):
[Г(т)Т = 2я \e~r2rdr =]e-'2^±-dr. (4.1.21)
О О
Ясно, что можно записать
оо
[Г (y)]" - nn'2 = Сп J e~r!nrn~1 dr. (4.1.22)
О
Полагая г2 - t, dr - (t~1/2/2) dt, преобразуем соотношение
(4.1.22) к виду
пп/2 = "Цв-. Л = "2" J е-Ч^-'dt =
2 о t 2 о
- пС" r(-J)=C"r (у + l). (4.1.23)
Таким образом,
2
Следовательно,
тг п1-
Сп = - ----------------------- (4.1.24)
r(f+0
и
С" = ^С"_2. (4.1.25)
Vn (г) = Спгп = ¦ я"/2'"-- , (4.1.26)
