Теория информации и надежная связь - Галлагер Р.
Скачать (прямая ссылка):
каждое из которых удовлетворяет ограничению на энергию и
выражение Ех (р, Хп, Yn, s) можно переписать следующим образом:
*> Эта аппроксимация хороша лишь тогда, когда каждое с$п мало сравнительно с $ (см. Феллер (1966), т. 2, задача 19, гл. 15). Также предполагается,
что S мало относительно стандартного отклонения таким образом,
принимается, что плотность 2 хп постоянна между $ — б и <?. Другими
п
словами, приближение (7.5.38) точно лишь в том случае, если одновременно ц, < 1 и $п « <? для всех п.
368
8
(7.5.38)
|/'4я 2 $л
' п
П
Выбирая 8 = 1/s и применяя (7.5.29), получаем
(7.5.39)
V- (1 + р у В
Ре,т<ехр{ —Р#'+ 2?*(Р. хп, Уп, «)}, (7.5.40
П
где
Ёх(Ап, р„, р) = (1- р„) р+ ^* +JL In |>„ (р„- (7.5.43)
Теперь найдем максимум величины
N
Е=- pR + 2 Ёх(Ап,рп,р) (7.5.44)
(7.5.44)
по Лп,рп и р. На Ап опять наложены ограничения Ап ^ О, Ап = $. Так как Е—выпуклая ^ по Ап функция, то необходимые и достаточные условия для максимума Е по Ап состоят в том, что для некоторого К и всех п
дЕ __ _1_ дАп ~ 2
1 —
2рРп Ат
с равенством, если Ап > 0. Опять временно не будем учитывать связи между |3П, задаваемыми (7.5.42), и максимизируем Е по каждому
Р„ отдельно. Получаем
= — р + -Н- 4----------^----= 0, (7.5.46)
ар,г 2fSn ^ 2Рр„ - Ап v '
f----------2~
Рп=—+ —+ —1/ 1 + — • (7.5.47)
2 4р 2 У 4р2 V '
Для Ап и удовлетворяющих обоим равенствам (7.5.46) и (7.5.45), можно упростить (7.5.45), приведя его к виду
(7.5.48)
Следовательно, если В положить равным 1/(4Х), то (7.5.48) примет вид
$п°*>В (7.5.49)
с равенством, если Ап > 0.
Из (7.5.47) видно, что Р„ = 1 при Лп = 0 и поэтому из (7.5.49)
следует, что ol^B. Имеем Pn > 1 при Лп>0 и, следовательно,
так как pn ol = В, то < В. Итак, с положительной энергией используются только те каналы, для которых < В.
Далее выведем выражение для г?п. Из (7.5.46) находим
А 4рР„ (Рп- 1)
2р„-1 '
Для Оп<сВ имеем рп = В/а%, и (7.5.50) принимает вид
t(? _ 4рВ {В—ап)
2В —Оп
Щ У 4pg (B — ol)
2В — 02
(7.5.50)
(7.5.51)
(7.5.52)
П
Равенство (7.5.52) дает неявное решение для В через S и оно, в свою очередь, определяет Щп из (7.5.51) и рп из (7.5.49).
Для Ап > 0 и р„, удовлетворяющих (7.5.46), значение s, удовлетворяющее (7.5.42), найдено в (7.4.55). Имеем
Следовательно, одно и то же значение s удовлетворяет (7.5.42) для всех п и решения для |3П и Шп совместны.
Далее, Е максимизируется по р, когда дЕ/др = 0 или когда
Я'=2 О-Р-Н
______Ап________
2 (2рР„ - Ап)
V2ln
Рп Рп
2р
(7.5.54)
Так же как при переходе от (7.4.47) к (7.4.51), из полученного выраже ния будем иметь
2Р п - 1
^ 4Р„ ‘
С помощью (7.5.49) эти равенства приводятся к виду
В2
R'
2 1/а1п"о*(2д_о*)
п: с„ < В
Eex(R’)
4 В
(7.5.55)
(7.5.56)
(7.5.57)
(7.5.58)
Равенства (7.5.52), (7.5.57) и (7.5.58) связывают Щ, R' и Ех (R ) параметрически через р и В. Они справедливы только для р ^ 1, которое для заданного Щ определяет верхнюю границу для В из (7.5.52). Сравнивая (7.5.52) при р = 1 с (7.5.36) видим, что этим предельным значением В будет как раз Всг. Следовательно, при данном <о граница для процедуры с выбрасыванием справедлива, когда
п:а‘<В,
‘и'и^Ы
2 \ -On)
(7.5.59)
Наконец, применяя приближение (7.5.38) для [г, выбирая б = = 1/s и применяя равенства (7.5.53) для s, можно связать R' со скоростью R из (7.5.41) с помощью соотношения
R' &R+ 2 In
е
4 Вр
У 4я 20»
* п
(7.5.60)
Результаты этого параграфа суммируются в следующей теореме, принадлежащей Эберту (1965).
Теорема 7.5.2. Пусть задано множество N параллельных дискретных по времени каналов с аддитивными гауссовыми шумами и дисперсии шумов равны of, ... , а%. Для любого *> В> 0 и любого р, О^р ^ 1, существует такой код сМ= eR<B> ] кодовыми словами,
