Теория вероятностей для астрономов и физиков - Агекян Т.А.
Скачать (прямая ссылка):
п
/ (39, А) = 2 р (4) I (В, Ai). (2.166)
i=l
I (SB, Jl) называют также средним количеством информации, содержащимся в системе Jl, о системе 39. Докажем, что всегда
/ (39, Л) > 0. (2.167)
Подставив (2.165) в (2.166) и учитывая (2.149), находим, что
/ (SB, А) = Я (SB) -H (SB I Л). (2.168)
Сложив (2.150) и (2.168), напишем выражение для среднего количество информации в виде
/ (SB, Л) =H (Л) +H (SB) - H (ASB). (2.169)
Как было показано выше, максимальное значение Я (ASB) равно Я (А) + Я (39). Таким образом, утверждение (2.167) доказано, среднее количество информации, содержащейся в одной полной системе событий о другой полной системе событий, всегда неотрицательно. Если системы событий взаимно независимы, количество информации, содержащейся в одной из них о другой, равно нулю. Если же системы зависимы, то это количество информации положительно. Симметричность выражения (2.169) относительно А и SB показывает, что среднее количество информации, содержащейся в Л о SB, равно среднему количеству информации, содержащейся в SB о А.
Задача 60. Среди слабых голубых звездообразных объектов, наблюдаемых в высоких галактических широтах, 47% являются звездами — белыми карликами, 23% — звездами — субкарликами и 30% — звездопо-добными галактиками. Для выяснения природы объектов КОЛИЧЕСТВО ИНФОРМАЦИИ
123
измеряют их собственное движение или измеряют ультрафиолетовый избыток излучения в спектре. Если объект — белый карлик, то после измерения его собственного движения он с вероятностью 0,68 отождествляется с белым карликом, с вероятностью 0,24 — с субкарликом и с вероятностью 0,08 — с галактикой. Ошибочные отождествления могут происходить из-за ошибок измерений и наличия дисперсии характеристик у объектов данного типа. Если объект — субкарлик, то после измерения собственного движения соответствующие вероятности отождеств-влений равны 0,3, 0,64, 0,06, а если объект — галактика,— 0,13, 0,11, 0,86.
После измерения избытка ультрафиолетового излучения, если объект — белый карлик, соответствующие вероятности отождествлений равны 0,6, 0,12, 0,28, если объект — субкарлик,— 0,15, 0,74, 0,11, если галактика, - 0,13, 0,25, 0,62.
Определить, какое измерение — собственного движения или ультрафиолетового избытка — содержит в среднем больше информации о природе слабых голубых объектов.
Решение. Вычисления удобно производить при помощи формулы (2.169). Обозначим A1, A2, Aa события, состоящие в том, что до выполнения измерений слабый голубой объект есть соответственно белый карлик, субкарлик, звездоподобная галактика, a B1, B2, B3 — соответствующие гипотезы после выполнения измерения собственного движения. Тогда P (A1) = 0,47, P (A2) = 0,23, P (A8) = 0,30. Согласно условиям задачи P (B1 1 Al1) = = 0,68, P (B2 I A1) = 0,24, P (Вв I A1) = 0,08. P (B1 I A2) = 0,30 и т. д. Поэтому можно вычислить все P (AiBj) = P (Ai) P (Bj I Ai). Запишем их в таблице:
p(aibj) a1 а, as P(Bj)
bi b2 b9 0,32 0,11 0,04 0,07 0,15 0,01 ООО 538S 0,43 0,29 0,28
p(ai) 0,47 0,23 0,30 1,00 (124
случайная величина
ігл. 2
Сумма вероятностей в строке дает соответствующее P (Bj)t а сумма в столбце — соответствующее P (^1). По формуле (2.139) находим
Я (Л) = 1,521, Я (®) = 1,556, Я (Ж) = 2,632.
Следовательно, согласно (2.169), среднее количество информации, даваемое измерением собственного движения голубого объекта, равно I (А, В) = 0,445.
Если измеряются не собственные движения, а ультрафиолетовые избытки объектов, то таблица значений P (Ai Bj) имеет вид:
p(aibj) а, а, a1 p(bj)
bi b3 bt 0,28 0,06 0,13 0,03 0,17 0,03 0,04 0,08 0,18 0,35 0,31 0,34
p(ai) 0,47 0,23 0,30 1,00
Соответственно
H(u) = 1,521, Я (js) = 1,583, H (Jtib) = 2,802 и I (Л, 58) = 0,302.
Таким образом, измерение собственного движения дает в среднем больше информации для отождествления слабого голубого объекта, чем измерение ультрафиолетового избытка.
§ 34. Мера неопределенности случайной величины
Понятие меры неопределенности для дискретной случайной величины вводится обычным образом, так как совокупность значений, которые может принимать случайная величина, является полной системой событий. Таким образом, если случайная величина X принимает значения
xi, x2, . . ., xn § 3j] мера неопределенности случайной величины 125
с вероятностями, соответственно
Pu Рг. . . M Рп> то ее мера неопределенности равна
п
Я (X) = — 2 Pibgp1. (2.170)
i=l
Чтобы ввести понятие меры неопределенности для непрерывной величины X, принимающей значения в промежутке [а, &], разобьем промежуток [а, &] на п частей, определим вероятность попадания pt случайной величины X в каждую из этих частей, напишем выражение (2.170) для этих вероятностей и будем стремить п к оо так, чтобы длина наибольшего промежутка Я -*¦ 0. Тогда
»і
Я (X) = — Iim 2 Pi l°g Pi* (2.171)
П-»оо і_*
1
Так как вероятность попадания случайной величины в бесконечно малый промежуток (х, х -{- dx) равна / (х) dx, то, казалось бы, при определении Я (X) следует исходить из чисто формального соотношения
