Математическая статистика - Варден Б.Л.
Скачать (прямая ссылка):
Si = с,- -\- а; в (4)
(а; и с,' предполагаются известными), то д(х\С) примет нпд
(- kt1 + 2ID - т)
д(х\t>) = с" , (5)
202 Г л. VIII. Оценки неизвестных параметров
где k = ^aj=^aa — постоянная величина, а I = У (х,-— с,) а, ч т— соответственно линейная и квадратичная функции от гг. Если к = 0, то все а,- равны нулю и <7(х|С) вообще не зависит от ?\ в этом случае, по терминологии § 30, параметр С не допускает оценки. Но если кф 0, то (5) можно записать так:
— ~ fc(i' — ту- -- Л(х)
?(х|С) = е , (6)
где
^ах — У ас
Т = ~—----------------. (7)
> аа
Ясно, что в (6) показатель степени будет .максимальным при С = Т. Этот показатель равен показателю степени в (3), который, согласно методу наименьших квадратов, также должен быть сделан максимальным. Следовательно, метод наименьших квадратов приводит к той же оценке Т для параметра С, что и метод наибольшего правдоподобия. Вычисляя среднее значение Т, найдем, что Т = С, поэтому оценка Т является несмещенной. Так как в данном случае условия а) и б) (§ 38), а также I, 2, 3 (§ 37) выполнены, то мы получаем результат:
Т — несмещенная, наилучшая оценка для С.
Случайная величина Т подчиняется нормальному распределению с плотностью вероятности
ГЛе-2-<Т-°’
I ^л
Дисперсия Т равна
2 1 *
<гт = - = —-------. (8)
к У аа
Постоянная к— Уаа в точности совпадает с информацией I, так как в данном случае неравенство Фреше обращается в равенство.
Если вспомнить, что посредством преобразований х; = сг,х, все дисперсии наблюдений были сделаны равными единице и что благодаря этому все веса также равны единице, то можно убедиться, что (8) согласуется с ранее полученным результатом (см. § 31 Б):
2 0,2 0-2 = «г» = ¦ — (9)
[0<за]
Пример 28. Оценка вероятности.
Пусть вероятность р некоторого события неизвестна и пусть в п независимых опытах это событие наступило х раз. Какова наилучшая оценка для р?
В данном случае х является дискретной случайной величиной, однако это не может служить причиной каких-либо затруднений. Рассмотрим функцию правдоподобия, вычисленную ранее в первом примере § 35 с точностью до множителя, зависящего лишь от х:
д(х\р) = Vх (1 — р)п~х- (Ю)
Эту функцию можно записать так:
д(х\р) = е*1пр + (п-*чп<1-р>_
(П)
§ 40. Условные математические ожидания
203
Если в (10) положим а; = nh, где h — частота,
х
h = —, п
то получим
д(х\р) = еЛп1пр + (1-Л)л1п(1-Р)_ (12)
Это выражение имеет в точности тот же вид, который требуется условиями а) и б) (§ 38). Математическое ожидание оценки h, как мы знаем, равно р. Условия 1, 2, 3 (§ 37) в данном случае также выполняются. Следовательно, частота h является несмещенной, наилучшей оценкой для вероятности р, т. е. среди всех несмещенных оценок h имеет наименьшую дисперсию.
До сих пор во всех рассмотренных случаях для доказательства минимальности дисперсий соответствующих несмещенных оценок мы пользовались тем обстоятельством, что неравенство Фреше обращалось в равенство. Но если условия а) и б) (§ 38) не выполняются, то это неравенство не может обратиться в равенство. Однако существуют другие методы, позволяющие находить несмещенные, наилучшие оценки. Эти методы были разработаны Рао и, при более общих предположениях, Леманном и Шеффе1. Для подготовки к изложению этих методов нам сначала нужно познакомиться с понятием условных математических ожиданий по Колмогорову.
§ 40. Условные математические ожидания
Случайные величины мы будем обозначать жирными буквами t,u,v,x,.... При этом предполагается, что хг,. . ,,хп — результаты наблюдений, а все остальные случайные величины являются функциями хк:
t = Т(х); и = U(ас); ....
Пусть
t = Т (х); и = U(х); ....
— отдельные возможные значения этих функций.
Нужно дать определение условного математического ожидания случайной величины и для заданного значения t случайной величины t.
Если t и и принимают лишь конечное число значений, то это определение является очень простым. Пусть P(t) — вероятность того, что t примет значение, равное t. Если P(t) ф 0, то для всех
