Математическая статистика - Варден Б.Л.
Скачать (прямая ссылка):
Теперь мы укажем три новых примера, имеющих принципиальный интерес.
Пример 21. Оценка неизвестной вероятности.
Рассмотрим последовательность п независимых испытаний, в каждом из которых положительный исход наступает с постоянной и неизвестной вероятностью р. Пусть х — наблюдаемое число положительных исходов. Каково наиболее правдоподобное значение р?
Согласно фоэмуле Бернулли (§ 5 А), функция правдоподобия имеет
вид
in \
р*(1 -Р)п~х
или, если отбросить число сочетаний, зависящее лишь от х,
9(х\р) = Vх (1 — р)п~х. (2)
При отыскании максимума вместо самой функции д(х\р) можно воспользоваться ее логарифмом
Цр) = х In р + (п — г) In (1 — р).
186
Гл. VIII. Оценки неизвестных параметров
Дифференцированием по р получаем
х п — х х — пр
L (р) =------------=------------ .
Р 1 —V Р(1 — Р)
Производная L'(p) обращается з нуль при р = х/п, причем при р < х/п она положительна, а при р > х/п — отрицательна. Поэтому р = х/п является точкой максимума функции L(p). Следовательно, правдоподобное значение р равно
р = h = - . (3)
п
Оценка (3) является несмещенной: математическое ожидание h в точности равно истинному значению р. Далее, оценка (3) состоятельная, т. е. А стремится, по вероятности, к истинному значению р при п —> оо. Это является следствием закона больших чисел (§ 5 и 33).
Пример 22. Случайная величина х имеет нормальную плотность вероятности
1 _1
j(x)=— -_e 2 \ a J
сг \2п
с неизвестным средним значением р. и неизвестной дисперсией <г~. Пусть в результате наблюдений получены п независимых значений xlt . . ., хп случайной величины х. Каковы правдоподобные значения р. и сг8?
Если плотность совместного распределения х1, . . хп умножить на несущественный множитель (2л)п^2, то функция правдоподобия окажется равной
1 I V * ~ <’Г|'—
д(х1,...,хп\р,сг)^ с 2о-
(Гп
а ее логарифм
1
L(p., сг) — —п In сг — --- > (Xj — р.)-. (4)
2cri w
Второй член справа является отрицательно определенным ски.м многочленом относительно р.. Точку максимума р. этого находим дифференцированием (4) по р:
2 <¦х' ~ )
' 1 ' V
[Л — - ^ Xj - X. \
п ~шт J
Следовательно, правдоподобное значение (х является арифметическим средним иъ наблюденных значений х. Гаусс нашел этот же результат метолом наименьших квадратов.
Если fx подставить в (4) и затем (4) продифференцировать по ато получим
d п 1
— L (р., сг) —------h-r2 ^ ~ х)2-
асг сг (гл
Эта производная обращается в нуль при
квадратиче-
многочлена
(5)
§ 35. Метод наибольшего правдоподобия Р. А. Фишера___________187
Пели сг2 < ^ (х,-— х)2/п, то производная положительна, если же о-2 > У (.т, — х)г!п, то она отрицательна. Следовательно, правдоподобным значением сг2 является
о-2 = — У1 (xi — х)~¦ (6)
п
Ранее вместо (6) мы имели приближенное значение
1
; (х( — х)-, (7)
п — 1 ¦*“
где знаменатель п—1 был выбран для того, чтобы среднее значение s2 в точности равнялось сг2. Очевидно, что математическое ожидание (6) несколько меньше математического ожидания (7). Следовательно, оценка наибольшего правдоподобия (6) является смещенной: ее математическое ожидание не равно истинному значению сгв.
В этом примере смещение оценки сг2 мало: в пределе при п —> ос оно исчезает. Дисперсия оценки сга стремится к нулю при п—юс. В силу этих двух свойств, по неравенству Чебышева (§ 3 В) эта оценка является состоятельной1.
Пример 23. В этом примере метод наибольшего правдоподобия не приводит к состоятельной оценке.
В лаборатории измерялись п концентраций, каждая из которых определялась дважды. Точность измерений была одинаковой во всех опытах, а истинные значения п концентраций были различными. Предположим, что все 2п результатов измерений а^, г/х; . . хп, уп являются независимыми нормальными случайными величинами с совместной плотностью вероятности
д(х, yiW, М;.) = -- (8)
