Спектральный анализ и его приложения Том 1 - Дженкинс Г.
Скачать (прямая ссылка):
Можно показать [4], что если нет никакой причины предполагать a priori, что какое-нибудь одно значение 0 более вероятно, чем другие, то оценка *>, соответствующая выборочной оценке среднего правдоподобия (4.4.15), является оценкой с наименьшей среднеквадратичной ошибкой при любом объеме выборки. Это не означает, что для всех значений 0 выборочная среднеквадратичная ошибка этой оценки равномерно меньше, чем для любой другой оценки. Это значит лишь, что после усреднения по всем значениям 0 полученная полная среднеквадратичная ошибка будет наименьшей.
С точки зрения правдоподобия критерий среднеквадратичной ошибки не имеет отношения к делу, и, следовательно, выборочную оценку среднего правдоподобия лучше всего рассматривать как удобный способ описания центра расположения функции правдоподобия.
Пример. Чтобы проиллюстрировать этот способ извлечения информации из функции правдоподобия, рассмотрим пример с биномиальным параметром из разд. 4.2.2. Из функции правдоподобия (4.4.8) получается выборочная оценка максимального правдоподобия,
г
в то время как выборочная оценка среднего правдоподобия равна
- г+1
Р— п+2 '
а ее дисперсия имеет вид
,2^ г+1 (п-Г+1)
п + 2 (л + 3)(л + 2) •
Отсюда для г = 3, п = 8 функцию правдоподобия (4.4.8) можно аппроксимировать нормальной плотностью вероятности со средним
значением р = 0,4 и дисперсией а2 = 0,022. Следовательно, 95%-ная, или вероятная область с шансами 7,5: 1 для р представляет собой интервал (0,11; 0,69). Для г = 1, п = 8 аппроксимирующая нормальная плотность будет иметь среднее значение р = 0,2 и дисперсию а2 = 0,015. Как можно увидеть из рис. 4.5, нормальное прибли-
*> Рассматриваемая как случайная величина. — Прим. перев.
4.4. Выводы, основанные на функции правдоподобия
157
жение для г = 3 будет намного лучшим, чем для г = 1, из-за асимметрии функции правдоподобия во втором случае. На самом деле 95%-ная вероятная область для г=1 имеет отрицательную левую границу, что говорит о том, что нормальное приближение не оправдано. В этом случае лучший способ состоял бы в следующем.
Способ 2. Преобразование параметров. Если логарифмическая функция правдоподобия не является квадратичной, то полезно найти такие преобразования фг-(0і, G2, ..., Bn) параметров, что функция правдоподобия стала бы приближенно многомерной нормальной функцией от ф{.
Как отмечалось выше, если функция правдоподобия является нормальной, то вторая производная ее логарифма постоянна, т. е. количество информации Фишера равно константе. Если функция правдоподобия не является нормальной, то —U2IJdQ2 будет функцией от 6. Это нежелательно, так как в этом случае в различных точках шкалы 0 получается различная информация относительно 0. Поэтому хотелось бы найти преобразование ф = ф(0), такое, чтобы в масштабе ф производная —d2l/dq>2 была бы константой в окрестности выборочной оценки максимального правдоподобия ф = ф(0) параметра ф.
Сделав преобразование ф = ф(0), имеем
dl _ dl dd
dtp dd dtp
И
d4 _ 1 d4 \ I dd \2 MM M2M df2 ~~ [ d№ j [ d'f ) "T" { dd j [ d-f2 ) '
В точке выборочной оценки максимального правдоподобия dl/dcp = ~ 0, так как dljdQ = 0, и, следовательно,
df2 ~ [ d02 )~ [ df J '
Если потребовать, чтобы —d2l/dq>2 было положительной константой k, то отсюда получаем
/ t/6 \2 _ k
и, следовательно, с точностью до постоянного множителя желаемое преобразование ф(0) имеет вид
158
Гл. 4. Введение в теорию статистических выводов
Пример. Рассмотрим правдоподобие для биномиального распределения (4.4.8), обсуждавшееся выше. В этом случае получаем d4 _ г п — г п
если производную брать в точке выборочной оценки максимального правдоподобия p = rjn. Отсюда, используя (4.4.16), получаем
?(^)=Iwfer=arcsin^-
ca=arcsin Vp
P и с. 4.6. Преобразованные функции правдоподобия для биномиального распре»
деления (нормированные).
Таким образом, функция правдоподобия, у которой в качестве аргумента взят aresin Ур, будет лучше аппроксимироваться нормальной плотностью вероятности со средним значением ф и дисперсией о2, получаемой из (4.4.14).
На рис. 4.6 показаны правдоподобия после преобразования для случаев /"=1, /1 = 8 и r = 3, п = 8. В обоих случаях функции правдоподобия похожи на нормальную кривую, в то время как до преобразования кривая для г = 1 очень сильно отличалась от нормальной, как видно из рис. 4.5.
4.4. Выводы, основанные на функции правдоподобия
15Э
В табл. 4.2 приведены среднее значение и дисперсия аппроксимирующего нормального распределения, а также 95%-ная, или вероятная область с шансами 7,5: 1, для р до и после преобразования.
Таблица 4.2
Выборочные оценки среднего правдоподобия и вероятные области для биномиальных параметров, полученные из функций правдоподобия до и после преобразования
ічная макси-го подо- До преобразования После преобразования
Выборс оценка мально правдої бия р P 2 а— P 93%-ная область P 9 2 с— ? 93%-ная область
л = 8, г = 3 0,375 0,4 0,0217 (0,11; 0,69) 0,374 0,655 0,0256 (0,10; 0,68)
л = 8, г=1 0,125 0,2 0,0145 (—0.04; 0,44) 0,148 0,394 0,0265 (0,05; 0,43)
