Спектральный анализ и его приложения Том 1 - Дженкинс Г.
Скачать (прямая ссылка):
L[X) = X3ехр(- 6Х). (4.2.14)
График функции (4.2.14) приведен на рис. 4.2. Он представляет собой одновершинную кривую с максимумом при X = 0,5. Значение
X параметра X, которое максимизирует L (X), называется выборочной оценкой максимального правдоподобия параметра X. Она дает
128
Гл. 4. Введение в теорию статистических выводов
предпочтительное значение параметра X, поскольку при этом значении вероятность получения данной выборки максимальна.
Как правило, для гладкой функции правдоподобия оценку максимального правдоподобия можно получить, решая уравнение
dL(l)
dl
Для правдоподобия, полученного из плотности вероятности (4.2.13), это уравнение дает выборочную оценку максимального правдоподобия Х=1/х. В приведенном выше примере X = 2 и, следовательно, X = 0,5.
В некоторых случаях, например если максимум достигается на границе возможных значений параметра, нельзя найти этот максимум дифференцированием. Чтобы не получать лишенных смысла результатов, нужно построить график функции правдоподобия.
Функции правдоподобия от многих переменных. В случае, когда функция правдоподобия зависит от k параметров бь G2, ..., 0/г, выборочные оценки максимального правдоподобия должны максими--зировать L(Oi, 02, ..., 0?) одновременно по всем переменным. Если этот максимум можно найти с помощью дифференцирования, то выборочные оценки максимального правдоподобия являются решением системы k уравнений:
^(6,,6^.,.,6,) =0 u = li % ^ А)> {А2Х^
Иногда удобнее находить максимум логарифма функции правдоподобия /(6i, 02, ..., 0л) = InL(Oi, 02, ..., 0ft). Тогда уравнения максимального правдоподобия имеют вид
^7=^ = ^^- = 0 (/=1.2.....*). (4.2.16)
Пример 1. Рассмотрим функцию правдоподобия для среднего значения и дисперсии нормальной плотности вероятности, причем предполагается, что выборка состоит из п наблюдений:
L^ °2)= (V^r .у ехр
(4.2.17)
так что логарифмическая функция правдоподобия имеет вид
і 2 {Xt ~?)2 t = \
/([х, a2)=--^-ln2u-«lna- (xt ~ V?- (4.2.18)
t = i
і
4.2. Применение метода выборочных распределений
129
Выборочные оценки максимального правдоподобия, получаемые из (4.2.18), являются решениями системы уравнений
- 4- + 4- 2 U - й"'=°- (4-2-19)
s 0( = 1
Т. Є.
Iх = 4"2 xt= X,
t = 1 п
а2 =~ 2 (4.2.20)
( = 1
Пример 2. Предположим, что имеется п пар измерений (хц, Х2і), 1=1, 2, м, как это было для данных об акселерометре на рис. 3.7. Если предположить, что они могут быть описаны парой случайных величин, совместная плотность вероятности которых является двумерной нормальной плотностью, то логарифмическая функция правдоподобия для п пар наблюдений имеет вид
I ([A1, [X2, о2, O2, P12)= — ЯІп2тс — Я ІП Oj — п 1па2--у In (і —ріг) —
+ИР-Л- <4-2-21>
Функция правдоподобия (4.2.21) зависит от пяти параметров, и выборочные оценки максимального правдоподобия можно получить, дифференцируя эту функцию по очереди по всем пяти параметрам и решая полученные уравнения. Можно убедиться, что оценки среднего значения и дисперсии те же самые, что и полученные из правдоподобия (4.2.17), а выборочная оценка максимального правдоподобия для коэффициента корреляции pi2 имеет вид
п
2 (-^1/-^)(^2( — ?)
P -г = , „/ = 1-п-W1 = ri2 • (4.2.22)
2 (Xu-X1)2^(X21-X2)H 1(=1 і = 1 )
5 Заказ № 1210
130
Гл. 4. Введение в теорию статистических выводов
Заметим, что (4.2.22) можно переписать в виде
«12
(4.2.23)
12- ,г-¦ '
У CnC22
где
п
ci2 = 1Г 2 (хи - *i) і** ~ ^2) (4.2.24)
і =1
является выборочной оценкой максимального правдоподобия ковариации у а между двумя рассматриваемыми случайными величинами; си и C22 — выборочные оценки максимального правдоподобия для дисперсий а2 и а2 соответственно.
Так как функция правдоподобия является функцией только 0, когда наблюдения известны, то выборочная оценка максимального
правдоподобия 0 получается непосредственно как функция этих наблюдений. Обычно в этом месте в статистических работах оставляют функцию правдоподобия и возвращаются к методу выбороч-
ных распределений. При этом с выборочной оценкой 0 связывают
оценку 6 и находят ее выборочные свойства. Этот подход совместим с подходом выборочных распределений к оцениванию, но это не совпадает с использованием метода правдоподобия для выводов, о чем будет сказано в разд. 4.4.
Выборочные свойства оценок максимального правдоподобия приведены в работе [5]. Наиболее важное из них заключается в том, что для больших п оценки максимального правдоподобия приближенно несмещенные и распределены асимптотически нормально с дисперсией
М§]~ ?W»U'u ' (4-2-25)
о
являющейся наименьшей дисперсией, которую может иметь любая несмещенная оценка. Поэтому можно построить приближенный доверительный интервал, используя выборочную оценку максимального правдоподобия, дисперсию (4.2.25) и табл. 3.4.
Результат (4.2.25) показывает, что дисперсия оценки максимального правдоподобия обратно пропорциональна второй производной (и, следовательно, кривизне) функции правдоподобия в точке ее максимума. Выражение
(4.2.26)
4.2. Применение метода выборочных распределений
