Эконометрические зависимости: принципы и методы построения - Клейнер Г.Б.
ISBN 5-02-008348-8
Скачать (прямая ссылка):
47
3. Пусть наблюдения величины К имеют нормальное распределение с неизвестным средним а. Здесь наиболее правдоподобной и к тому же несмещенной оценкой параметра а является среднее арифметическое наблюденных значений показателя. Однако если функция распределения наблюдений даже незначительно отличается от функции нормального распределения (например, в равномерной метрике), среднее арифметическое перестает быть наиболее правдоподобной оценкой. Более того, эта оценка станет смещенной, и это смещение может быть сколь угодно большим. На практике это выражается в том, что наличие одного-двух резко выделяющихся наблюдений в большой выборке приводит к существенному искажению среднего значения. Трудности усиливаются в задаче построения регрессии - в [42] приведен пример, когда в выборке имеются два "сомнительных" наблюдения, причем вид линии регрессии существенно различен в зависимости от решения исследователя сохранить оба наблюдения, отбросить первое из них или отбросить второе.
Причину неустойчивости мы видим в том, что исходной информацией для МП-метода является вид плотности вероятностного распределения, в то время как этот метод слишком сильно реагирует на изменения этой плотности, особенно в той области, где она мала. Между тем даже тогда, когда совместное влияние большого числа малых случайных факторов обусловливает близкое к нормальному совокупное распределение отклонений, такая близость будет иметь место лишь вблизи центра распределения, тогда как на "хвостах" распределение далеко от нормального [43. Гл. XVI]. Однако поведение "хвостов" для МП-метода существенно: он придает чрезмерно большой "вес" большим ошибкам, информация о распределении которых наименее надежна. Эти и другие подобные трудности заставляют предъявить к методу оценки параметров вероятностных распределений дополнительное требование устойчивости (робастности, robustness), т.е. малой чувствительности к малым отклонениям от исходных предположений [42]. Сформулированное в таком общем виде, это требование естественно интерпретируется для любых типов задач оценки зависимостей и любых типов неопределенности.
По нашему мнению, сформулировав те или иные предположения о характере неопределенности наблюдений и выбрав подходящий метод оценки, каждый раз необходимо задаться вопросом: не может ли этот метод привести к серьезным ошибкам, если сделанные предположения будут "немного" нарушаться? Для получения на этом пути приемлемых методов оценки приходится вводить три типа ограничений:
• формализовать понятия "небольших отклонений" от исходных предположений (например, вводя расстояние между вероятностными распределениями и ограничивая величину этого расстояния) и "нечувствительности" к ним;
• ограничивать класс методов. Так, МП-оценкой параметра в вероятностного распределения с плотностью р(х, 9) по наблюдениям
48
хп будет решение уравнения ?Pqixt>в)/р(хп0) = 0. Однако
г
более устойчивые оценки получаются [42], если ориентироваться на
решение уравнений вида ?\|/(х,,0) = 0 с подходящими функциями
г
• выбирать лучший метод в рассматриваемом классе, вводя дополнительные критерии качества оценки (например, минимум максимально возможного смещения при "наихудшем" отклонении закона распределения от нормального). При этом возникает проблема совмещения критериев точности и устойчивости оценок.
4. Мы уже отмечали принципиальное различие между дискретными и непрерывными распределениями: в первом случае функция правдоподобия выражает вероятность наблюдения тех или иных значений переменных, тогда как во втором - плотность распределения этих вероятностей. Рассмотрим подробнее, к чему может привести такое несоответствие в задаче оценки неизвестного параметра распределения.
Пусть случайная величина X принимает только целочисленные значения, а р(п, О) - вероятность события X = п. Имеются наблюдения Л], лт, о которых известно, что некоторые из них являются реализациями случайной величины X, тогда как остальные являются "грубыми ошибками" (резко выделяющимися наблюдениями). Известна, кроме того, вероятность е появления грубой ошибки. Требуется оценить параметр О.
Допустим, что грубые ошибки являются реализациями некоторой случайной величины У, при чем событие Y = п имеет (неизвестную) вероятность q(n). Обозначим через Ж множество номеров грубых ошибок в выборке (п\9пТ), а через k - количество таких ошибок. Вероятность того, что номера грубых ошибок образуют множество Ж, а результатами всех ("правильных" и "грубо ошибочных") наблюдений будут соответствующие значения nh т.е. правдоподобие выборки, в
этом случае составит L = е*(1 -г)т~к \\q(nt)ПрО1/»©)- Поскольку X q(nt)^ Ь величина L будет максимальной при q(nt) = 1/к для всех
t е Ж. Тогда L = (elк)к(\-г)т~к T\p(nt>®)- Никаких принципиальных
сложностей при максимизации этого выражения 0 и по Ж здесь не возникает, и оптимальное решение всегда существует.
Ситуация в корне меняется, если распределения не дискретны. Здесь задача ставится аналогично: одни элементы выборки Хь ...,ХТ являются реализациями случайной величины X с плотностью распределения р(Х, 0), другие являются грубыми ошибками, причем вероятность того, что результатом наблюдения окажется грубая ошибка, известна и равна е. Однако теперь функцию правдоподобия невозможно даже записать, ибо распределение грубых ошибок может не иметь плотности (таковы ошибки из-за неправильного расположения
