Численное решение задач метода наименьших квадратов - Лоуcон Ч.
Скачать (прямая ссылка):
17. Для /: = 1, ..., I - 1 поменять местами содержимое ячеек аи и а1к.
18. Если к - I = 1, перейти к шагу 20.
19. Для /: =/ + 1.....к — 1 поменять местами содержимое ячеек аа
и а,к.
20. Если к-п, перейти к шагу 22.
21. Для /: = * + 1, ..., и поменять местами содержимое ячеек аи и ак1.
22. Continue.
23. Замечание. Вычисление нешкалированной ковариационной матрицы закончено.
Если используется сингулярное разложение (см. (12.5)), то для нешкалированной ковариационной матрицы С справедлива формула (12.11). Поэтому индивидуальные элементы С выражаются формулами
Если матрица V вычислена в явном виде и хранится массивом размера и X и, то на ее место можно записать матрицу VS'1. Вслед за этим верхний треугольник VS'1 может быть замешен верхней треугольной частью С. Это требует использования дополнительного массива длины п.
Замечания о некоторых альтернативах вычислению С
Мы хотим указать три стандартных случая, когда вычисляется нешка-лированная ковариационная матрица С.
1. Матрица С (или С"1) может встречаться в качестве промежуточной величины в некоторой статистической формуле.
2. Матрица С может быть выведена на печать (или, например, экран Дисплея), чтобы пользователь (заказчик задачи) мог исследовать и интерпретировать ее.
л
(12.13)
5S
3. Какое-то подмножество элементов матрицы С может использоваться внутри некоторого автоматизированного процесса в качестве управляющих параметров.
В каждом из этих случаев мы укажем иной подход, который может оказаться более информативным или более экономичным.
Рассмотрим вначале случай 1. Обычно формулы, включающие в себя С или С'1, содержат выражения вида
Е = ВСВТ (12.14)
или
F=DTC'lD. (12.15)
Наиболее эффективным и численно устойчивым методом вычисления таких выражений обычно является использование факторизованной формы С или С"1:
С= (R~l)(R'l)T (12.16)
или
С"1 =RTR (12.17)
соответственно.
В этом случае произведение (12.14) вычисляется так: вначале решается, относительно Y уравнение YR = В, а затем строится Е = YYT.
Аналогично в случае (12.15) вычисляется X = RD, а затем F = XTX
Важный общий принцип, иллюстрируемый этими замечаниями, таков если имеется факторизация (12.16) матрицы С или факторизация (12.17) матрицы С"1, то можно на основе этих факторизации построить вычисли тельные процедуры, более экономичные и более устойчивые, чем те, что требуют явного вычисления С ил и С'1.
Эти замечания легко модифицировать на тот случай, когда в выражения для матриц С или С'1 входит матрица перестановки Р (см. формулы (12.7) и (12.10) соответственно).
В случае 2 пользователь часто исследует корреляции (или почти зависимости) между различными парами компонент решения х. В этом контексте принято строить вспомогательную матрицу
? = /Г1СХГ1, (12.18) где D — диагональная матрица, i-й диагональный элемент dit которой ра вен с){2. Тогда е„= 1, i= 1, ... , и, и\etf\ <1, i-l.....и; /=1.....и
Наличие элемента etj, \ Ф), близкого к 1 или -1 (например, ец = 0,95) воспринимается как указание на то, что /-я и /-я компоненты решения : сильно коррелированы. Алгебраически это соответствует тому, что глав ная 2 X 2-подматрица
Iе// еН\
почти вырождена.
Слабость анализа этого типа состоит в том, что таким путем легко обнаружить только зависимости между парами переменных. В то же время может иметься, например, почти зависимая группа из трех переменных, в которой никакие две переменные не являются почти зависимыми. Такой.
56
группе из трех переменных можно сопоставить главную 3 X 3-подматрицу матрицы Е, например
г 1 -0,49 -0,49"
-0,49 1 -0,49 . (12.19)
. -0,49 -0,49 1
Здесь никакой внедиагональный элемент не близок к 1 или -1 и, следовательно, нет почти вырожденной главной 2 X 2-подматрицы. В то же время 3 X 3-подматрица почти вырождена. Она становится вырожденной точно, если значения внедиатональных злементов изменить с -0,49 на -0,50.
Зависимости между тремя или большим числом переменных очень трудно обнаружить визуальным исследованием матриц С или Е. Такие зависимости, однако, выявляет матрица V сингулярного разложения A = USVT (или, что эквивалентно, спектрального разложения А ТА = VS2 VT).
Пусть Sj — сингулярное число А, малое в сравнении с наибольшим сингулярным числом «1, Соответствующие столбцы vt и и/ матриц V и II связаны равенством
Малость отношения sy/s, может быть принята в качестве критерия почти вырожденности матрицы А; при этом вектор V/ указывает конкретную линейную комбинацию столбцов А, почти равную нулю. Визуальное исследование столбцов V, отвечающих малым сингулярным числам, оказалось очень полезным приемом анализа плохо обусловленных задач наименьших квадратов.
В случае 3 следует заметить, что нет необходимости вычислять всю матрицу С, если требуется лишь некоторое подмножество ее элементов. Если, например, уже построена матрица Л"1, то отдельные элементы С можно вычислять независимо по формулам, выводимым непосредственно из (12.9). В типичном случае нужны лишь некоторые диагональные элементы С или какая-либо ее главная подматрица.
