Файл: Химмельблау Д. Анализ процессов статистическими методами.pdf

Если для всех откликов наблюдения Yri и Ysj статистически независимы, то совместная плотность, распределения вероятности для всех n X V наблюдений аналогична выражению (5.1.11):

(Следует помнить, что ковариации между моделями не обязательно

где crrs — элементы матрицы Г - 1 . Заменим матричные обозначения в экспоненте формулы (5.5.3) на эквивалентное суммирование по элементам. Так как двойное суммирование по г и s дает положи­ тельную величину, требуется минимизировать ее по ß.

Чтобы минимизировать двойную сумму по г и s, необходимо оценить элементы матрицы Г, например, из повторных экспери­ ментов для каждой модели:

r

366 Глава 5

Если ошибки, связанные с наблюдениями различных зависи­ мых переменных, имеют разные дисперсии, но можно принять, что Grs равны нулю при всех г Ф s, то требуется минимизировать лишь

где

_ 1 — 1

Это эквивалентно минимизации взвешенного следа матрицы

есть то же самое, что минимизация следа матрицы (5.5.6). Пред­ полагается, что если элементы матрицы Г не могут быть оценены, но известно, что они не равны нулю, то нужно минимизировать детерминант матрицы -ф [10].

В общем случае следует использовать один из вышеприведен­ ных критериев в зависимости от того, что известно эксперимента­ тору о ненаблюдаемых ошибках в зависимых переменных модели.

Д л я получения оценок параметров моделей с несколькими зави­ симыми переменными можно использовать и ряд других крите­ риев:

1.Максимизируется квадрат наименьшего коэффициента кор­ реляции.

2.Максимизируется квадрат наибольшего коэффициента кор­ реляции.

3.Максимизируется сумма квадратов коэффициентов корре­ ляции.

4.Максимизируется квадрат произведения коэффициентов кор­ реляции.

Критерий 3 дает наилучший средний множественный коэф­ фициент корреляции. Выражение для квадрата оценки множе­ ственного коэффициента корреляции имеет вид

2 m ( У Г - - У Г ) 2

a сумма квадратов оценок множественного коэффициента корре­ ляции равна

Для получения оценок коэффициентов ßf e в линейных моделях можно продифференцировать ф 2 по каждому из коэффициентов, приравнять нулю полученные выражения и совместно решить эти уравнения. Этот метод весьма прост, хотя и требует утомительных алгебраических расчетов. Коэффициенты в нелинейных моделях можно оценить итерационными методами оптимизации, описан­ ными в гл. 6.

Чтобы определить, адекватно ли описывает экспериментальные данные некоторая модель с несколькими зависимыми переменными, можно составить отношение дисперсий

^РминДи — m) s2

где m — полное число определяемых коэффициентов, и провести соответствующую проверку. При этом остатки должны быть слу­ чайно распределены, некоррелированы и не содержать выбросов (гл. 7).

часто; подобная задача для модели с одной независимой перемен­ ной кратко рассматривалась в разд. 4.5.

Один из подходов к оцениванию в случае, когда несколько переменных является случайными величинами, называется рекур-

случайных переменных, то по какому направлению следует мини­ мизировать сумму квадратов? Как видно из фиг. 4.2.2, в случае одной зависимой случайной переменной можно выбрать лишь одно направление, и оно задается самой величиной Y. Дл я много­ мерной модели вполне удовлетворительного ответа на поставлен­

ных диагональна, а матрица коэффициентов совместных случай­

Я

ß«#l + ßJ2#2 + • • • + Yl = S Утки + Bh

fc=i

где Yt — наблюдаемые случайные переменные, — детермини­ рованные переменные, значения которых заранее предопределены, ßffe и Ytk — коэффициенты, которые требуется оценить, a st — независимые ненаблюдаемые случайные величины с % {ег } = О

ипостоянными конечными дисперсиями и ковариациями. Параметры ß и у можно последовательно оценить с помощью

метода наименьших квадратов по следующей рекуррентной схеме. В первое уравнение входит единственная случайная переменная Y t

тельными являются обычные статистические выводы из последнего уравнения, основанные на сумме квадратов, известно плохо.

В литературе, список которой приведен в конце этой главы, обсуждаются некоторые методы, используемые в экономике для

Линейные модели с несколькими переменными 369

исследования ситуаций, когда некоторые из независимых пере­ менных являются случайными величинами.

Представляет также интерес обсудить следствия оценивания параметров для моделей типа (5.1.2) методом наименьших квадра­ тов, несмотря на то что непосредственное применение этого

в которой переменные Y, Хи Х2, . • -, Xq имеют совместное нормальное распределение вероятности. Д л я случая, когда коэф­ фициенты в модели (5.6.2) оценивались обычным методом наи­ меньших квадратов, а затем производилось еще одно наблюдение, Керридж получил следующее выражение для ошибки предска­ зания:

величинами. Опустим здесь детальный вывод распределения

величина, а индексы при %2 указывают соответствующие числа степеней свободы.

Для практических целей вместо значения Ап +і больший инте­ рес представляет средний квадрат ошибки

Таким образом, если п велико, а число независимых переменных q

вбесконечность.