Файл: Химмельблау Д. Анализ процессов статистическими методами.pdf

Скачать файл
Заказать решение

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 09.04.2024

Просмотров: 709

Скачиваний: 2

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

Линейные

модели с несколькими

переменными

319

отметить, что описанная выше процедура не зависит ни от каких строгих ограничений на вид распределения ненаблюдаемых оши­ бок е, однако можно показать, что, если ошибки предполагаются распределенными по нормальному закону, максимально правдо­ подобная оценка также удовлетворяет уравнению (5.1.9). Если наборы ненаблюдаемых ошибок в модели (5.1.1а) описываются многомерной нормальной плотностью распределения вероятно­ сти (2.3.6)

р(г)

= к ехр ( -

(5.1.11)

где е — вектор ошибок г )

 

 

 

 

8l

 

 

8 = Y —ті =

 

a к — нормировочный

множитель,

определенный в разд. 2.3,

то после проведения

наблюдений можно записать функцию прав­

доподобия, похожую

на функцию

(4.3.8), в которой вектор Y

и матрица х считаются заданными, а переменным является век­

тор ß (и, возможно, матрица f). Натуральный логарифм

функции

правдоподобия записывается в

виде

 

 

In L (ß, f I y, x) : : In L = In k-

1

' ~

- x ß ) r f - i ( Y - x ß ) ,

(5.1.11a)

2

(Y-

 

 

где

 

 

 

 

 

 

o\

а

 

 

 

 

 

 

 

 

 

 

Оin

 

 

 

 

f = Cov{e}=ig{ee T }:

0 2 1

G,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

°"nl 0"n 2 .

 

 

 

Предполагая,

что ^{е г } =

0, Var {ег } = g {(e, — 0) (et — 0)} =

— I Ie ?} = of, a также

что % {siSj}

=

0, можно

привести

кова­

риационную

матрицу

f

к

виду

 

 

 

 

 

 

 

 

 

 

оі

0

0

 

 

 

 

 

 

 

 

 

0

оі

0

 

 

 

 

 

 

 

 

 

0

0 . . .

о2п

J

 

 

 

Тогда

можно

положить

 

 

 

 

 

 

 

 

 

 

 

 

г

о 7 2

0 . . .

0

"

 

 

 

 

 

 

 

0

а - . . .

0

\ѵ.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

о

о . . .

on2А

 

 

 

г )

Заметим, что вектор

г

не

совпадает

с вектором

Е =

Y — Y ,

введен­

ным ранее.

 

 

 

 

 

 

 

 

 

 

320

Глава 5

Наконец, если все элементы на главной диагонали матрицы f равны между собой и некоторой постоянной о"у., матрица f сво­ дится к

f = оу.І.

(5.1.12)

В целях экономии места в ряде следующих уравнений вместо (1/оу\) I используется по-прежнему лѵ. Если элементы матрицы f не упрощаются, как показано здесь, а оставляются в общем виде, то получаются оценки, называемые оценками Маркова.

 

Максимальное

значение In L

в

выражении

(5.1.11а)

с і

=

=

о т

. І

может

быть

достигнуто

дифференцированием In L

по ß

и

о

т .

и

приравниванием производных к

нулю,

что

приводит

к

нормальным уравнениям (5.1.9) и

дает некоторую

смещенную

оценку

дисперсии ау., как и в разд. 4.3. Максимуму In L соответ­

ствует

минимум (Y — xß) T (a?".)- 1

(Y — xß); сравните это выраже­

ние с выражением

(5.1.7а). Следует отметить, что, если в матрице

£

оставлены

все

элементы, условие

минимума

(Y — x ß ) r f _ 1

X

X

(Y — xß)

дает

оценку

Маркова

 

 

 

 

 

 

 

 

 

 

b =

(хЧ-Н)-1

 

(X Tf-*Y)

 

 

 

 

с

ковариационной

матрицей|

 

 

 

 

 

 

 

 

 

 

 

Соѵ{Ь} =

(xTf^x)-!.

 

 

 

 

Однако для получения этих оценок предварительно следует вычис­ лить элементы матрицы f по данным повторных экспериментов или каким-либо другим методом. Обсуждение схем оценивания, в кото­

рых наряду с параметрами оцениваются и

элементы f,

выходит

за рамки данной

книги. Если специально не оговорено обратное,

будет предполагаться, что во всех случаях

справедливо соотно­

шение (5.1.12).

 

 

 

 

5.1.3.

Корреляция

и смещение

оценок

 

Так как ошибки ег- являются в буквальном смысле нена­

блюдаемыми, их

можно только

оценить,

используя

равенство

e = Y — x ß , так что

е = Y — x (x^wx)-1 x T wY = MY,

где

M = I — x ( x r w x ) _ 1 x T w .

Матрицу M можно интерпретировать как матрицу, которая осу­ ществляет линейное преобразование «истинных» ошибок е в оцен­ ки ошибок 8 , ибо (учитывая, что Мх = 0)

8 = MY = M (xß + e) = Me.

Линейные

модели с несколькими

переменными

321

Таким образом, видно, что оценки ошибок являются функциями не только е, но и матрицы M и тем самым значений независимых переменных х. Следовательно, даже если справедливы предположе­ ния о том, что g {Е} = 0 и g {еет } = Oy. - I , оценки ошибок,

вообще говоря, не являются некоррелированными и не обладают постоянной дисперсией:

 

 

 

 

g {eef}

=

£ { М я е т М г } =

о^ММТ.

 

 

 

 

Используя выражения (5.1.10), можно показать, что матема­

тическое

ожидание

b

равно

 

ß:

 

 

 

 

 

 

 

 

g {b} =

g {(x^wx) - 1

(x^wY)}

=

 

 

 

 

 

 

 

 

 

 

 

 

 

=

g {(x^wx) - 1 [x*V (xß +

e)]} =

ß,

(5.1.13)

a ковариационная матрица вектора b имеет

вид

 

 

 

Cov {b} =

g {(b - ß) (b -

ß)?}

=

 

 

 

 

 

 

 

 

 

=

g

{ [ ( X Î ' W X ) - 1 (xïwY) -

ß] [(x^wx)-1

(x^wY) -

ß F } .

Подставив Y =

xß +

e,

получим

 

 

 

 

 

 

 

Cov {b}

=

g

{ [ c w X r w

(xß + в) -

ß] [ c w X r w

(xß +

e) -

ß]r}

=

 

=

g {(cw xr we)

(cw xT we)T ) =

g {cw xr w88T w'r xCw}

=

 

 

=

c w x r w g {88T } \v r xc w

=

c w x r w x c w =

cw

= Oy\c,

(5.1.14)1 '

где

 

 

 

 

 

с =

а _ 1

=

( х т х ) _ 1 .

 

 

 

 

 

 

Так

как дисперсия

оу. обычно неизвестна, необходимо полу­

чить некоторую несмещенную оценку sY.

величины

оу.,

 

напри­

мер, в виде объединенной

оценки или оценки s2, если

отсутствуют

повторные измерения, но модель является адекватной. Пред­

положения

разд. 4.2 здесь применяются так же, как в

разд. 4.3

и 4.4, и поэтому оценка s2- просто равна сумме квадратов

остатков,

деленной

на число степеней свободы (число наборов

данных

п минус число ограничений, налагаемых при определении мини­ мума ф, т. е. число параметров, подлежащих оцениванию):

S r -

n-to+i) -

n-q-i •

(b.1.10)

2 _

Фмин

 

E T WE

/ С Л

Итак, при отсутствии

оценки

s|

 

 

 

 

E T w E

(5.1.16)

 

C ^ W - ^ — î C .

!) Здесь предполагается, что Оу. = const. — Прим. ред.

322

Глава 5

Если величина si известна, по выражению (4.4.2) можно вычис­ лить Sy..

Следует помнить, что в является несмещенной оценкой вектора параметров ß модели (5.1.1), если только эта модель корректна. Допустим, что модель определяется не уравнением

т)і = xß,

а в действительности содержит дополнительные члены; тіп = xß + x*ß*.

Тогда, согласно соотношению (5.1.13), математическое ожидание b для модели I равно ß:

% {b} = ß.

При использовании модели I I математическое ожидание b оказы­ вается равным

Ш {Ь} = (x^wx)-1 x^wg { Y } =

=

( X Ï W X ) - 1

x T w (xß

+

x*ß*)

= ß

+ x +

ß*,

(5.1.17)

где матрица x +

называется матрицей

смещения,

т. е. такая

оценка

ß является смещенной.

Однако

можно

показать,

что

выраже­

ние (5.1.14) для дисперсий и ковариаций вектора b остается справе­

дливым,

если корректной оказывается модель I I ,

а не модель I , но

оценка дисперсии оу.,

конечно,

будет

некорректной.

 

5.1.4.

Чувствительность

оценок

 

Д л я

некоторого изменения Yt

(наблюдений в

і-м наборе дан­

ных) можно рассчитать чувствительность

остаточной суммы квад­

ратов <£м и н и чувствительность элементов вектора Ь. Под чувстви­

тельностью подразумевается относительное

изменение фжиі

(или

bh), вызванное относительным изменением

Yt. Определение

чув­

ствительности может помочь в интерпретации предсказаний, сде­ ланных на основе уравнения регрессии, а также при планировании экспериментов. Так как

 

 

 

п

 

 

 

 

i=l

 

 

чувствительность <£м и н

относительно Yt равна

 

дФмин/Фмин _

д І Д Фмии _

дФмин

Yj _

2Yi^wi(Yi-Yi)

 

і=1

(5.1.18)

dYiJYi

dlnYi

dYi

Фмин

™

 

i=l

Смотрите также файлы