Файл: Химмельблау Д. Анализ процессов статистическими методами.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 09.04.2024

Просмотров: 724

Скачиваний: 2

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

Линейные

модели

с несколькими

переменными

 

347

 

 

 

 

 

 

 

Таблица 5.3.1

 

Дисперсионный анализ

 

 

 

 

 

Число

 

 

 

 

 

 

 

Источник рассеяния

степеней

Сумма квадратов

Средний квадрат

 

свободы

 

 

 

 

 

 

 

Обусловленный регрес­

 

n

<*! У)2

 

 

 

— У)2

 

 

 

 

 

 

сией

 

i=l

 

 

 

 

 

 

 

 

 

 

 

 

 

- У г ) 2

 

 

n

 

 

 

 

 

Отклонения от эмпири­

п q — 1

 

- у р 2

 

 

 

- 1

ческой линии регрес­

i=l

 

 

 

 

 

сии (отклонения отно­

 

 

 

 

 

n g

сительно регрессии)

 

 

 

 

 

 

 

 

 

 

n

(У* — У)2

 

 

 

_ у ) 2

Неполная сумма

п — 1

i=l

 

 

n -

1

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

 

 

Pi

_

Отклонения внутри се­

п

 

 

 

2

І=1

3=1

 

S u

 

 

 

 

 

 

 

s* =

 

 

 

рий (ошибка экспери­

 

 

 

 

n

 

мента)

і=1

2

2 < ^ - у * ) »

к

 

 

 

 

i=l

 

 

 

і=1

і=1

 

 

 

 

 

 

 

 

 

 

 

Можно дать геометрическую интерпретацию S

(^г

— О)2 согласно

фиг. 5.1.1. Квадрат длины вектора Y расщепляется на сумму

квадратов его компонент в плоскости х .

 

 

 

 

Число степеней

свободы

п — g — 1,

приведенное

во

второй

строке табл. 5 . 3 . 1 ,

равно числу

независимых

измерений,

исполь­

зуемых для оценивания параметров; оно равно полному числу степеней свободы минус число связей, налагаемых методом наи­ меньших квадратов. Например, для восьми данных точек (значе­ ний Yt и ХІ) полное число степеней свободы равно восьми. При под­ гонке уравнения с тремя параметрами, одним из которых является свободный член, вводят три связи («поглощается» три степени свободы), а пять степеней свободы будут «остаточными».

Ценную дополнительную информацию о модели можно полу­

чить, вычисляя сумму квадратов, соответствующую

исключению

одной или нескольких переменных

из

модели, первоначально

содержащей все переменные; тем самым осуществляется

разложе­

ние суммы квадратов разностей между значениями,

предска­

занными по уравнению регрессии, и средним значением, 2

(Yt—Y)2.

К сумме квадратов, выделенной из S

(Yt

— Y)2, как

будет*кратко

объяснено, можно применить і^-критерий для того, чтобы оценить значимость одной независимой переменной модели или некоторой гпѵппн таких пепеменны х.


348

Глава 5

Допустим, что одному из параметров модели (5.1.1) — для удобства обозначений последнему члену, однако результаты будут справедливы для любого члена — приписано некоторое значе­ ние I , возможно нулевое. Тогда модель можно записать в виде

_

 

5 - 1

 

Х\ — l(xq — Xq) =

ß 0

+ 2 M * f t —Xk)-

(5.3.1)

 

 

ft=l

 

В последующем рассмотрении веса ради краткости будут опущены. Для получения оценок коэффициентов в уравнении регрессии, т. е. оценок Ь* параметров ß, следует минимизировать сумму квадратов:

n

Ф*-і= S lYi-(4t-l(xtq-xq))]*-

i = l

Эти оценки, конечно, могут не совпадать с оценками Ь, получен­

ными до приписывания параметру ß 3

некоторого значения.

Сумму

квадратов остатков и нормальные

уравнения в случае,

когда

ß 9 = I , можно представить следующим образом. Разобьем

модель

(5.1.1), т] = xß, на две части:

 

 

ß*

Т| = [х*хд] ß J = x * ß * + x 9 ß g ,

где последний член равен (xq — xq) | . Тогда нормальные уравне­ ния и разложение суммы квадратов, «обусловленной Ь», будут

иметь

вид

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Один из параметров

Полная модель

 

 

 

 

 

 

 

фиксирован

 

Нормальные уравнения

*Т Х*) b* =

x * T Y

(x T x)b = x T Y

 

Разложение суммы квадра­

b* T x* T Y

 

 

b T x T Y

 

 

тов, «обусловленной Ь»,

 

 

 

 

 

Теперь сопоставим друг с другом параметры Ь* и Ь, выразим

компоненты матрицы ( х * т х * ) _ 1

через компоненты матрицы ( х г х ) _ 1

и определим разность

сумм квадратов ( b T x T Y

— b * T x * T Y ) . Снача­

ла

запишем

эти

важные

соотношения,

а затем

покажем, как

их

можно

получить.

 

 

Ь. Если bt коэффициент регрес­

сии

С в я з ь

м е ж д у

Ь*

и

в

модели

(5.1.1), а

Ъ* — соответствующий

коэффициент

тіегтзессии в

модели с

ппиписанным паоаметнѵ_6_ь „значением £.


 

 

Линейные

модели

с

несколькими

переменными

349

то имеет

место

соотношение

 

 

 

 

 

 

 

 

 

 

 

b! = b i

- ^ ( b k -

l

) .

 

(5.3.2)

С в я з ь м е ж д у к о м п о н е н т а м и ( х т х ) - 1 и ( х * г х * ) _ 1 .

В случае когда параметр ßf e = \,

компоненты (q — 1) X (q — 1)-

матрицы с *

= ( х * т х * ) - 1

выражаются через компоненты

первона­

чальной q X (7-матрицы

с =

( х г

х ) _ 1

следующим

образом:

 

 

 

 

 

cXJ =

C

i

]

- ^

L .

 

(5.3.3)

Р а з л о ж е н и е

с у м м ы

 

к в а д р а т о в .

Если ф 3

сумма квадратов

для первоначальной

 

модели, a

^>|_і — сумма

квадратов для модели с ßf e = g, то разность между

суммами

квадратов

2

Фі

Y ) 2

получается из

соотношения

 

 

 

 

 

«

.

j

^

+ S z M .

 

(5.3.4)

Теперь

опишем,

как

можно

 

вывести соотношения

(5.3.2) —

(5.3.4). Прежде всего запишем нормальные уравнения в разверну­

том

виде (опуская

уравнение

для параметра

Ь0

= Y,

которое

одинаково

в

обеих

моделях)

 

для

полной

модели:

 

n

 

 

 

 

 

n

q

 

 

 

 

 

 

 

 

 

2

(xik — xk)

Yi

=

2

2

(Xih—Xh) (хц — x}) bj,

k=l,

...,q,

(5.3.5)

i=l

 

 

 

 

i=l

;=1

 

 

 

 

 

 

 

 

 

и для

модели

с

приписанным

параметру

ß g

значением

£:

п

 

 

[Yi (Xiq — Xg)l]

=

 

 

 

 

 

2 (Xih — Xh)

 

 

 

 

 

i=l

 

 

n

q— 1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=

2

2

(xih — xh)(xij—Xj)bf,

k = l,..,,q—l.

(5.3.6)

 

 

t=l

3=1

 

q 1 уравнений (5.3.5)

 

 

 

 

Вычитая

из первых

соответствующие

уравнения

(5.3.6),

получим

равенство

 

 

 

 

n

(Xih

— Xk)(Xïg

 

— Xq) =

n

g—1

(Xik — Xk) (Xij — Xj) (bj — b*) +

I 2

 

2 [ 2

i=l

 

 

 

 

 

 

i=l

3=1

+ (xik—Xk)(xiq—xq)bq],

 

(5.3.6a)

которое

примет

вид

 

 

 

 

 

 

 

g-i

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(I bq){xTx}hq=

 

2

Г Х}^(&; - —

bj),

 

 

 

 

 

 

 

 

 

 

 

 

 

j =

1

 

 

 

(5.3.7)

 

 

 

 

 

 

 

Ä = 1 ,

 

g — 1 ,

 

 

 

 

если ввести

обозначение

i=l2(^1? xp){xtq—xq)

 

=

{xTx}pq.



350 Глава 5

 

Так

как

( х г х ) ~ х

=

с

является обратной

матрицей

для

( х т х ) ,

имеем

 

 

п

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2 { x r x } f t j

{ ( х ^ ) - 1 } ^

=

оы,

к,

1 =

1, . . . ,

q,

 

 

 

 

 

j =i

 

 

 

 

 

 

 

 

 

 

 

 

 

 

где

ôhi

=

0,

если

к Ф

I,

и

 

ôht

=

I,

если

к

=

I.

Соотноше­

ние

(5.3.7)

умножим

справа на {(xTx)~1}hi

=

скг;

суммируя

полу­

ченное

выражение по

к

от

1 до

q — 1 ,

получим

 

 

 

 

 

 

 

9-1

 

 

 

 

g-1

 

 

q - i

 

 

 

 

 

 

 

il — bq) S

{ x T x } q f e C f t Z

=

S

(bj — bj) S

 

{xTx}jhChl,

 

 

 

 

 

h=l

 

 

 

 

3=1

 

 

ft=l

 

 

 

 

 

 

 

 

 

 

 

 

Z =

l

, . . . ,

g,

 

 

 

 

 

 

или

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(S — bq)

[oqi — {xT x}g e c„l =

 

9-1

 

b*) [ад —

 

{xTx}jqcqi],

 

 

 

S

 

 

 

 

 

 

 

 

 

 

 

 

 

;'=i

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Z = l ,

 

 

q-

 

 

 

 

(5.3.8)

При Z = q соотношение (5.3.8) переходит в

9-1

 

( 5 - 6 , )

[l-{xTx}qqcqq]

 

 

 

= - c q q

S

(bj-bf)

{xTx}jq.

 

(5.3.9a)

 

l Ф q соотношение

 

 

 

 

3=1

 

 

 

 

При

(5.3.8)

принимает

вид

 

 

 

 

 

 

 

 

 

 

 

 

 

 

9-1

 

 

 

 

(î—bq)[

— {xTx}qqcqi]

 

= bj — b* — cql S

 

(bj —

b*){xTx}jq,

 

 

 

 

 

 

 

 

 

 

 

 

3=1

 

 

 

 

 

 

 

 

 

 

 

1 = 1,

. ..,

q — 1.

 

 

 

(5.3.96)

Соотношение

(5.3.9a)

позволяет исключить

сумму по / из соотно­

шения

(5.3.96), что дает

 

искомую

связь

между Ь* и

Ь:

 

 

 

Ь? = bl

(bq

l)^SL.

1=1,

 

1 .

 

(5.3.2а)

 

 

 

 

 

 

 

 

 

Cqq

 

 

 

 

 

 

Перейдем теперь к установлению связи между

компонентами

матриц

( х * г х * ) - 1

и

( х т

х ) _ 1 .

Если

систему уравнений (5.3.6)

формально разрешить относительно коэффициентов

Ь%, то получим

 

 

 

 

9 — 1

 

 

n

 

 

 

 

 

 

 

 

 

 

 

bk = SChi S (Xij — X]) lYt (Ziq —

Xq)],

 

 

 

 

 

3=1

 

i=l

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Ä = l

,

 

q — l,

 

 

(5.3.10)

где

Chj элементы

матрицы,

обратной

(q1) X

(q1)-матрице

( х * т х * ) .

Подобное

решение уравнений

(5.3.5) для bu дает

 

 

 

 

q

 

 

п

 

 

 

 

 

 

 

 

 

 

 

 

bh=

S

Ch]

S

 

{xij—Xj)

Yt,

k =

l , . . . , q .

(5.3.11)

 

 

 

 

3=1

 

 

i=l