Файл: Химмельблау Д. Анализ процессов статистическими методами.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 09.04.2024
Просмотров: 724
Скачиваний: 2
Линейные |
модели |
с несколькими |
переменными |
|
347 |
|||
|
|
|
|
|
|
|
Таблица 5.3.1 |
|
|
Дисперсионный анализ |
|
|
|
|
|||
|
Число |
|
|
|
|
|
|
|
Источник рассеяния |
степеней |
Сумма квадратов |
Средний квадрат |
|||||
|
свободы |
|
|
|
|
|
|
|
Обусловленный регрес |
|
n |
<*! — У)2 |
|
|
|
— У)2 |
|
|
|
|
|
|
|
|||
сией |
|
i=l |
|
|
|
|
|
|
|
|
|
|
|
|
|
- У г ) 2 |
|
|
|
n |
|
|
|
|
|
|
Отклонения от эмпири |
п — q — 1 |
|
- у р 2 |
|
|
|
- 1 |
|
ческой линии регрес |
i=l |
|
|
|
|
|
||
сии (отклонения отно |
|
|
|
|
|
n — g |
||
сительно регрессии) |
|
|
|
|
|
|
|
|
|
|
n |
(У* — У)2 |
|
|
|
_ у ) 2 |
|
Неполная сумма |
п — 1 |
i=l |
|
|
n - |
1 |
||
|
|
|
|
|
|
|||
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
Pi |
_ |
|
Отклонения внутри се |
п |
|
|
|
2 |
І=1 |
3=1 |
|
S u |
|
|
|
|
||||
|
|
|
s* = |
|
|
|
||
рий (ошибка экспери |
|
|
|
|
n |
|
||
мента) |
і=1 |
2 |
2 < ^ - у * ) » |
к |
|
|
||
|
|
i=l |
|
|||||
|
|
і=1 |
і=1 |
|
|
|
|
|
|
|
|
|
|
|
|
||
Можно дать геометрическую интерпретацию S |
(^г |
— О)2 согласно |
||||||
фиг. 5.1.1. Квадрат длины вектора Y расщепляется на сумму |
||||||||
квадратов его компонент в плоскости х . |
|
|
|
|
||||
Число степеней |
свободы |
п — g — 1, |
приведенное |
во |
второй |
|||
строке табл. 5 . 3 . 1 , |
равно числу |
независимых |
измерений, |
исполь |
зуемых для оценивания параметров; оно равно полному числу степеней свободы минус число связей, налагаемых методом наи меньших квадратов. Например, для восьми данных точек (значе ний Yt и ХІ) полное число степеней свободы равно восьми. При под гонке уравнения с тремя параметрами, одним из которых является свободный член, вводят три связи («поглощается» три степени свободы), а пять степеней свободы будут «остаточными».
Ценную дополнительную информацию о модели можно полу
чить, вычисляя сумму квадратов, соответствующую |
исключению |
|||
одной или нескольких переменных |
из |
модели, первоначально |
||
содержащей все переменные; тем самым осуществляется |
разложе |
|||
ние суммы квадратов разностей между значениями, |
предска |
|||
занными по уравнению регрессии, и средним значением, 2 |
(Yt—Y)2. |
|||
К сумме квадратов, выделенной из S |
(Yt |
— Y)2, как |
будет*кратко |
объяснено, можно применить і^-критерий для того, чтобы оценить значимость одной независимой переменной модели или некоторой гпѵппн таких пепеменны х.
348 |
Глава 5 |
Допустим, что одному из параметров модели (5.1.1) — для удобства обозначений последнему члену, однако результаты будут справедливы для любого члена — приписано некоторое значе ние I , возможно нулевое. Тогда модель можно записать в виде
_ |
|
5 - 1 |
|
Х\ — l(xq — Xq) = |
ß 0 |
+ 2 M * f t —Xk)- |
(5.3.1) |
|
|
ft=l |
|
В последующем рассмотрении веса ради краткости будут опущены. Для получения оценок коэффициентов в уравнении регрессии, т. е. оценок Ь* параметров ß, следует минимизировать сумму квадратов:
n
Ф*-і= S lYi-(4t-l(xtq-xq))]*-
i = l
Эти оценки, конечно, могут не совпадать с оценками Ь, получен
ными до приписывания параметру ß 3 |
некоторого значения. |
Сумму |
квадратов остатков и нормальные |
уравнения в случае, |
когда |
ß 9 = I , можно представить следующим образом. Разобьем |
модель |
|
(5.1.1), т] = xß, на две части: |
|
|
ß*
Т| = [х*хд] ß J = x * ß * + x 9 ß g ,
где последний член равен (xq — xq) | . Тогда нормальные уравне ния и разложение суммы квадратов, «обусловленной Ь», будут
иметь |
вид |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Один из параметров |
Полная модель |
||
|
|
|
|
|
|
|
фиксирован |
|||
|
Нормальные уравнения |
(х*Т Х*) b* = |
x * T Y |
(x T x)b = x T Y |
||||||
|
Разложение суммы квадра |
b* T x* T Y |
|
|
b T x T Y |
|||||
|
|
тов, «обусловленной Ь», |
|
|
|
|
||||
|
Теперь сопоставим друг с другом параметры Ь* и Ь, выразим |
|||||||||
компоненты матрицы ( х * т х * ) _ 1 |
через компоненты матрицы ( х г х ) _ 1 |
|||||||||
и определим разность |
сумм квадратов ( b T x T Y |
— b * T x * T Y ) . Снача |
||||||||
ла |
запишем |
эти |
важные |
соотношения, |
а затем |
покажем, как |
||||
их |
можно |
получить. |
|
|
Ь. Если bt — коэффициент регрес |
|||||
сии |
С в я з ь |
м е ж д у |
Ь* |
и |
||||||
в |
модели |
(5.1.1), а |
Ъ* — соответствующий |
коэффициент |
||||||
тіегтзессии в |
модели с |
ппиписанным паоаметнѵ_6_ь „значением £. |
|
|
Линейные |
модели |
с |
несколькими |
переменными |
349 |
||||||
то имеет |
место |
соотношение |
|
|
|
|
|
|
|
||||
|
|
|
|
b! = b i |
- ^ ( b k - |
l |
) . |
|
(5.3.2) |
||||
С в я з ь м е ж д у к о м п о н е н т а м и ( х т х ) - 1 и ( х * г х * ) _ 1 . |
|||||||||||||
В случае когда параметр ßf e = \, |
компоненты (q — 1) X (q — 1)- |
||||||||||||
матрицы с * |
= ( х * т х * ) - 1 |
выражаются через компоненты |
первона |
||||||||||
чальной q X (7-матрицы |
с = |
( х г |
х ) _ 1 |
следующим |
образом: |
||||||||
|
|
|
|
|
cXJ = |
C |
i |
] |
- ^ |
L . |
|
(5.3.3) |
|
Р а з л о ж е н и е |
с у м м ы |
|
к в а д р а т о в . |
Если ф 3 — |
|||||||||
сумма квадратов |
для первоначальной |
|
модели, a |
^>|_і — сумма |
|||||||||
квадратов для модели с ßf e = g, то разность между |
суммами |
||||||||||||
квадратов |
2 |
Фі |
— Y ) 2 |
получается из |
соотношения |
|
|||||||
|
|
|
|
« |
. |
j |
^ |
+ S z M . |
|
(5.3.4) |
|||
Теперь |
опишем, |
как |
можно |
|
вывести соотношения |
(5.3.2) — |
(5.3.4). Прежде всего запишем нормальные уравнения в разверну
том |
виде (опуская |
уравнение |
для параметра |
Ь0 |
= Y, |
которое |
||||||||||
одинаково |
в |
обеих |
моделях) |
|
для |
полной |
модели: |
|
||||||||
n |
|
|
|
|
|
n |
q |
|
|
|
|
|
|
|
|
|
2 |
(xik — xk) |
Yi |
= |
2 |
2 |
(Xih—Xh) (хц — x}) bj, |
k=l, |
...,q, |
(5.3.5) |
|||||||
i=l |
|
|
|
|
i=l |
;=1 |
|
|
|
|
|
|
|
|
|
|
и для |
модели |
с |
приписанным |
параметру |
ß g |
значением |
£: |
|||||||||
п |
|
|
[Yi — (Xiq — Xg)l] |
= |
|
|
|
|
|
|||||||
2 (Xih — Xh) |
|
|
|
|
|
|||||||||||
i=l |
|
|
n |
q— 1 |
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
= |
2 |
2 |
(xih — xh)(xij—Xj)bf, |
k = l,..,,q—l. |
(5.3.6) |
|||||||||
|
|
t=l |
3=1 |
|
q — 1 уравнений (5.3.5) |
|
|
|
||||||||
|
Вычитая |
из первых |
соответствующие |
|||||||||||||
уравнения |
(5.3.6), |
получим |
равенство |
|
|
|
|
|||||||||
n |
(Xih |
— Xk)(Xïg |
|
— Xq) = |
n |
g—1 |
(Xik — Xk) (Xij — Xj) (bj — b*) + |
|||||||||
I 2 |
|
2 [ 2 |
||||||||||||||
i=l |
|
|
|
|
|
|
i=l |
3=1 |
+ (xik—Xk)(xiq—xq)bq], |
|
(5.3.6a) |
|||||
которое |
примет |
вид |
|
|
|
|
||||||||||
|
|
|
g-i |
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(I — bq){xTx}hq= |
|
2 |
{ХГ Х}^(&; - — |
bj), |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
j = |
1 |
|
|
|
(5.3.7) |
|
|
|
|
|
|
|
Ä = 1 , |
|
g — 1 , |
|
|
|
|
|||
если ввести |
обозначение |
i=l2(^1? — xp){xtq—xq) |
|
= |
{xTx}pq. |
350 Глава 5
|
Так |
как |
( х г х ) ~ х |
= |
с |
является обратной |
матрицей |
для |
( х т х ) , |
|||||||||
имеем |
|
|
п |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 { x r x } f t j |
{ ( х ^ ) - 1 } ^ |
= |
оы, |
к, |
1 = |
1, . . . , |
q, |
|
|
||||||
|
|
|
j =i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
где |
ôhi |
= |
0, |
если |
к Ф |
I, |
и |
|
ôht |
= |
I, |
если |
к |
= |
I. |
Соотноше |
||
ние |
(5.3.7) |
умножим |
справа на {(xTx)~1}hi |
= |
скг; |
суммируя |
полу |
|||||||||||
ченное |
выражение по |
к |
от |
1 до |
q — 1 , |
получим |
|
|
|
|||||||||
|
|
|
|
9-1 |
|
|
|
|
g-1 |
|
|
q - i |
|
|
|
|
|
|
|
|
il — bq) S |
{ x T x } q f e C f t Z |
= |
S |
(bj — bj) S |
|
{xTx}jhChl, |
|
|||||||||
|
|
|
|
h=l |
|
|
|
|
3=1 |
|
|
ft=l |
|
|
|
|
|
|
|
|
|
|
|
|
|
Z = |
l |
, . . . , |
g, |
|
|
|
|
|
|
||
или |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(S — bq) |
[oqi — {xT x}g e c„l = |
|
9-1 |
|
— b*) [ад — |
|
{xTx}jqcqi], |
|
|||||||||
|
|
S |
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
;'=i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Z = l , |
|
|
q- |
|
|
|
|
(5.3.8) |
При Z = q соотношение (5.3.8) переходит в
9-1
|
( 5 - 6 , ) |
[l-{xTx}qqcqq] |
|
|
|
= - c q q |
S |
(bj-bf) |
{xTx}jq. |
|
(5.3.9a) |
|||||
|
l Ф q соотношение |
|
|
|
|
3=1 |
|
|
|
|
||||||
При |
(5.3.8) |
принимает |
вид |
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
9-1 |
|
|
|
|
|
(î—bq)[ |
— {xTx}qqcqi] |
|
= bj — b* — cql S |
|
(bj — |
b*){xTx}jq, |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
3=1 |
|
|
|
|
|
|
|
|
|
|
|
|
1 = 1, |
. .., |
q — 1. |
|
|
|
(5.3.96) |
||
Соотношение |
(5.3.9a) |
позволяет исключить |
сумму по / из соотно |
|||||||||||||
шения |
(5.3.96), что дает |
|
искомую |
связь |
между Ь* и |
Ь: |
||||||||||
|
|
|
Ь? = bl |
— (bq |
— l)^SL. |
1=1, |
|
1 . |
|
(5.3.2а) |
||||||
|
|
|
|
|
|
|
|
|
Cqq |
|
|
|
|
|
|
|
Перейдем теперь к установлению связи между |
компонентами |
|||||||||||||||
матриц |
( х * г х * ) - 1 |
и |
( х т |
х ) _ 1 . |
Если |
систему уравнений (5.3.6) |
||||||||||
формально разрешить относительно коэффициентов |
Ь%, то получим |
|||||||||||||||
|
|
|
|
9 — 1 |
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
bk = SChi S (Xij — X]) lYt — (Ziq — |
Xq)], |
|
|||||||||||
|
|
|
|
3=1 |
|
i=l |
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
Ä = l |
, |
|
q — l, |
|
|
(5.3.10) |
||
где |
Chj — элементы |
матрицы, |
обратной |
(q—1) X |
(q—1)-матрице |
|||||||||||
( х * т х * ) . |
Подобное |
решение уравнений |
(5.3.5) для bu дает |
|||||||||||||
|
|
|
|
q |
|
|
п |
|
|
|
|
|
|
|
|
|
|
|
|
bh= |
S |
Ch] |
S |
|
{xij—Xj) |
Yt, |
k = |
l , . . . , q . |
(5.3.11) |
||||
|
|
|
|
3=1 |
|
|
i=l |
|
|
|
|
|
|
|
|