Файл: Сирл, С. Матричная алгебра в экономике.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 16.10.2024

Просмотров: 162

Скачиваний: 1

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

б ) М О Д Е Л Ь С П О С Т О Я Н Н Ы М Ч Л Е Н О М

В выражении (1) модель была представлена как yt = b0 + btXi + + sit где Ь0 — отрезок оси координат. Снова символом Ь0 обозначим отрезок, отсекаемый на координатной оси, для того, чтобы отличить его от коэффициентов blt b2, ..., bh при переменных х. Модель с пересе­ чением для множественной регрессии имеет вид:

Уь = Ь0 + b1x il + ... + bkxik + ei.

 

 

Как и раньше, введем искусственную переменную xi0 = 1

для

всех

i — 1, 2, ..., п, после чего модель может быть записана как

 

 

Уь = boxi0 + b1xil + ... + bhxih + eh

 

(8)

В матричном сбозначении она записывается как

 

 

у = х*Ь* + е,

,

(9)

где у и е имеют то же содержание, что и ранее, и где X* есть матрица X, дополненная первым столбцом, состоящим из единиц, а Ь* — век­ тор Ь, дополненный Ь0 в качестве первого элемента. Введем теперь символ 1 для обозначения вектора размером п, чьи элементы суть единицы, т. е.

V =-- [1 1 1...1].

Тогда X* и Ь* могут быть записаны как

X* = [1 X] и Ь*' = [Ь0 Ь'].

(10)

Теперь, несмотря на изменения в формулировке, модель (9) имеет точно такой же вид, что и (6), и, следовательно, вектор оценок полу­ чается способом наименьших квадратов, как и ранее1 (7), в виде

Ь* = ( Х * ' Х * ) - ! Х*'у.

Пример. Пусть параметры модели

Уi = Ь0 Ьx*ji + b2xi2 + Si

должны быть оценены на основе следующих шести совокупностей наб­ людений:

1 Уг ха

1 10 1 0

2 17 4 6

3 13 2 4

4 14 2 3

5 12 1 1

6 15 3 5

Действительно, дополнение X единичным первым столбцом увеличивает столбцовый ранг матрицы X на 1 для любой регрессии и не оказывает влияния

на”существование (Х 'Х ) -1 и Ь.

268


Тогда

 

 

 

1

1

0

 

1

4

6

 

1

2

4

bi

1

2

3

1

1

1

h

1

3

5

 

Отсюда следует,

что

 

 

 

 

В* = (Х*' X*)-1 X*' у = ——

129

— 105

37- '

105

161

—77

189

'

112

37

—77

41

283

 

 

1075

112

133

112

47

112

3. СВОЙСТВА ОЦЕНОК, НАЙДЕННЫХ СПОСОБОМ НАИМЕНЬШИХ КВАДРАТОВ

а) ДОПУЩЕНИЯ

( П )

( 12)

Мы уже видели, что когда уравнение записано как у = Xb -f- е, то вне зависимости от того, представляет ли оно модель без пересече­ ния или с пересечением, оценка b способом наименьших квадратов

есть b = (Х 'Х )~1 Х'у. Свойства этой оценки определяются допуще­ ниями, сделанными относительно элементов е.

Как уже упоминалось, часто предполагается, что элементы е яв­ ляются случайной выборкой из распределения, имеющего математи­ ческое ожидание, равное нулю, дисперсию а2 и нулевую ковариацию двух элементов. Введя Е для обозначения математического ожидания, получим Е (et) = 0, Е (е?) = о2 для всех i и Е (е,е7-) = 0 для i Ф /. Используя вектор е, получим:]

Е (е) = 0,

(13)

тогда ковариационная матрица элементов е (см. параграф 6 главы III) равна

var (ё) = Е [е Е (е)] Е (ё)У — Е (её) = о2 /.

(14)

2 6 9



Эти допущения относительно элементов е дают нам возможность

найти ожидаемые значения и дисперсию Ь, а также оценку о2. Как будет показано в параграфе 4 этой главы, для того чтобы рассмотреть

критерии существенности, относящиеся к в, нам необходимы дополни­ тельные предположения о точной форме распределения вероятностей элементов е.

б) ОЖИДАЕМЫЕ ЗНАЧЕНИЯ И ДИСПЕРСИИ

Ожидаемое значение у есть ХЬ\ так как при у = ХЬ А- е математи­ ческое ожидание у равно Е (у) = Е (Xb + е) = Xb + Е (ё) и поскольку Е (е) =; 0, то

Е (у) = ХЬ.

(15)

Оценка будет несмещенной, если ее математическое ожидание равно оцениваемому параметру. Оценка b несмещенная, так как К (Ь) = Ъ.

Поскольку Ъ = (Х'Х) 1 Х'у, то, используя выражение (15)

для

Е (у), получим

 

Е (Ь)= Е [(Х'Х)-1 Х'г/] = (Х 'Х )'1 Х'Е (у) = (Х'Х)-1 Х 'Х Ь ^Ь .

(16)

Мы покажем теперь, что ковариационная матрица Ъравна (Х 'Х )-^2.. По определению ковариационная матрица Ь равна:

var ( Ь )Е [S— E (Ь)]

f 6— Е ( Ь ) \'= Е (6— b) (b— Ь)'.

Теперь, поскольку у = ХЬ +

е, получим

 

 

Ь Ь = (Х'Х)-1 X' (ХЬ + е) — Ъ = (Х'Х)-1 Х'е,

 

 

поэтому

 

 

 

var (в) = ЕЦХ'Х)-1 X' ее'X (Х'Х)-1] = (Х'Х)-1

Х'Е (ее') X

X X (Х'Х)-1 = (Х'Х)-1 Х'оЧХ (Х 'Х )-1 = (Х'Х)-1

о2. (17)

Таким образом, обратная матрица (Х'Х)-1, взятая

для

получения

Ь, определяет также дисперсии и ковариации элементов Ь1 ; дисперсии и ковариации, необходимые для испытания существенности, рассмат­ риваются в параграфе 4 данной главы.

в) ОЦЕНИВАНИЕ ДИСПЕРСИИ ОШИБКИ

Сумма квадратных отклонений наблюдений переменных у от их оцененных значений была названа суммой квадратов ошибок:

SSE ^ Y (уi - у i f ^ {у~ у ) (у — у)=-ё’ ё.-

г= 1

1Оценки способом наименьших квадратов часто называются наилучшими несмещенными линейными оценками. Они линейны относительно переменных у (см. (7)) и являются несмещенными (см. (16)) и наилучшими в том смысле, что, как это можно показать, имеют наименьшую дисперсию любой оценки.

270


Обычная расчетная форма получается заменой у на ХЬ, что дает

SSE = {у — ХЬ)' (у ХЬ) ~ у ' у — 2Ь' Х'у-\-

Ь’ Х 'Х Ь

и

 

SSE —у' у —2 b' Х ' у Х b' (X' у),

 

поскольку Х'Хв = Х'у (нормальные уравнения). Отсюда

^SSE = у ' у - У Х'у.

(18)

Этот результат оказывается полезным, так как у'у есть общая сумма

квадратов наблюдений у и Ъ'X' у есть сумма

произведений элементов

вектора Ь на правые стороны нормальных

уравнений

Х ’Хв = Х'у,

на основе которых получают Ь.

 

 

Другая полезная для

расчета SSE форма получается при замене

£ в (18) на (Х'Х)-1 Х'у.

Тогда

 

 

SSE =

у' [I — X (Х'Х)-1

Х'1 у,

(19)

где матрица [/ — X (Х'Х)-1 X'] является идемпотентной (см. раздел б параграфа 3 главы VTI), т,- е.

[I — X (Х'Х)-1 Х '\2 = I — X (Х'Х)-1 X'.

(20)

Величина SSE, полученная по (19), такова, что она дает несме­ щенную оценку о2 — дисперсии случайной ошибки модели. Введя у = ХЬ + е в (19), получим

SSE = (Ь’Х' +

е') [I — X {Х'Х)-1 X'\

{ХЬ + ё), ■ „

а поскольку X' [I X

(Х'Х)-1 X'] равно нулю,

то

SSE =

е' II — X (Х'Х)-1 X')] е.

Отсюда можно показать1, что при var (а) — ст2/

V

Е (SSE) = {п k) о2.

 

Следовательно,

S S F

'

 

(21)

 

о2— — —

п k

есть несмещенная оценка о2, где п — число наблюдений и k — число переменных х.

г) МОДЕЛЬ СО СВОБОДНЫМ ЧЛЕНОМ

Полученные результаты за одним исключением (21) применимы к модели у = ХЬ + е вне зависимости от того, имеет она или не имеет свободного члена. Однако в первом случае некоторые результаты, имею-

1Поскольку

е — вектор случайных переменных,

у которых

Е (ё) — 0 и

Е{ее')= а2/, то,

согласно теореме Грейбилла, получим

Е (е'Ае) ~

га2, причем

Л2= А и ранг матрицы А равен г (см. параграф 3 главы XIII).

 

271