Файл: Сирл, С. Матричная алгебра в экономике.pdf

ных линейных уравнений дает величины Ь0 и Ъъ которые приводят к минимуму*

So ^Q & /i — Si2>si) /tt-

Пример. Пусть наблюдения переменных дали следующие резуль­

таты:

Таблица 1

Данные для примера

*Нахождение частных производных (и решение соответствующих уравнений)

предполагается условиями первого порядка (необходимыми условиями) опреде­ ления минимума. Можно показать, что решение этой системы удовлетворяет

также условиям второго порядка. — П р и м , п е р е в .

263

. Система нормальных уравнений записывается как

10,00 Ъ0 + 49,30 Ъг ='25,00,

49,30 Ь0 + 251,03 7?! = 116,54.

Ее решение: Ь0 = 6,65 и Ьх = — 0,841. Таким образом, оценка на­ шей модели, полученная способом наименьших квадратов, имеет сле­ дующий вид:

г/г = 6,65—0,841 х п .

Если эта модель справедлива, то мы можем заключить, что не ожи­

чина известна как отрезок координатной оси. Он характеризует ожи­ даемое по модели значение у и'когда хг равен нулю. Такая модель со­ ответственно называется моделью с постоянным членом (с пересечением оси координат), и наоборот, модель без постоянного члена такова, что

Как уже отмечалось, в модели с пересечением отрезок Ь0 оцени­ вается при условии, что xi0 — 1для i = 1, 2, ..., п, т. е. при равенстве искусственной первой переменной единице в каждом наблюдении. В мо­ дели без постоянного члена необходимость в такой переменной отсут­ ствует и она не включается в процедуру оценки. Единственная исполь­ зованная переменная — это та, которая действительно наблюдается.

Рассмотренная в предыдущих уравнениях взаимосвязь линейна от­ носительно х, а анализ, который мы должны описать, называют до сих пор регрессионным анализом. Последний более точно называется

линейным регрессионньш анализом или (для случая с более чем одной независимой переменной) множественным линейным регрессионным анализом. Хотя предположение о линейности является обычным (эта форма взаимосвязи и обсуждается здесь), иногда рассматриваемая фак­ тическая взаимосвязь между переменными может и не быть линейной. Однако и нелинейные функции, линейные относительно параметров, которые должны быть оценены, могут быть изучены с помощью линей­ ного регрессионного анализа. Таким образом, Е (у) = Ьгх{ + Ъ2х% не может изучаться с помощью линейной регрессии, если должны быть оценены неизвестные параметры р и q, но если они известны, то Е (у) есть линейная функция переменных хр и xf и, следовательно, могут быть оценены Ь1и Ь2. Подобно этому уравнение Е (у) = btx + Ьгх2 + + Ь3х 3 не является линейным в переменных х, но оно линейно отно­ сительно трех переменных х, х2 и х3. В других случаях нелинейные функции иногда могут быть преобразованы в линейные относительно

2 6 4

трансформированных.переменных. Например, 1Челтцер [7] определил совокупный спрос на деньги как М = ara JKK где М — спрос на деньги; г — уровень процента; W — мера богатства страны; а и р — параметры, которые должны быть оценены. Прологарифмировав это выражение, он получил уравнение:

log М =- log a -f a log г + |3 log W,

которое линейно в логарифмах исходных переменных и, следователь­ но, имеет форму, пригодную для линейного регрессионного анализа*.

2. МНОЖЕСТВЕННАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ: k НЕЗАВИСИМЫХ ПЕРЕМЕННЫХ

Процедура оценивания коэффициентов при более чем у двух (ска­ жем, k) переменных х является' непосредственным обобщением про­ цедуры, рассмотренной в предыдущем параграфе.

а) МОДЕЛЬ БЕЗ ПОСТОЯННОГО ЧЛЕНА

Уравнение для такой модели имеет вид:

т = Ьхх п + b2xi2 + ... + bkxih +

для i = 1, 2, ..., n наблюдений. Как и прежде, эти уравнения могут быть записаны в виде матричного уравнения

где у' = 1у х у 2... уп], Ь' = [Ьх Ъ2... bk],

Как и раньше, нам необходимо найти способом наименьших квадратов оценки элементов вектора Ь. Если они представлены вектором Ь'= = [ЬХ Ь2 ... bh], то соответствующая оценка вектора у составит:

У-^ХЬ,

*Вообще говоря, операция логарифмирования для приведения к линейно­ му виду не настолько безобидна, как это кажется на первый взгляд. В работе Е. 3. Демиденко «Оценка параметров в нелинейной регрессии» (сб. «Проблемы экономического моделирования», М., ИМЭМО, 1972) показано, к какому смеще­ нию в оценках приводит подобная операция. — Прим, перев.

2 6 5

и вектор оцененных ошибок равен

е=--у~у = у — ХЬ.

Сумма квадратов этих ошибок при условии, что у'ХЬ --= В'Х'у, составляет величину

SSE г= V е2 v е' е — (у—хЪ)' (у—XЪ) —

i ~ 1

= (у' — в'Х') {у— ХЬ) =-у ' у — 2V Х ' у + b' X' ХЪ.

Вектор Ь определяется минимизацией е' е, т. е. при сведении к ми­ нимуму у'у — 2 Ь’Х ’у -f- Ь'Х’ХЬ путем приравнивания к нулю част­

ных производных относительно элементов b. С помощью вектора дифференциальных операторов1 получим

д('е’ е) = — 2Х'у + 2Х'ХЬ = 0.

дЬ

Эти уравнения, эквивалентные Х'ХЬ = Х'у, представляют собой нормальные уравнения для множественной регрессии. Предполагается, что существует матрица (Х'Х)~г. Тогда решением этих уравнений будет

в которых b суть оценка вектора Ь, полученная способом наименьших квадратов.

Произведение Х ’Х дает квадратную и симметрическую (это сле­ дует из существа матрицы X) матрицу сумм квадратов и попарных произведений п наблюдений переменных х:

В свою очередь Х'у есть вектор сумм произведений наблюдений пере­ менных х и у:

1 х а yt

Х ' у = 2.ХцУ1 ■

_ 2 x ihy t _

Таким образом, вектор оценок Ь = (Х'Х)~1Х'у равен вектору сумм произведений переменных х и у, умноженному слева на обратную матрицу сумм квадратов и произведений переменных х.

1См. параграф 5 главы XIII.

2 6 6

Пример. Предположим, у нас имеется пять следующих совокуп­ ностей наблюдений для модели без постоянного члена: y t = ЬгХц +

+ b2Xi2 b3Xi3 -f- еу.

267