Файл: Сирл, С. Матричная алгебра в экономике.pdf

щие отношение к свободному члену, могут быть получены непосредст­

венно, а не как часть вектора Ь. Таким образом, записав модель со свободным членом как у = Х*Ь* + е, мы определим X* и Ь* в (10)

через X и Ь. Выражение оценок Ь* = (Х*'Х*)-1 Х*'у через X и использование Ъ = (Х'Х)-1 Х'у приводят к непосредственному опре­ делению свободного члена Ь0и, что более важно, к определению вектора

Ъ, независимого от свободного члена. Эти результаты важны, посколь­ ку они представляют собой подходы, используемые в большинстве программ регрессионного анализа, реализуемых на ЭВМ.

Здесь мы просто констатируем эти результаты; что касается выводов, то их можно сделать, выполнив упражнение 11. Прежде всего опреде­

лим у как среднюю арифметическую на блюдений у и введем вектор средних наблюдений w:

вектора w, определенного в (22), следует, что nww' есть матрица, чьи элементы представляют собой поправочные коэффициенты для сумм квадратов и произведений переменных х, которые являются элементами матрицы Х'Х . Отсюда Х 'Х — nww' есть матрица скорректированных сумм квадратов и произведений переменных х. Аналогично этому Х'у —

— nyw есть вектор скорректированных произведений переменных хи у. Таким образом, (23) и (24) представляют собой точно такие же формы,

чтоб = (X' X)"1 Х'у и var (b) = (Х'Х)-1 ст2, полученные в (7) и (17). Отличие заключается лишь в применении скорректированных сумм квадратов и произведений вместо нескорректированных этих величин. Аналогично этому (29) — точно такая же форма, что и SSE = у'у —

—Ь'Х'у в (18), в которой использованы скорректированные величины.

' 272

регрессии, а также сумму квадратов ошибок SSE. В случае, если нет свободного члена, Х 'Х .и Х'у представляют собой нескорректи­ рованные суммы квадратов и произведений, тогда как при наличйи свободного члена они будут скорректированными суммами.

Оценивая с помощью (18) или (29) о2 для модели со свободным чле­ ном, мы должны внести поправку в уравнение (21), которое применимо для модели без свободного члена. Модель о свободным членом можно представить, введя искусственную переменную x i0 в (8), как модель без свободного члена с k + 1 переменной. Следовательно, для модели со свободным членом, определяя SSE с помощью (18) или (29), можно записать

Пример (продолжение). В (12) Ь* было найдено непосредственно

как (Х*'Х*)-1 Х *’у. Теперь определим элементы Ь0 и b этого вектора с помощью только что рассмотренных формул. Для имеющихся данных получим

273

и и з (2 6 ) и (3 3 ) — ч т о

Эти значения корреспондируют значению Ь*, полученному в (12). Аналогично на основе (27) и (31) имеем

и с помощью (28) и (31) получим

в (И).

Наконец, из (29) при условии (33) и (32) следует, что

274

и, таким образом, на основе (30) получим

4. КРИТЕРИИ СУЩЕСТВЕННОСТИ

До сих пор единственное допущение, которое было сделано относи­ тельно члена модели, характеризующего ошибку, заключалось в том, что они случайные и имеют некоторое распределение с Е (е) = 0 и Е (ее') = о2/; допущение о точной форме распределения принято не было. Если правдоподобно полагать, что это распределение нормаль­ ное, т. е. что ошибки нормально распределены, имеют нулевую среднюю и ковариационную матрицу а2/, то можно осуществить проверку суще­ ственности, тесно связанную с регрессионным анализом.

а) АДЕКВАТНОСТЬ МОДЕЛИ

Уравнения (6), (13) и (14) образуют вместе модель, которую мы рас­ сматривали до сих пор. Можно задать следующий вопрос, получая

оценки Ь на основе (7) или (23) и (26): насколько адекватна эта модель самим данным? Поскольку оценки Ь дают возможность оценить (или

предсказать) значения зависимой переменной, а именно у = ХЬ, то на этот вопрос можно ответить с помощью статистики, измеряющей взаимосвязь между наблюдениями переменных у и предсказанными их значениями. Коэффициент корреляции, иногда называемый коэфг

R2, называемым коэффициентом детерминации. Он измеряетдолю общей дисперсии значений у, которая объясняется подобранной мо­ делью.

Так как R есть мера взаимосвязи, то коэффициент детерминации R 2 всегда находится между нулем и единицей. Чем ближе он к единице, тем лучше модель объясняет данные. Ддя испытания существенности модели может быть применено испытание, основанное на величине S2 и

свободным членом содержится в параграфе 9.10 книги Сирла [10J. Величины Е, показанные в табл. 2, имеют Е-распределение с ука­ занными там же числами степеней свободы (D. F.). Они и представ­

ляют собой критерии адекватности изучаемых моделей.

'См., например, [2, с. 109].

2 7 5

Т а б л и ц а 2

R 2 и F для регрессионной модели с п наборами наблюдений и k независимыми переменными х

б) ДИСПЕРСИОННЫЙ АНАЛИЗ

Расчет F-критериев обычно обобщается в таблице дисперсионного анализа.

Сумма квадратов наблюденных значений у есть у'у, а скорректиро­

ванная сумма квадратов равна у'у — пу2. С этими обозначениями со­ ответственно запишем общую сумму квадратов (SST*) для двух видов модели:

иSST = у'у — пу2 для модели со свободным членом.

TenepbSSF= 2 (yt—г/,)2 есть сумма квадратов отклонений наблю­ денных у от их предсказанных значений. Поэтому разность между

SST и SSE, а именно SSR**

SSR = SST — SSE

представляет собой ту часть SST, которая относится к подобной регрес­ сии. Применяя (36) для SST и величину SSE, показанную в табл, 2, находим

и SSR=fr' (Х'у—nyw) для модели со свободным членом. Величина SSR обычно называется суммой квадратов, объясняемой регрессией. Эта сумма относится ко всей модели без свободного члена; в модели со свободным членом она связывается с регрессией на пере­ менные х (исключая влияние средней).

Расчленение таким путем SST на две части (SSR и SSE) — ос­ новной процесс 'дисперсионного анализа. Обычно этот процесс обоб­

* SST — total sum of squares. — Прим, перев.

**SSR— sum of squares due to regression.— Прим, перев.

2 7 6