Файл: Химмельблау Д. Анализ процессов статистическими методами.pdf

Ф и 1?, П,7.1.1д,

ственно отличается от дисперсии при остальных значениях этой переменной.

делены, по-видимому, по нормальному закону. График зависимо­ сти относительной частоты от величины остатка будет иметь вид известной колоколообразной кривой, симметричной относи­ тельно нуля; его также можно использовать для обнаружения выбросов.

На фиг. П.7.1.1д изображен график зависимости остатков, вычисленных с помощью уравнения (а), от предсказанного откли­ ка Y. Никаких аномалий не обнаружено, за исключением, быть может, остатка, равного 1,80. На графиках типа фиг. П.7.1.ІД можно заметить такие особенности, как: 1) систематические откло­ нения от оценки уравнения регрессии (из-за неадекватности моде­ ли) или 2) непостоянство дисперсии.

7.2. ШАГОВАЯ Р Е Г Р Е С С И Я

Шаговый регрессионный метод состоит в последовательном включении [и (или) исключении] некоторой переменной в перво­ начальную линейную модель и проведении на каждом этапе про­ верки с целью определения, является ли добавляемая переменная значимой. По причинам, изложенным в разд. 5.3, эта процедура наиболее эффективна в том случае, когда независимые переменные

этапе вычислений принимается решение прекратить расчеты и огра­ ничиться данным уравнением регрессии или перейти к новому этапу и заменить данное уравнение регрессии на некоторое новое. Начиная построение модели с некоторого исходного уравнения и используя ортогональные независимые переменные, получают единственную окончательную модель, удовлетворяющую некото­ рому заранее выбранному критерию согласия. При использовании неортогональных переменных различные исходные модели могут привести к различным окончательным уравнениям; следователь­ но, может получиться несколько адекватных моделей. Однако каждое из этих окончательных уравнений является локально оптимальным в том смысле, что оно «лучше» остальных, под­ вергшихся проверке

Эфроимсон [7] описал метод включения, или «прямой метод», при котором каждая из независимых переменных (и соответ­ ствующие параметры) поочередно вводится в модель. На каждом этапе к модели добавляется та независимая переменная, которая вызывает наибольшее уменьшение суммы квадратов остатков, при условии, что это уменьшение является значимым. По существу тот же самый алгоритм можно использовать для того, чтобы поочередно исключать независимые переменные из полной модели (метод исключения, или «обратный метод»), если последующее введение другой переменной делает некоторую переменную модели незначимой. Несколько вариантов алгоритма Эфроимсона исполь­ зуется в машинных программах [8, 9].

Принимая на каждом этапе решение, какую из независимых переменных ввести в модель, используют частный коэффициент

Из плотности двумерного нормального распределения вероятно­ сти, полученной в примере 2.3.4, интегрируя по Х3, можно найти условную плотность распределения вероятности

Подобные формулы можно получить для ( Х 2 | Х 3 ) , и они будут использованы ниже.

может существовать только в силу того, что обе эти переменные

хх3 î

соответствующих коэффициентов корреляции по ансамблю исполь­ зовать их оценки по некоторой выборке. Хотя формулу (7.2.10) можно распространить на более общий случай, когда вычисляется частный коэффициент корреляции между двумя переменными, из которых исключено влияние нескольких других переменных, однако простейший способ получения оценки частного коэффи­ циента корреляции между Y и одной из многих переменных х,

466 Глава 7

регрессии. В типичной машипной программе используется неко­ торый список переменных, включаемых в модель в предполагаемой последовательности, и (или) выбирается из полного списка пере­

можно добавить вторую переменную, которая имеет наибольший частный коэффициент корреляции среди оставшихся переменных, и т. д. Чтобы установить, является ли добавляемая переменная значимой, можно использовать различные критерии значимости. Однако, как правило, применяется или критерий отношения дис­

число членов, связанных корреляцией. Если имеет место корре­ ляция между Y и одной из переменных xj, то ѵ = п — 2; если при этом одна переменная xh была уже включена в модель, то v = п — 3 и т. д. Таким образом, статистика t имеет вид

PYXi-Хг,

K l - P y v * Ä ) / v ] 1 / 2

Переменная, однажды включенная в модель, позднее может быть исключена из нее, если не будет больше давать значимый вклад в сумму квадратов.

Пример 7.2.1. Шаговая регрессия

Шаговая регрессионная процедура использовалась для опре­ деления членов в модели, описывающей работу шприц-машины (экструдера), которая устанавливает связь между напряжением

На первом этапе анализа, используя поочередно каждый отдельный член в качестве модели, получили следующее умень­ шение суммы квадратов:

Поскольку частный коэффициент корреляции для х3 оказался наибольшим, хг стала главной переменной. Значимость члена, содержащего х3, проверялась, согласно ^-критерию, с использо­ ванием формулы (7.2.12):

для оставшихся двух членов были вычислены заново в предполо­