Файл: Химмельблау Д. Анализ процессов статистическими методами.pdf

Глава 7

ОП Р Е Д Е Л Е Н И Е Н А И Л У Ч Ш Е Й МОДЕЛИ

Вгл. 4—6 основное внимание уделялось технике получения точечных и интервальных оценок параметров и проверке гипотездля данной эмпирической модели. В этой главе рассматривается вопрос о том, как из нескольких возможных моделей выбрать наилучшую, наиболее подходящую модель, так как именно этот вопрос для исследователя является главным. Например, если требуется осуществить подгонку полинома по некоторым экспе­ риментальным данным просто для того, чтобы использовать эти данные в машинной программе в виде функции (а не в виде таблиц), естественно задать вопрос, сколько нужно взять членов в поли­ номе. В других случаях эмпирическая модель содержит слишком много независимых переменных и тогда исследователю важно выделить наиболее существенные переменные и устранить измодели остальные менее важные переменные. В гл. 8 описывается взаимная связь между планированием экспериментов, построением моделей и процедурой оценивания; здесь же будет показано, как нужно анализировать данные о некотором процессе, полученные, возможно, в неспланированном эксперименте, когда решение провести анализ и оценивание было принято уже после завершения эксперимента. Обсуждение же методов экспериментирования^ позволяющих эффективно различить модели, пока отложим до разд. 8.5.

Итак, цель состоит в том, чтобы выбрать наилучшую из нескольких возможных или предполагаемых моделей. Для линей­ ных моделей, описанных в гл. 5, неразумно с помощью вычисли­ тельной машины рассчитывать все возможные уравнения регрессии, полученные исключением из модели или добавлением последова­ тельных групп переменных, даже если пренебречь возможными нелинейными преобразованиями. Вместо этого исследователь рабо­ тает с ограниченным числом различных моделей и выбирает наилучшую среди них, используя один или несколько системати­ ческих методов. В качестве критериев, позволяющих сделать этот выбор, обычно используются по отдельности или в некоторой комбинации следующие:

1. Наименьшее число коэффициентов, совместимое с разумной ошибкой.

2.Простейшая форма, совместимая с разумной ошибкой.

3.Разумные физические основания («вытекает из некоторого закона»).

4.Минимальная сумма квадратов отклонений между предска­

занными и эмпирическими значениями.

5. Минимальная дисперсия s\t (sy. не является несмещенной

оценкой дисперсии, ибо содержит некоторую систематическую составляющую, которая возникает из-за различия между истин­ ной функцией и ее оценкой; см. разд. 5.2.2).

Чтобы уметь строить подходящую модель, прежде всего следует ознакомиться с анализом остатков, который является первым этапом в любой программе оценивания моделей. Затем будет описан шаговый регрессионный метод для линейных моде­ лей, представляющий собой систематический метод оценивания, при котором одновременно выделяются существенные независи­ мые переменные. Наконец, будут рассмотрены некоторые крнте

7.1. А Н А Л И З О С Т А Т К О В

В разд. 4.3 и 5.3 использовался дисперсионный анализ для того, чтобы установить, адекватно ли некоторая линейная модель описывает экспериментальные данные. Однако критерий отноше­ ния дисперсий, при котором проверяется, превышает ли отноше­ ние дисперсий sj/sl величину F^a, показывает лишь то, что под­ гонка модели в целом является удовлетворительной. Но даже если модель удовлетворяет .//-критерию, все еще могут иметь место существенные расхождения. Такого рода расхождения часто можно заметить с помощью анализа остатков, т. е. исследуя набор отклонений между экспериментальными и предсказанными значениями зависимой переменной, У,- — Yt = Et.

В регрессионном анализе, как уже отмечалось, используется ряд основных предположений, таких, как независимость нена­ блюдаемых ошибок 8 , постоянство дисперсии и нормальный закон распределения для е. Если модель адекватно описывает данные, то остатки должны обладать такими характеристиками, которые согласуются или по крайней мере не противоречат исходным основным предположениям. Таким образом, анализ остатков является некоторым способом проверки того, что_ то или иное предположение, лежащее в основе регрессионного анализа, не нарушено. Например, если модель подогнана хорошо, остатки должны быть случайным образом распределены относительно значений Y, предсказываемых уравнением регрессии. Систематиче­ ские отклонения от закона случайности указывают на то, что

Определение наилучшей модели 455

модель неудовлетворительна; исследование диаграмм, построен­ ных для остатков, может дать ключ к тому, как улучшить модель.

Графики зависимости остатков от Yt, xt или времени или график распределения остатков по величине предлагалось исполь­

ности модели следует помнить о том, что по мере того, как все новые независимые переменные вводятся в эту модель, остатки

'• становятся все менее информативными. Каждый остаток пред­ ставляет собой по существу некоторое взвешенное среднее оши­ бок в; чем больше несущественных независимых переменных х добавляется к модели, тем более похожими друг на друга становят­ ся остатки.

Проводя анализ остатков, исследователь быстро обнаружит, что графическое представление остатков значительно облегчает принятие решения, ибо единственное отклонение, например одно резко выделяющееся значение, может воздействовать сразу на несколько численных критериев.

Пример 7.1.1. Анализ остатков

Были получены имитированные данные для следующей модели:

нормальному закону с математическим ожиданием, равным нулю, и дисперсией, равной 1. Заметим, что модель линейна, а повторные

указывают порядок, в котором вычислялись эти значения. Каждой ячейке соответствует некоторый остаток.

большее чем 10), то новый дисперсионный анализ покажет, что пере­ менная х2 не является значимой (табл. П.7.1.1в). Средний квадрат

для остатков s2, все еще будет близок к единице, а оценка уравне­ ния регрессии будет иметь вид Y = 10,32 + 0,39^!. На фигу­ ре П.7.1.1а показан график остатков, построенный с помощью этого уравнения. Точка в кружке представляет собой выброс.

то экспериментальные условия, при которых проводилось это