Файл: Химмельблау Д. Анализ процессов статистическими методами.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 09.04.2024

Просмотров: 745

Скачиваний: 2

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

Таблица П.6.2.1

Р е з у л ь т а т ы нелинейного оценивания методом прямого поиска по имитированным данным

д ля модели ті = а ж і Р і а ? 2 ^ 2

Прямой поиск. Начальные приближенные оценки I :

а = 0,05

Ьі = 4,0 . Ь2 = 0,7

а

ъ2

Минимальное

значение

в ы р а ж е н и я

(а)

Число

шагов

 

 

 

а

 

 

 

 

h

 

 

 

 

h

 

 

 

 

Минимальное

значение

выражения

(б)

Число

шагов

 

 

 

а

 

 

 

 

Ьі

 

 

 

 

ь2

Минимальное значение в ы р а ж е н и я (в) Число шагов

Л и н е й н ы й регрессионный анализ

а

Ъі

ь2

 

Величина ошибки, вводимой в значения Y

 

нет

±0,1%

 

±1%

± ю %

Ѵаг {Y} = 10

Ѵаг {У} = 100

0,999

0,988

'

0,886

0,273

1,232

5,543

3,000

3,004

 

3,047

3,516

2,907

2,229

0,500

0,502

 

0,521

0,714

0,485

0,397

4 , 8 - Ю - 3

2,15

 

214,-3

2 . 1 - Ю 5

760,9

7,8-105

418

370

 

310

161

468

489

0,999

0,996

 

0,930

0,628

0,716

19,704

3,000

3,001

 

3,026

3,159

3,107

1,701

0,500

0,501

 

0,518

0,629

0,608

0,244

1,7-10-'

7,7-10-е

 

9,4-10-4

7.2- Ю " 2

4,5-10-2

1,99

143

150

 

167

215

280

231

1,002

0,996

 

0,931

0,651

0,699

 

2,999

3,001

 

3,025

3,142

3,115

 

0,500

0,501

 

0,517

0,617

0,610

 

3,2-10-7

7,7.10-«.

 

9,4-10-4

7 , 7 - Ю - 2

4,4-10-2

 

142

170

 

157

120

105

 

1,000

0,996

 

0,931

0,652

0,695

 

3,000

3,001

 

3,026

3,143

3,118

 

0,500

0,501

 

0,618

0,618

0,612

 

I

1 1


 

 

Прямой поиск.

 

1

 

1

1

1

1

 

 

 

 

 

Величина ошибки, вводимой в значения Y

 

Начальные приближенные оценки II :

 

 

 

 

 

 

 

 

 

а = 5,0

 

 

 

 

 

 

 

 

 

 

 

Ьі = 5,0

 

 

нет

±0,1%

±1%

 

±10%

Var {Y} = 10

Var {Y} = 100

 

 

Ь 2 = 5 , 0

 

 

 

 

 

 

 

 

 

а

 

 

 

 

0,998

0,973

0,889

 

0,276

1,231

5,640

Ьі

 

 

 

 

3,000

3,011

3,046

 

3,513

2,908

2,222

h

 

 

 

 

0,500

0,503

0,521

 

0,712

0,485

0,394

 

 

 

 

 

 

 

 

 

 

 

Минимальное

значение

выражения

(а)

3,5.10-2

4,42

214

 

2,1-105

761

7,78-105

Число

шагов

 

 

 

149

123

221

 

183

169

73

а

 

 

 

 

1,001

0,997

0,930

 

0,625

0,717

19,55

Ъі

 

 

 

 

2,999

3,000

3,026

 

3,162

3,106

1,704

Ъг

 

 

 

 

0,499

0,500

0,518

 

0,630

0,607

0,247

Минимальное

значение

выражения

(б)

4,1 - 10 - е

7,8-10-в

9,4-10-*

 

7,2-10-2

4,5-10-2

1,99

Число

шагов

 

 

 

105

70

127

 

114

80

94

а

 

 

 

 

0,999

0,995

0,931

 

0,651

0,694

 

Ьі

 

 

 

 

3,000

3,001

3,026

 

3,143

3,118

 

ъг

 

 

 

 

0,500

0,501

0,517

 

0,618

0,612

 

Минимальное

значение

выражения

(в)

9,2-10-8

7 , 7 - Ю - 6

9,5-10-*

 

7,7-10-2

4,4-10-2

 

Число

шагов

 

 

 

125

127

96

 

100

109

 


394

Глава 6

 

имитированных значений Yt

дисперсии,

равной 100, для одной

из величин Yi получилось отрицательное

значение, что не позво­

лило провести расчет для этого случая с

помощью критерия (в).

Можно заметить, что оценки параметров, полученные методом

прямого поиска с использованием критерия (в), по существу совпадают со значениями, которые дает применение к этой задаче метода линеаризации, хотя их вычисление требует, вообще говоря, большего времени. Так как перечисленные три критерия не являются тождественными, сравнение их, проведенное в этой таблице, показывает влияние выбора самого критерия. Если ненаблюдаемая ошибка е прибавляется к lg г|, то линейный метод наименьших квадратов дает желаемые оценки параметров. Однако если в действительности модель имеет вид Y = п + е, то оценки ее параметров могут весьма отличаться от. оценок, полученных из модели lg Y = lg и + е, особенно когда ошибки велики.

На фиг. П.6.2.1 показан процесс уточнения параметров для одного поиска. Заметим, что, хотя сумма квадратов остатков монотонно уменьшается, оценки параметров изменяются нерегу­ лярно. Помимо начальных значений, указанных в табл. П.6.2.1, испытывались и другие начальные точки, которые привели прак­ тически к тем же результатам как для оценок параметров, так и для суммы квадратов остатков. Однако выбор начальных оценок параметров далеко не так прост, как это может показаться. Неудачный выбор начальных значений может привести к «мас­

штабным» трудностям. Было замечено, что при выборе

исходных

значений для а, ß t и ß 2 , которые

дают крайне малые

начальные

значения Y,

программа поиска может вообще не работать. Напри­

мер, если

в

качестве исходных значений выбраны

соответственно

—5, —5 и —5, то сравнение нескольких

первых

имитированных

и предсказываемых значений Y показывает следующее несоот­

ветствие

(для данных

без учета

ошибок):

 

 

 

Имитированные

Данные для Y,

Отклонение

 

 

рассчитанные по

 

 

 

данные для Y

модели с а(0) =

в процентах

 

 

 

 

= ь<;> = ь<ѵ = - 5

 

 

 

 

 

0,48000-102

—0,2584-10-8

—0,1857-1013

 

 

 

0,61094-103

—0,19622-10-'

—0,3113-Юіз

 

 

 

0,12626-104

- 0 , 3 4 8 4 5 - 1 0 - е

—0,3623-1012

 

При таких обстоятельствах невозможно осуществить никаких пробных или рабочих шагов, ибо эффект любых изменений в пара­ метрах находится далеко за пределами значащих цифр в имитиро­ ванных данных для Y.


 

 

Число проведенного: шагов

 

Ф и г . П . 6 . 2 . 1 . Процесс

уточнения

параметров при прямом

поиске с начальными оценками а<°> = 0,050,

= 4,000 и М2 0 ) =

0,700 для

критерия (а). Ошибка распределена равномерно и равна ± 1 % .

396

Глава 6

Несмотря на то что этот пример является несколько искус­ ственным, он проливает свет на многие типичные проблемы, с кото­ рыми приходится сталкиваться при нелинейном оценивании, в частности:

1. Как выбрать начальные значения параметров?

2.Как выбрать подходящий размер шага для определения минимума?

3.Как следует записать модель и тем самым критерий опти­ мизации?

6.2.2. Симплексный метод

Вторым методом без производных, применяемым для миними­ зации нелинейной целевой функции, является метод, основанный на использовании симплексов. Подобные методы оказались весьма

Ф и г . 6.2.2. Правильные

симплексы для двух и трех

независимых пара ­

метров. Вершина

А соответствует наихудшему отклику .

Стрелка у к а з ы в а е т

а — симплекс

направление наибольшего улучшения .

 

для двух

переменных; б — симплекс для трех переменных.

полезными для обнаружения экстремума целевой функции, как условного, так и безусловного; особенно они эффективны при большом числе параметров. Для случая двух параметров правиль­ ным симплексом является равносторонний треугольник (три вершины); для трех параметров такой конфигурацией служит правильный тетраэдр (четыре вершины). Соответствующие иллю­ страции даны на фиг. 6.2.2.

При поиске минимума суммы квадратов отклонений ф в каче­

стве пробных

значений параметров модели можно выбрать точки

в пространстве

параметров, расположенные в вершинах симплек­

са, как впервые было предложено в работе [4] в связи с задачей планирования экспериментов. В каждой вершине симплекса подсчитывается сумма квадратов отклонений; с помощью прямой, проходящей через центр тяжести симплекса, строится некоторая проекция точки, соответствующей наибольшему значению целевой


Нелинейные

модели

397

функции; на фиг. 6.2.2 такой точкой является точка А. Затем точка А отбрасывается и образуется новый симплекс, называемый отражением, который составляют оставшиеся старые точки и одна новая точка В, расположенная на линии AB на надлежащем расстоянии от центра симплекса. Повторение этой процедуры, в которой всегда отбрасывается точка, соответствующая наиболь­ шему значению целевой функции, с соблюдением правил уменьше­ ния размера симплекса и правил, предотвращающих периодиче­ ские колебания в окрестности экстремума, является методом поиска

а

Ф и г . 6.2.3. Последовательность симплексов, полученная при минимизации

суммы квадратов отклонений.

 

а — правильный симплекс; б — симплекс переменного

размера.

без производных, в котором размер шага по существу

фиксируется,

а направление поиска может изменяться. На фиг. 6.2.3, а изо­ бражен последовательный ряд симплексов, построенный для двупараметрической модели, где в качестве целевой функции была взята хорошо сходящаяся сумма квадратов.

Однако применение оригинального метода связано с некото­ рыми практическими трудностями: он не позволяет ускорить поиск при движении по искривленным впадинам или гребням, что может несколько улучшить сходимость (см., например, довольно сложный метод [5], использующий неправильные многогранники). Здесь будет описан простой усовершенствованный симплексный метод, при котором допускается изменение формы симплекса [61, что оказывается весьма эффективным и легко осуществимым на цифровых вычислительных машинах. Этому методу следует отдать предпочтение по сравнению с описанным ранее методом прямого поиска, ибо он требует меньшего машинного времени, даже если сходимость к моменту остановки оказывается медленной.

Итак, требуется минимизировать величину ф, определяемую выражением (6.2.1). Для упрощения записи удержим в аргумен­ те функции ф лишь зависимость от оценок параметров, опуская