Файл: Химмельблау Д. Анализ процессов статистическими методами.pdf

Нелинейные модели 389

ки Ьі и Ъ2:

Заметим, что уравнения (6.2.5) и (6.2.6) сами являются нели­ нейными, так что первоначальная задача оптимизации преврати­ лась в задачу определения корней этих уравнений, которая столь же, или даже более трудна, чем задача оптимизации. Так как для определения корней системы нелинейных уравнений все равно приходится использовать некоторую итерационную процедуру, по-видимому, проще применить итерационные методы непосред­ ственно для определения минимума первоначальной целевой функций (6.2.4). Теперь рассмотрим два метода минимизации без производных, которые отличаются гибкостью и просты в исполь­ зовании.

6.2.1. Методы прямого поиска

С точки зрения исследователя, метод прямого поиска, предло­ женный Хуком и Дживсом [3], обладает при нелинейном оценива­ нии рядом преимуществ *). Не требуется вычислять никаких производных, а процедура хорошо укладывается в логическую схему. Недостаток прямых методов состоит в том, что они не так быстро приводят к результату, как методы с производными или симплексный метод, особенно когда число параметров велико.

х ) Этот метод подробно описан в книге Уайльда Д ж . , Методы поиска экстремума, изд-во «Наука», 1967, где он называется методом конфигура ­ ций.— Прим. ред.

390 Глава 6

что составляет серию пробных шагов. Новые оценки параметров образуют некий вектор в пространстве параметров, который задает направление, ведущее к уменьшению ф Вдоль этого направле­ ния осуществляется ряд рабочих шагов до тех пор, пока значение ф не перестает уменьшаться. Длина рабочих шагов по каждому из координатных направлений пропорциональна числу предше­ ствующих успешных шагов в этом направлении. Если ни один из рабочих шагов не улучшает значение ф, то для определения нового направления производится новая серия пробных шагов. Если пробные шаги не выявляют нового направления, приращения Abj постепенно уменьшаются до тех пор, пока не будет найдено новое направление или пока каждое из приращений не станет меньше некоторого предварительно выбранного допустимого откло­ нения. Невозможность улучшить значение ф при очень малых Abj указывает на та, что достигнуто локальное оптимальное значение.

Для определения того момента, когда поиск следует прекра­ тить, проводятся две основные проверки. Одна из них касается относительного изменения индивидуальных оценок параметров Abj, т. е. размера шага. Желаемое минимальное значение относи­ тельного изменения переменных вводится в машинную программу и проверка проводится после каждого неудачного пробного шага. Другая проверка выполняется после каждого пробного или рабо­ чего шага; изменение значения ф сравнивается с заданной величи­ ной, введенной в машинную программу. Пробный или рабочий шаг считается неуспешным, если он не приводит к изменению значения ф для предыдущего шага на величину, превышающую заданное значение. Вычисления прекращают, когда на заданном числе циклов обе проверки дают положительный результат.

В схему поиска очень легко ввести простые ограничения. Например, если требуется ограничиться лишь положительными значениями параметров bj, что бывает необходимо в ряде инженер­ ных задач, где они описывают физические величины, которые не могут принимать отрицательных значений, в машинную програм­ му можно ввести ограничения

h < bj < Uj,

где lj — нижняя граница поиска для bj, Uj — верхняя граница поиска для bj, и выбрать Z7- и Uj равными соответственно нулю и некоторому большому числу.

*) Новые оценки образуют вектор Ь( 1 >, соответствующий второй базовой точке. Тогда вектор Ы 1 ' — Ь<°> определяет (по терминологии Уайльда) п е р ­ вую конфигурацию и задает направление движения по «дну оврага», ведущее к уменьшению величины ф.— Прим. ред.

Пример 6.2.1. Оценивание методом прямого поиска

Оценивание нелинейных моделей методом прямого поиска можно сравнить с линейным оцениванием, если эти модели удается линеаризовать подходящими преобразованиями и затем рассмо­ треть с помощью методов линейного анализа. Такого рода сравне­ ние проводится в данном примере; здесь также указывается на ряд типичных проблем, с которыми приходится сталкиваться при итерационном нелинейном оценивании. Были имитированы 11 наборов данных для модели

Д л я подгонки модели к этим имитированным данным исполь­ зовались три критерия, требующие минимизировать соответствен­ но выражения (а) — (в):

S(lgyi-lgtiO". (в) i=l

Результаты приведены в табл. П.6.2.1 для двух исходных начальных векторов. Третий критерий, связанный с выражением {в), используется при линейном оценивании методом наименьших квадратов. Во всех расчетах начальный относительный размер шага для каждого Abj произвольно устанавливался равным 0,30. Накопленный опыт оценивания методом прямого поиска показы­ вает, что выбор Abj = 0,30 представляется разумным компромис­ сом между слишком большим начальным размером шага, который придется, возможно, существенно уменьшить прежде, чем начнет уменьшаться величина ф, и слишком малым размером шага, кото­ рый может привести к большим затратам времени, ибо потребуется сделать очень много малых шагов. Критерием прекращения по­ иска являлось изменение значений каждого из оцениваемых параметров, меньшее 0,01%. При использовании для вычисления