Файл: Сейдж Э.П. Идентификация систем управления.pdf

ненаблюдаема. Однако условное математическое ожидание определяется выражением (5.1.4), и стохастический алго­ ритм для отыскания корней уравнения регрессии (5.1.4) имеет вид

Здесь обозначение z (х») преследует цель подчеркнуть ите­ ративный характер алгоритма. Последовательность {х1} с вероятностью единица сходится к решению уравнения (5.1.1). Исследования Роббинса и Монро показали, что эта сходимость имеет место при выполнении трех условий:

Таким требованиям удовлетворяет, например, простей­ шая последовательность

Требуется также, чтобы функция регрессии h (х) по обе стороны от истинного решения была ограничена прямыми с конечным наклоном, для того чтобы не «проскочить» решение х. Таким образом, в одномерном случае

Последнее ограничение не является слишком суровым.

намический вариант метода стохастической аппрок­ симации.

Кифер и Вольфовиц обобщили метод стохастической аппроксимации на отыскание экстремума унимодальной функции регрессии 0 (и).

Этот алгоритм представляет собой точный аналог детер­ минированной градиентной процедуры, которая, как из­

И детерминистский алгоритм (5.1.9) заменяется стоха­ стическим алгоритмом

Условное математическое ожидание, взятое от обеих частей (5.1.11), приводит к алгоритму (5.1.9). В некото­ рых случаях прямое дифференцирование с целью полу­ чить dl (и*)/йш невозможно и используется приближе­ ние вида

ит в том, что для любого алгоритма детерминированного типа существует его стохастический двойник. Следуя этой идее, Дворецкий [33] сформулировал обобщенный метод стохастической аппроксимации, который состоит в использовании аддитивной смеси детерминированного ал­ горитма 25 и случайной компоненты п

Можно показать, что алгоритмы Роббинса — Монро и Кифера — Вольфовица являются частными случаями алго­ ритма Дворецкого.

Существуют различные способы увеличения скорости сходимости алгоритмов стохастической аппроксимации, ко­ торые, как мы видим, весьма близки к развитым в преды­ дущей главе градиентным методам. Быть может, проще всего поддерживать К1 постоянным до изменения знака наблюдаемой величины (z (хг) или I (и1)), изменяя затем К1 так, чтобы удовлетворить вышеупомянутым ограни­ чениям. Эту схему можно оправдать тем, что вдали от нуля функций h(x) или dQ(u)!du наиболее вероятны наблю­ дения одного знака, тогда как в близкой окрестности нуля знак наблюдений будет часто меняться.

Этот метод сводится к использованию

Такой подход значительно ускоряет сходимость для та­ ких функций регрессии, которые на бесконечности быстро стремятся к нулю, например, как h (х) = х ехр (— х).

Дворецкий [33] доказал, что если

var {z (х) |х} < Vv < оо

и если функция регрессии h (х) = Щ{z (х)| х} ограничена,

Кроме близости к градиентным методам, существует

тесная связь между стохастической аппроксимацией и

теорией оптимальной фильтрации. Например, хорошо известно, что решение задачи об отыскании наилучшей линейной оценки х при заданном наблюдении

где v (ft) — белый шум с нулевым математическим ожи­ данием и единичной матрицей ковариации, дается фор­ мулой

i {к + 1) = X {к) + V - (к + 1) Нт [z (к + 1) — Нх {к)] =

V ? (к) Нт = V~ (0) Нт [ftHV - (0) Нт + 1]-\

так что при к-^-оо

V-г (/с)Нт ^ 4 V* (°)нТ tHVx (°) н1]'1. (5.1.26)

Как и ожидалось, при оценке константы дисперсия ошиб­ ки стремится к нулю. Таким образом, для больших к алго­ ритм фильтрации (5.1.23) имеет следующий асимптотиче­ ский вид:

x(ft + l) =

= х (ft) + T q rr v * (°) rT lH V x (0) HT1 - [z (к + 1) - H i (ft)].

(5.1.27)

Видно, что уравнение (5.1.27) является многомерным алгоритмом стохастической аппроксимации. Если пред­ положить, что Н — квадратная невырожденная матрица,