соответствуют менее общие алгоритмы. В следующем параграфе рассматривается наиболее общая форма рекуррентных алгорит мов.
§ 10.3. РЕКУРРЕНТНАЯ ПРОЦЕДУРА КИФЕРА — ВОЛЬФОВИЦА
Результаты, полученные в предыдущих параграфах, имеют много общего. А именно, несмотря на различные свойства алго ритмов (10.1.5) и (10.2.5), они имеют общую форму. Например, оценка коэффициента усиления в одномерной задаче как в ре куррентном алгоритме метода наименьших квадратов, так и в рекуррентном алгоритме Чадеева уточняется по следующей зави симости:
Qn — Qn _ x- ' ^ n Qn - i ). ( 1 0 . 3 . 1 ) -
где коэффициент \ N равен pN''N 2 Р(1/ в (10.1.2) и рМ р +-
i =i
+<& в ( ю -2 л )-
Впрактике могут встретиться случаи, когда в распоряжении экспериментатора нет достаточной информации об условиях опы
та, по которой могут быть найдены оптимальные значения коэф фициентов удг в том или ином методе. В то же время желательно найти оценки параметров. Выходом из такого положенияможет быть использование стохастической аппроксимации. Слово «ап проксимация» указывает здесь на приближенный характер ре шения, а термин «стохастическая» означает, что задача решается в условиях случайных помех.
Процедура стохастической аппроксимации была предложена Г. Роббинсом и С. Монро в 1951 г. для отыскания корня уравне ния регрессии в условиях помех. Спустя год после этого появи лась статья Кифера и Вольфовица, где идея стохастической аппроксимации была использована для поиска экстремума уни модальной функции одной переменной. Так как задача оценки параметров аналогична экстремальной задаче, рассмотрим в этом параграфе процедуру Кифера и Вольфовица.
Рекуррентная процедура стохастической аппроксимации применительно к оценке параметра q усилительного звена
x ( t ) = ' Ht ) q
записывается в виде (10.3.1), где улт — некоторая последователь ность положительных чисел.
При некоторых условиях, накладываемых на последователь
ность чисел yjv, алгоритм (10.3.1) является сходящимся в сред нем
lim A f[(^ v - 9)2]= o,
N^oo