Файл: Медич Д. Статистически оптимальные линейные оценки и управление.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 11.04.2024

Просмотров: 260

Скачиваний: 1

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

откуда

следует, что

 

 

 

00

ОС

 

1

ç ; z * ) = j

.. . j

а exp

 

X Q " l ( J C - T )

dx.

Проводя замену переменных y = x в последнем выражении, получаем:

1 -F(t-l[z*)

= (- 1)"...

 

j a exp

- S ) ' Q - ( ^ - 6 ) ] r f « / = j '

...

j

а е х р [ - і - ( 0 -

 

— 00

— 0 0

 

 

— tYQ'Hy

— t)

dy

(5-7)

Сравнивая уравнения (5-6) и (5-7), можно_видеть, что функция F(l\z*) симметрична относительно | .

Выпуклость для любого £<g;£ следует из того факта,

что

d*F

*, у = 1 , 2 , ...,П.

 

Завершение доказательства представляется читателю

в качестве упражнения.

 

Отметим, что следствие также справедливо для асим­ метричных функций потерь (Л. 5-4], т. е. четвертое свой­ ство допустимой функции потерь здесь не является необ­ ходимым.

Из следствия видно, что оптимальная оценка имеет

вид

x (k

i j) =7v (*) +

Рт)гЧІ)Р7,\і)г,и)

[г* (J) - z* (/)].

(5-8)

Для простоты предположим, что процессы {х(к),

/ее/}

и {z(i),

2, ...,

/} имеют

нулевые математические

ожидания. В этом случае оптимальная оценка прини­ мает вид:

-•Р .Р~.\г*,

(5-9)

184

хг* г*г* '

 


где

 

 

x =

x(k\j);x

= x(k); z* = z*(i).

Такая оценка

имеет

следующие важные и полезные

свойства, которые можно получить из теоремы 3-2 на

основании свойств

 

условного

математического ожидания

и уравнения

(5-9) :

 

 

 

 

 

 

 

1.

x (k I /) линейная

оценка,

т. е. линейная

комбина­

ция известных измерений.

 

 

 

 

 

2.

x(k\j)

и x(k\

j) — гауссовские

случайные

«-векто­

ры.

Ошибка x(k\j)

 

 

 

 

 

 

 

3.

не зависит от любой линейной

ком­

бинации известных

измерений.

В частности, x(k\\)

не

зависит от x(k\j),

откуда

следует, что

 

 

 

 

 

 

E[x(k\j)

* ' ( £ ; / ) ] =

О

(5-10)

для любых / и k.

 

 

 

 

 

 

 

 

4.

Оценка x(k\j)

 

единственна.

 

 

 

Утверждение

следствия

5-1

ограничивается

 

опти­

мальными оценками гауссовских процессов при единст­ венном требовании допустимости рассматриваемых функ­ ций потерь. Теперь рассмотрим задачу оптимальной оценки для функции потерь частного вида, не наклады­ вая на функцию распределения F[E,\z*(/')] требований выпуклости или симметричности. Однако потребуем, что­

бы

условная

плотность

 

распределения

f[x(k)

|£*(/)]

была

 

определена

 

и непрерывна

во

всей

области

— o o < x , < o o ;

і = 1 , 2, ..., п кроме,

быть

может,

конечно­

го числа точек.

 

 

 

 

 

 

 

 

 

 

Рассматриваемая здесь функция потерь имеет вид

L[x(k\j)]

= x'(k\j)x(k\j).

 

Обычно

соответствующий

ей

критерий качества

оценки

называют

среднеквадратиче-

ской

ошибкой.

Это

вызвано тем,

что

Е[х'

 

(k\j)x(k\j)}

представляет

собой

среднее

значение квадрата

евклидо­

вой меры вектора

ошибки.

 

 

 

 

 

 

 

 

Для этого случая известен следующий результат (ср.

задачу 3-11).

 

 

 

 

 

 

 

 

 

 

 

Теорема

5-2.

Если

L [x (k \ /)] = x'(k\

j) x (k \ j),

то

x{k\j)

 

=

E[x(k)\z*(j)].

 

 

 

 

 

 

 

 

Д о к а з а т е л ь с т в о .

Вначале

докажем

необходи­

мость.

Для

L[x(k\j)]

= xf(k\j)x(k\j)

 

уравнение

(5-2)

 

 

 

 

 

 

 

 

 

 

 

 

 

185


можно записать в виде

 

 

J[x(k\ j)} = Е {[x {k) ~ x(k

I /)]' [x (k) - x(k I ;)] 1 z* (/)} .

Для удобства записи опустим аргументы, т. е.

/(х)

=

Е[{x ~

x)'(х-х)\z*}.

Тогда

 

 

 

 

00

 

00

 

 

J(x)—

 

^(x — x)'(x —

x)f(x\z*)dx,

—oo

—oo

 

 

где f(x\z*)—условная

плотность

распределения x(k)

при условии г(1), (2), ..., г(/) и предполагается, что эта функция определена и непрерывна на всей области ин­ тегрирования за возможным исключением конечного чис­ ла точек.

Взяв от последнего выражения градиент по х,

полу­

чаем:

 

 

 

 

 

 

 

00

00

 

 

ѴГ [/(х)] =

- 2 J . . .

\(x-x)'f(x\z*)dx.

(5-11)

 

 

— 0 0 — 0 0

 

 

Приравнивая

градиент нулю, имеем:

 

00

00

 

00

00

 

x' J . . . §f(x\z*)dx=

J . . . ^x'f(x\z*)dx.

 

—oo

—oo

—oo

—oo

 

Транспонируя обе части полученного соотношения и проводя в нем интегрирование, приходим к искомому результату:

x(k\j) = E[x(k)\z*(j)}.

Достаточность легко доказывается при рассмотрении

вторых частных

производных d'4[(dxidxj)

для і, / = 1,2,...

...,п. При і =

/

из уравнения (5-11) следует, что

 

 

 

00

00

 

-

^

-

= 2 Г . . .

[f(x\z*)dx =

2.

 

дхА

J

J

 

При І

j

t

—OO — 0 0

 

 

 

 

 

dxtdxj

186


Из дифференциального исчисления известно, ^то этих

двух

условий

достаточно, чтобы точка

x(k\j) =

=Е[х

(k) j z* (/)] являлась локальным минимумом. Однако так

как / [x (k I /)] выпуклая монотонно возрастающая функ­ ция x(k\j), то в точке условного математического ожи­ дания она имеет глобальный минимум, что и требова­ лось доказать.

Из доказанной теоремы следует, что по меньшей ме­ ре для одной допустимой функции потерь, а именно для L = x'[k\j)x(k\j), утверждение теоремы 5-1 справедливо без требований симметричности или выпуклости услов­ ной функции распределения вероятностей. Неизвестно, справедливо ли оно для какой-либо другой допустимой функции потерь или нет.

Из сравнения теоремы 5-1 с теоремой 5-2 ясно, что последняя, хотя и накладывает более жесткие ограни­ чения на функцию потерь, является более общей, чем первая, в том смысле, что она справедлива для более широкого класса случайных процессов. Любопытно от­ метить, что если допущения, сделанные при формулиров­ ке задачи оценки, удовлетворяют только условиям тео­ ремы 5-1 или только теоремы 5-2, то оптимальная оцен­ ка в обоих случаях является условным математическим ожиданием. В этом смысле утверждения двух доказан­ ных теорем совпадают.

Теперь сосредоточим внимание на оптимальных ли­ нейных оценках. Всякая линейная оценка x(k), получен­ ная на основе^измерений г(1), 2(2), ..., z(j), может быть представлена в виде

Jc(k\j)= t

А{і)г(І),

(5-12) M

 

i=\

 

где A(i)—матрицы

размера

nXm.

 

Пусть [x(k), kel)

и {z(i),

t ' = l , . .. , /} —

произвольные

случайные процессы. Тогда справедливо следующее утверждение.

Теорема 5-3. Если

известны

только

первые

и

вторые

моменты

случайных

процессов

[x(k),

k<=I} и

{z(i), i =

= 1, ...,

/ } , то для любой допустимой

функции

 

потерь

оптимальной

является

линейная

оценка

вида

 

 

x (k I j) =

x{k) +

P , / - ; ( ) 2

, ( ( ) [2* (/) - 5f (/)].

(5-13)

187


Д о к а з а т е л ь с т в о . Если известны первые и вто­ рые моменты, т. е. математические ожидания и корреля­

ционные

матрицы процессов

{x(k),

k^I}

и {z(i),

i =

= 1, ...,

/ } , то

можно

найти

единственные

гауссовские

процессы

{xa(k),

kŒl}

и {za(i),

i = l ,

..., /} с такими

же

математическими ожиданиями и корреляционными ма­ трицами, поскольку гауссовские процессы однозначно определяются их первыми и вторыми моментами.

Однако для гауссовских процессов в силу следствия 5-1 можно утверждать, что оценка, оптимальная для лю­

бой допустимой

функции потерь, имеет вид E[x(k) \ z*(j)]

и описывается

уравнением (5-13). Оценка, очевидно, ли­

нейная, что доказывает теорему.

В доказательстве использован тот факт, что при из­

вестных первых и вторых моментах случайных процес­ сов {x(k), kŒl} и {z(i), i = l , ..., /} эти процессы можно моделировать гауссовскими процессами с теми же ста­ тистическими параметрами.

Точнее, заметим, что необходимо знать только x(k),

* 0')' Рх(к)г*(і) И Pz*(k)z*(k)-

Возможна и другая точка зрения на приведенный ре­ зультат. Если ограничиться линейными оценками, т. е. оценками вида (5-12) (ср. задачу 3-13), то для опреде­ ления оценок потребуются только моменты первого и второго порядков. Далее, используя тот факт, что суще­ ствуют единственные гауссовские процессы с теми же первыми и вторыми моментами, применим следствие 5-1 и получим в результате, что линейная оценка, оптималь­

ная для одной

допустимой функции потерь,

оптимальна

и для любой допустимой функции потерь.

 

Теорема 5-1

является фундаментальным

результатом

и дает решение очень широкого класса задач оценки. Следствие 5-1 представляет собой частный случай при­ менения теоремы к гауссовским процессам. Принципи­ альным результатом следствия является тот факт, что оценка, оптимальная для любой допустимой функции потерь, а именно оценка в виде условного математиче­ ского ожидания, является линейной в силу гауссовости рассматриваемых случайных процессов.

В теореме 5-2 общность класса допустимых функций потерь снижается ради расширения допустимого класса случайных процессов. Для критерия качества вида среднеквадратической ошибки оптимальная оценка вновь имеет вид условного математического ожидания, однако

188