Файл: Медич Д. Статистически оптимальные линейные оценки и управление.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 11.04.2024
Просмотров: 260
Скачиваний: 1
откуда |
следует, что |
|
|
|
00 |
ОС |
|
1 |
ç ; z * ) = j |
.. . j |
а exp |
|
X Q " l ( J C - T ) |
dx. |
Проводя замену переменных y = — x в последнем выражении, получаем:
1 -F(t-l[z*) |
= (- 1)"... |
|
j a exp |
|
- S ) ' Q - ( ^ - 6 ) ] r f « / = j ' |
... |
j |
а е х р [ - і - ( 0 - |
|
|
— 00 |
— 0 0 |
|
|
|
— tYQ'Hy |
— t) |
dy |
(5-7) |
Сравнивая уравнения (5-6) и (5-7), можно_видеть, что функция F(l\z*) симметрична относительно | .
Выпуклость для любого £<g;£ следует из того факта,
что
d*F |
*, у = 1 , 2 , ...,П. |
|
|
Завершение доказательства представляется читателю |
|
в качестве упражнения. |
|
Отметим, что следствие также справедливо для асим метричных функций потерь (Л. 5-4], т. е. четвертое свой ство допустимой функции потерь здесь не является необ ходимым.
Из следствия видно, что оптимальная оценка имеет
вид
x (k |
i j) =7v (*) + |
Рт)гЧІ)Р7,\і)г,и) |
[г* (J) - z* (/)]. |
(5-8) |
Для простоты предположим, что процессы {х(к), |
/ее/} |
|||
и {z(i), |
2, ..., |
/} имеют |
нулевые математические |
ожидания. В этом случае оптимальная оценка прини мает вид:
-•Р .Р~.\г*, |
(5-9) |
184 |
хг* г*г* ' |
|
где |
|
|
x = |
x(k\j);x |
= x(k); z* = z*(i). |
Такая оценка |
имеет |
следующие важные и полезные |
свойства, которые можно получить из теоремы 3-2 на
основании свойств |
|
условного |
математического ожидания |
|||||||
и уравнения |
(5-9) : |
|
|
|
|
|
|
|
||
1. |
x (k I /) — линейная |
оценка, |
т. е. линейная |
комбина |
||||||
ция известных измерений. |
|
|
|
|
|
|||||
2. |
x(k\j) |
и x(k\ |
j) — гауссовские |
случайные |
«-векто |
|||||
ры. |
Ошибка x(k\j) |
|
|
|
|
|
|
|
||
3. |
не зависит от любой линейной |
ком |
||||||||
бинации известных |
измерений. |
В частности, x(k\\) |
не |
|||||||
зависит от x(k\j), |
откуда |
следует, что |
|
|
|
|||||
|
|
|
E[x(k\j) |
* ' ( £ ; / ) ] = |
О |
(5-10) |
||||
для любых / и k. |
|
|
|
|
|
|
|
|
||
4. |
Оценка x(k\j) |
|
единственна. |
|
|
|
||||
Утверждение |
следствия |
5-1 |
ограничивается |
|
опти |
мальными оценками гауссовских процессов при единст венном требовании допустимости рассматриваемых функ ций потерь. Теперь рассмотрим задачу оптимальной оценки для функции потерь частного вида, не наклады вая на функцию распределения F[E,\z*(/')] требований выпуклости или симметричности. Однако потребуем, что
бы |
условная |
плотность |
|
распределения |
f[x(k) |
|£*(/)] |
|||||||
была |
|
определена |
|
и непрерывна |
во |
всей |
области |
||||||
— o o < x , < o o ; |
і = 1 , 2, ..., п кроме, |
быть |
может, |
конечно |
|||||||||
го числа точек. |
|
|
|
|
|
|
|
|
|
|
|||
Рассматриваемая здесь функция потерь имеет вид |
|||||||||||||
L[x(k\j)] |
= x'(k\j)x(k\j). |
|
Обычно |
соответствующий |
ей |
||||||||
критерий качества |
оценки |
называют |
среднеквадратиче- |
||||||||||
ской |
ошибкой. |
Это |
вызвано тем, |
что |
Е[х' |
|
(k\j)x(k\j)} |
||||||
представляет |
собой |
среднее |
значение квадрата |
евклидо |
|||||||||
вой меры вектора |
ошибки. |
|
|
|
|
|
|
|
|
||||
Для этого случая известен следующий результат (ср. |
|||||||||||||
задачу 3-11). |
|
|
|
|
|
|
|
|
|
|
|
||
Теорема |
5-2. |
Если |
L [x (k \ /)] = x'(k\ |
j) x (k \ j), |
то |
||||||||
x{k\j) |
|
= |
E[x(k)\z*(j)]. |
|
|
|
|
|
|
|
|
||
Д о к а з а т е л ь с т в о . |
Вначале |
докажем |
необходи |
||||||||||
мость. |
Для |
L[x(k\j)] |
= xf(k\j)x(k\j) |
|
уравнение |
(5-2) |
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
185 |
можно записать в виде |
|
|
||
J[x(k\ j)} = Е {[x {k) ~ x(k |
I /)]' [x (k) - x(k I ;)] 1 z* (/)} . |
|||
Для удобства записи опустим аргументы, т. е. |
||||
/(х) |
= |
Е[{x ~ |
x)'(х-х)\z*}. |
|
Тогда |
|
|
|
|
00 |
|
00 |
|
|
J(x)— |
|
^(x — x)'(x — |
x)f(x\z*)dx, |
|
—oo |
—oo |
|
|
|
где f(x\z*)—условная |
плотность |
распределения x(k) |
при условии г(1), (2), ..., г(/) и предполагается, что эта функция определена и непрерывна на всей области ин тегрирования за возможным исключением конечного чис ла точек.
Взяв от последнего выражения градиент по х, |
полу |
||||
чаем: |
|
|
|
|
|
|
|
00 |
00 |
|
|
ѴГ [/(х)] = |
- 2 J . . . |
\(x-x)'f(x\z*)dx. |
(5-11) |
||
|
|
— 0 0 — 0 0 |
|
|
|
Приравнивая |
градиент нулю, имеем: |
|
|||
00 |
00 |
|
00 |
00 |
|
x' J . . . §f(x\z*)dx= |
J . . . ^x'f(x\z*)dx. |
|
|||
—oo |
—oo |
—oo |
—oo |
|
Транспонируя обе части полученного соотношения и проводя в нем интегрирование, приходим к искомому результату:
x(k\j) = E[x(k)\z*(j)}.
Достаточность легко доказывается при рассмотрении
вторых частных |
производных d'4[(dxidxj) |
для і, / = 1,2,... |
|||
...,п. При і = |
/ |
из уравнения (5-11) следует, что |
|||
|
|
|
00 |
00 |
|
- |
^ |
- |
= 2 Г . . . |
[f(x\z*)dx = |
2. |
|
дхА |
J |
J |
|
|
При І |
j |
t |
—OO — 0 0 |
|
|
|
|
|
|
dxtdxj
186
Из дифференциального исчисления известно, ^то этих
двух |
условий |
достаточно, чтобы точка |
x(k\j) = |
=Е[х |
(k) j z* (/)] являлась локальным минимумом. Однако так |
как / [x (k I /)] — выпуклая монотонно возрастающая функ ция x(k\j), то в точке условного математического ожи дания она имеет глобальный минимум, что и требова лось доказать.
Из доказанной теоремы следует, что по меньшей ме ре для одной допустимой функции потерь, а именно для L = x'[k\j)x(k\j), утверждение теоремы 5-1 справедливо без требований симметричности или выпуклости услов ной функции распределения вероятностей. Неизвестно, справедливо ли оно для какой-либо другой допустимой функции потерь или нет.
Из сравнения теоремы 5-1 с теоремой 5-2 ясно, что последняя, хотя и накладывает более жесткие ограни чения на функцию потерь, является более общей, чем первая, в том смысле, что она справедлива для более широкого класса случайных процессов. Любопытно от метить, что если допущения, сделанные при формулиров ке задачи оценки, удовлетворяют только условиям тео ремы 5-1 или только теоремы 5-2, то оптимальная оцен ка в обоих случаях является условным математическим ожиданием. В этом смысле утверждения двух доказан ных теорем совпадают.
Теперь сосредоточим внимание на оптимальных ли нейных оценках. Всякая линейная оценка x(k), получен ная на основе^измерений г(1), 2(2), ..., z(j), может быть представлена в виде
Jc(k\j)= t |
А{і)г(І), |
(5-12) M |
|
|
i=\ |
|
|
где A(i)—матрицы |
размера |
nXm. |
|
Пусть [x(k), kel) |
и {z(i), |
t ' = l , . .. , /} — |
произвольные |
случайные процессы. Тогда справедливо следующее утверждение.
Теорема 5-3. Если |
известны |
только |
первые |
и |
вторые |
||
моменты |
случайных |
процессов |
[x(k), |
k<=I} и |
{z(i), i = |
||
= 1, ..., |
/ } , то для любой допустимой |
функции |
|
потерь |
|||
оптимальной |
является |
линейная |
оценка |
вида |
|
|
|
x (k I j) = |
x{k) + |
P № , / - ; ( ) 2 |
, ( ( ) [2* (/) - 5f (/)]. |
(5-13) |
187
Д о к а з а т е л ь с т в о . Если известны первые и вто рые моменты, т. е. математические ожидания и корреля
ционные |
матрицы процессов |
{x(k), |
k^I} |
и {z(i), |
i = |
||
= 1, ..., |
/ } , то |
можно |
найти |
единственные |
гауссовские |
||
процессы |
{xa(k), |
kŒl} |
и {za(i), |
i = l , |
..., /} с такими |
же |
математическими ожиданиями и корреляционными ма трицами, поскольку гауссовские процессы однозначно определяются их первыми и вторыми моментами.
Однако для гауссовских процессов в силу следствия 5-1 можно утверждать, что оценка, оптимальная для лю
бой допустимой |
функции потерь, имеет вид E[x(k) \ z*(j)] |
и описывается |
уравнением (5-13). Оценка, очевидно, ли |
нейная, что доказывает теорему. |
|
В доказательстве использован тот факт, что при из |
вестных первых и вторых моментах случайных процес сов {x(k), kŒl} и {z(i), i = l , ..., /} эти процессы можно моделировать гауссовскими процессами с теми же ста тистическими параметрами.
Точнее, заметим, что необходимо знать только x(k),
* 0')' Рх(к)г*(і) И Pz*(k)z*(k)-
Возможна и другая точка зрения на приведенный ре зультат. Если ограничиться линейными оценками, т. е. оценками вида (5-12) (ср. задачу 3-13), то для опреде ления оценок потребуются только моменты первого и второго порядков. Далее, используя тот факт, что суще ствуют единственные гауссовские процессы с теми же первыми и вторыми моментами, применим следствие 5-1 и получим в результате, что линейная оценка, оптималь
ная для одной |
допустимой функции потерь, |
оптимальна |
и для любой допустимой функции потерь. |
|
|
Теорема 5-1 |
является фундаментальным |
результатом |
и дает решение очень широкого класса задач оценки. Следствие 5-1 представляет собой частный случай при менения теоремы к гауссовским процессам. Принципи альным результатом следствия является тот факт, что оценка, оптимальная для любой допустимой функции потерь, а именно оценка в виде условного математиче ского ожидания, является линейной в силу гауссовости рассматриваемых случайных процессов.
В теореме 5-2 общность класса допустимых функций потерь снижается ради расширения допустимого класса случайных процессов. Для критерия качества вида среднеквадратической ошибки оптимальная оценка вновь имеет вид условного математического ожидания, однако
188