Файл: Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 10.04.2024

Просмотров: 254

Скачиваний: 0

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

540

ПРИМЕНЕНИЯ К ЗАДАЧАМ СТАТИСТИКИ

[ГЛ. 14

 

 

где e(t) — (el(t),..., em(t))—последовательность некоррелирован­ ных векторов с некоррелированными компонентами, Me;(t)—0,

М е*(/)= 1,

 

П

 

 

e,(t)= [ е^Ѵ-Чфj(dX).

(14.27)

 

— Л

 

Матрицы ah Ah b и ß, i — 1, 2, входящие

в (14.26), находятся

непосредственным

подсчетом.

(Ѳ/, \ t) первая ком­

Предположим

теперь, что у вектора ѵ<=

понента является ненаблюдаемой. Рассмотрим задачу построения

для

каждого

^ = 0, 1, ...

линейной оптимальной в среднеквад­

ратическом смысле оценки для

Ѳ, по наблюдениям (І0, •••>

£<)•

Если vt, t = 0,

1,

. . . ,

является

гауссовским

процессом,

то

по

теореме

13.4

и

следствию 1

из

нее mt =

М (Ѳ, |

 

и

Y<=

M([â<m t][Q t

rhtY)

определяются

из системы уравнений

tht+l = a \ih t +

a2l t +

 

 

 

 

 

 

 

 

 

 

 

+

(МГ + а^А ])(ВВ ' +

AtytA])+ (1ж

-

Л ,т г -

А2Ц ,

(14.28)

У<+, =

а ^ а ; + ЬЬ*—

 

 

 

 

 

 

 

 

 

 

 

 

-

( Ь В ' +

а , ѵ И 0 ( В В * +

А і Ь А \) + { b B * +

 

 

(14 -29)

решаемых

при начальных

условиях

 

 

 

 

 

 

 

 

 

 

т0 = М (Ѳ01Іо).

Vo =

М ( [Ѳ0 — т 0] [Ѳ0 — т 0]*).

 

 

Согласно теореме о нормальной корреляции (теорема 13.1)

 

 

т0=

соѵ (Ѳ0, у соѵ+ (Іо, g0) І0,

 

 

 

 

 

(14.30)

 

 

Yo =

соѵ(Ѳ0, Ѳ0) — соѵ(Ѳ0, Іо)соѵ+ (Іо,

І0)соѵ(Ѳ0,

І 0).

(14.31)

Поскольку

tht =

М(Ѳ(|^"!)

линейным

образом

зависит

от

іо, . . . . Іо то в случае гауссовского

процесса

ѵ, — [Ѳ„

І,]

ре­

шение задачи построения оптимальной

линейной

оценки Ѳ,

по

Іо,

. . . , І<

дается

уравнениями

(14.28),

(14.29).

 

 

опти­

Покажем

теперь,

что

и в

общем

случае линейная

мальная (в среднеквадратическом смысле) оценка также опре­

деляется из этих же уравнений.

Справедливость

этого

утвер­

ждения вытекает из следующего предложения.

 

ß2)<

°о

Л е м м а 14.1. Пусть (а, ß) — случайный вектор с М (а2 +

и (а, ß) — гауссовский вектор с теми же

двумя

первыми

мо­

ментами, что и у (а, ß), т. е.

 

 

 

 

 

Ма‘ = Ма‘, Mß‘ = Mß\

/ === 1, 2,

Mâß = Maß.

 

Пусть 1{Ь) линейная функция от b ^ R ' такаА, что Р-п. н.

/(ß) = M (ä|ß).

(14.32)


§ и

ФИЛЬТРАЦИЯ СТАЦИОНАРНЫХ

ПОСЛЕДОВАТЕЛЬНОСТЕЙ

541

Тогда /(ß) является оптимальной (в

среднеквадратическом

смысле)

линейной оценкой величины а по ß, причем M/(ß) = Met.

Д о к а з а т е л ь с т в о . Прежде

всего

заметим, что

суще­

ствование линейной функции 1(b) со свойством (14.32) вытекает из теоремы о нормальной корреляции.

Несмещенность (M/(ß) = Ма) линейной оценки вытекает из следующей очевидной цепочки равенств:

М/ (ß) = М/ (ß) = М [М I ß)] == Мй = Ма.

Далее, если I (ß) — какая-то другая линейная оценка, то

М[й — I (ß)P>M [â — /(ß)]2.

Поэтому в силу линейности оценок / (ß) и / (ß)

М[а— / )]2 = М[а —/ )]2 > М[а -

I )]2 = М[а— I (ß)]2,

что и доказывает оптимальность (в

среднеквадратическом

смысле) /(ß) в классе

линейных оценок.

 

 

З а м е ч а н и е .

Утверждение леммы остается справедливым,

если а и ß — векторы,

a (aj,

. . . ,

ak), ß = (ßj, . . . , ßj).

что

Чтобы применить

лемму

14.1

к

доказательству

того,

оптимальная оценка 0t по £0, . . . ,

\ t

определяется из

системы

уравнений (14.28),

(14.29), осталось

лишь заметить,

что

про­

цесс (0,, lt), удовлетворяющий системе (14.26), и гауссовский процесс, определяемый той же системой, имеют одни и те же первые два момента.

3. Для иллюстрации предложенного выше подхода к зада­ чам оценивания компонент стационарных процессов рассмотрим следующий

П р и м е р 1. Пусть Of и £„ t = 0, ± 1 , . . . , — некоррелиро­ ванные между собой стационарные (в широком смысле) по­

следовательности с МѲ< =

М£, =

0 и спектральными плотностями

 

eiX + Cf l2

Ш -

еа + с2I2

 

 

 

 

 

где I Cf I < 1, і =

1,2.

 

 

 

 

 

 

Будем предполагать, что Ѳ, является «полезным сигналом»,

— «помеха» и что

наблюдается процесс

 

 

 

 

 

\t —

+

 

 

(14.33)

Согласно теореме

14.1 найдутся некоррелированные после­

довательности

е, (t)

и

е2 (t),

t =

0, ± 1 , . . . , с

Ме*(£) = 0,

Me, (t) г{ (s) = б (i, s),

i — 1 , 2 , такие,

что

 

 

Ѳ/+І =

+

е, (t + 1),

£,+i — c2^>t + e2 ^ +

1)- (14.34)


542

ПРИМЕНЕНИЯ К ЗАДАЧАМ СТАТИСТИКИ

[ГЛ. 14

Принимая

во внимание (14.33) и (14.34),

получаем,

что

І И - 1 = Ѳ/+1+ І Н - 1 = (С1~ Сі) Ѳ/ + С 2І 1 + е1

+ 1) + е2^ + !)•

Поэтому «ненаблюдаемый» процесс Ѳ, и «наблюдаемый» про­ цесс \ t удовлетворяют системе уравнений

 

Ѳ<+і =

СіѲ<+

81( / +

1),

 

 

 

 

 

 

 

 

 

 

Ін-і == (сі ~

сг) Ѳ/ +

c2lt +

8, (t -f 1 ) + e2 (t +

1 ).

 

 

 

В силу (14.28) и (14.29)

оптимальная

линейная

оценка

ть

/ = 0 , 1 , . . . ,

величин О,

и среднеквадратическая ошибка филь­

трации

у, =

М(Ѳ,— mt)2

удовлетворяют рекуррентным

уравне­

ниям

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Щ+\ =

c{mt +

12

+ \с1-с1^

^ і + 1 ~

~

с^ т‘ ~

°2^ ’

(14-36)

Yi+, =

ciYi +

1

[* + сі(сі - с 2) у,]2

 

 

 

 

 

( 1 4 . 3 7 )

 

2 + (с1 -

с2)2^

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Найдем

начальные условия т0, уо Для этой системы уравнений.

Процесс

 

(Ѳ„

It),

t — 0,

± 1 , . . . ,

является

стационарным

(в широком смысле) процессом с МѲ/ = М |, = 0

и ковариациями

= МѲ|,

dl2 =

MBtl t,

d22= M l zt, удовлетворяющими

в

силу

(14.35) и (14.20) системе уравнений

 

 

 

 

 

 

 

 

 

d^i

 

 

Ч- 1 ,

 

 

 

 

 

 

 

 

 

 

 

 

d\2 =

И (С1

с2) ^11 + С1С2^1-2 +

1)

 

 

 

 

 

 

 

 

d22 — (с,

C2f dn +

c2d22-f- 2с2

 

dl2-f- 2.

 

 

 

Отсюда -находим

 

 

 

 

 

 

 

 

 

 

 

 

d.

 

 

 

 

 

^12

 

*22 '

2

C[ — c\

 

 

 

 

 

1 - cf

 

( I - с 2) ( I - с 2) '

 

 

 

 

 

 

 

 

 

 

 

 

что вместе

с (14.30),

(14.31)

дает

 

 

 

 

 

 

 

 

 

 

 

 

 

 

m0 = —12

t

1 -

СІ

Іо,

 

 

 

 

 

 

 

 

 

 

 

Сі

Со

 

 

 

 

 

 

 

 

 

 

 

 

 

л22

 

 

 

 

 

 

 

 

Yo — di

 

 

*12

 

 

 

 

 

 

 

 

 

 

 

 

 

*22

I" « ?

( l - c ? ) ( 2 - e? - 4 )

 

2 - cf

„2

 

 

 

 

 

 

Итак, оптимальная (в среднеквадратическом смысле) ли­

нейная

оценка

mt

«полезного

сигнала»

О,

по

| 0, . . . ,

\ t

и

среднеквадратическая ошибка yt определяются из системы

уравнений (14.36),

(14.37), решаемой при

начальных условиях

т 0

1 - с \

Yo =

1

2 - 4 - 4 |а’

с22

 

 


§ 2)

ОЦЕНКИ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

543

Мало что изменится, если рассматривать задачу оценивания

параметра

Ѳ, по наблюдениям (l_N, . . . , £0,

|,). В этом

случае также остается справедливой система (14.36), (14.37), причем

4. В заключение заметим, что оптимальные линейные оценки интерполяции и экстраполяции для стационарных последова­ тельностей с дробно-рациональным спектром можно получить (как и в случае фильтрации) из результатов предыдущей главы, рассматривая лишь гауссовские последовательности с теми же самыми первыми двумя моментами.

§ 2. Оценки максимального правдоподобия коэффициентов линейной регрессии

1. Пусть в моменты времени 7 = 0, 1, . . . наблюдается слу­ чайный процесс

 

N

 

 

 

 

Ш = 2 М 0 Ѳ , + Т1(0,

(14.38)

 

;=I

 

 

 

где Ѳ= (Ѳ[, . . . ,

Ѳдг) — вектор (столбец) неизвестных параметров,

— о о < Ѳ ; <оо ,

І = 1........ П,

а (/) =

(<*, (7),

. . ., aN(t)) — из­

вестная вектор-функция (строка),

а г)(0,

7 = 0,

± 1 , . . . , — гаус­

совский стационарный случайный процесс с Мц(7) и дробно­ рациональной спектральной плотностью

 

 

 

 

 

Рп-Леік)

2

 

 

(14.39)

 

 

 

 

 

Qn(ea)

 

 

В (14.39)

 

 

 

 

 

 

 

 

 

77—1

 

 

 

 

 

 

 

 

 

 

bfi—i 0,

 

 

 

 

 

Pn-i (z) =

j

 

 

 

 

 

2 bjZ*,

 

 

 

 

 

 

 

 

 

 

j=0

 

 

 

 

 

 

 

 

Qn(z) ==

П

 

г'— 1 >

 

 

 

 

 

 

,

 

 

 

 

 

 

 

 

 

/=0

 

 

 

 

 

причем

предполагается, что корни уравнения

Q„(z) = 0

лежат

внутри

единичного

круга.

 

 

 

 

 

 

Для

получения оценок максимального правдоподобия век­

тора Ѳ= (Ѳ1,

. . . ,

Qn)

надо

найти

производную

Радона — Ни-

 

j„ѳ

 

 

 

 

 

 

 

 

 

кодима

— |-

меры

р9,

отвечающей процессу

|

= (£(7)),

7 = 0,

1, . . . ,

определяемому

в (14.38),

по

мере

 

для такого же

процесса с Ѳ= 0 (0 — нулевой вектор).

 

 

 


§44

 

 

 

ПРИМЕНЕНИЯ К ЗАДАЧАМ СТАТИСТИКИ

 

 

 

[ГЛ. 14

Согласно теореме 14.1

процесс л(0>

і — О,

± 1 , . . . ,

является

компонентой процесса ( т л

Л

О )

 

с

т], (/) =

т](0 , опреде­

ляемого уравнениями

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Л/

+

О — Л/+і (О +

ß/e (^ +

О.

 

j =

 

l , . . . , n

— 1,

 

 

Лп

“Ь О =

 

аоЛі (О ~■2

а/Л/+і it) +

 

ß«e it +

1 )>

 

 

 

 

 

 

 

 

 

/=і

 

 

 

 

 

 

 

 

 

 

 

 

где е(0 ,

^ =

О, ± 1 ,

— некоторая

последовательность неза­

висимых гауссовских случайных величин с Me (0 =

0 , Ме2(0 = 1 ,

а числа ß,,

 

 

ß„ задаются с помощью формул (14.8).

 

Поскольку \{t +

1) = а(/ +

1)Ѳ+

Лі (t +

 

1),

то

для процесса

(Іі(0>

•••.

In it))

с

hit) =

lit),

ё/(0 =

Л/(0,

І — 2,

 

 

п, спра­

ведлива

система

рекуррентных уравнений

 

 

 

 

 

 

 

 

Іі it +

1 ) =

° it +

1 ) Ѳ+

h it) + ßiß it + 1),

 

 

 

 

 

 

 

 

 

Ik it +

1) =

lk+\ it) +

ßfeß it + 1),

1 < k < n,

 

 

 

 

 

 

(14.41)

 

 

 

 

 

 

 

 

 

«

- 1

 

 

 

 

 

 

 

 

 

 

 

In it +

1) =

a0(I, it) a (t) Ѳ)

2

Ö/I/+1 it) + ß«e it +

1)*

 

 

 

 

 

 

 

 

 

 

i=i

 

 

 

 

 

 

 

 

 

 

 

Для

фиксированного значения Ѳ обозначим

 

 

 

 

 

 

 

mlit) =

M[lk{t)\F\],

k > \ ,

 

 

 

 

 

 

 

 

 

 

 

Y •/ (t) = M

[(I, (t) — m°i (t)) { l j

(t)

m®Щ ,

 

i,

/ >

1.

 

Система (14.41) является частным случаем системы (13.46),

(13.47),

и,

следовательно,

m\{t)

и у®7-(0

удовлетворяют урав­

нениям (13.56), (13.57).

Важно отметить,

что

в коэффициенты

уравнений,

из которых

определяются

у®jit),

не

входит Ѳ.

На­

чальные условия

у і/(0)

также

от Ѳ не зависят.

Следовательно,

элементы матрицы

уѳ(0 =

||y®/(0||

не зависят

от Ѳ.

 

Будем

по­

этому ее обозначать просто Y(0 = 1Y;/(0ll>

С / ^ 2 .

 

2, . . . ,

п,

При фиксированном

Ѳ уравнения для

m®(0>

 

k =

имеют в соответствии с (13.56) следующий вид:

 

 

 

 

 

< « +

1) =

т*к+1 it) +

 

 

[& ж -

« it +

1) Ѳ -

mi Щ ,

 

 

 

 

 

 

 

 

ßi + У22 (0

 

 

 

 

 

 

 

 

 

 

(14.42)

 

 

 

 

 

 

 

2 s^ks^ .n - ~ 1,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n—1

 

 

 

 

 

 

 

 

 

 

 

тѳп it +

1) =

-

a0(I, (0 — а (0 Ѳ) — 2

ay«y+, (/) +

 

 

 

 

 

 

 

 

 

 

n—1

 

 

 

/=1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ß A - 2 ayVi. /+, (0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

+

 

/ = 1

 

 

■[St + 1 - a ( *

+

l ) 0

- m

f ( f ) ] .

( 1 4 . 4 3 )

 

 

 

 

 

 

ßi + Y a ( 0