Файл: Медич Д. Статистически оптимальные линейные оценки и управление.pdf

Скачать файл
Заказать решение

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 11.04.2024

Просмотров: 244

Скачиваний: 1

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

Во-вторых, гауссовское распределение очень удобно с аналитической и вычислительной точек зрения. Это вы­ звано тем, что оно полностью определяется своими пер­ вым и вторым моментами, т. е. математическим ожида­ нием и корреляционной матрицей.

Описание вероятности

Для упрощения дальнейших выкладок здесь удоб­ но несколько изменить обозначения. Впоследствии для обозначения случайных векторов будут использоваться

строчные буквы

x, у, z, |

и £.

 

 

 

 

Случайный п-вектор называется распределенным

по

гауссовскому

закону

или

нормально

распределенным,

если его характеристическая функция

имеет вид:

 

 

 

ф ж ( 5 ) = е х р

(jx's

cj-s'Ps),

(3-32)

где

s — п-вектор; х = Е(х);

Р=[(х—х)

(х—х)'].

 

 

В этом параграфе будет показано, что соответствую­

щая плотность

распределения имеет вид:

 

 

 

1

ехріі

 

 

 

(3-33)

 

 

 

4

 

 

с * - * )

 

 

Ѵ ( 2 * ) " | Я |

 

 

 

где

\Р\—определитель

матрицы

Р.

Заметим, что f(x)

не существует, если матрица Р сингулярна. Поэтому га­ уссовское распределение обычно определяют с помощью его характеристической функции. В дальнейшем матрица Р считается положительно определенной и поэтому не­

сингулярной,

если рассматривается

гауссовская

плот­

ность распределения.

 

 

 

 

 

 

 

 

Два случайных вектора х и у соответственно

n-мер­

ный и /n-мерный имеют совместное

гауссовское

распре­

деление,

если

их совместная

характеристическая

функ­

ция выражается соотношением

s

 

1 s

 

?xy(s,

г) =

е х р | /

X

t

s

1

'р

 

 

 

 

 

 

 

'7

 

г

2

г

1 г

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=ехр j / ( * ' s - f у'г)

 

где s — п-вектор; г — /п-вектор; х = Е(х);

у = Е(у);

следующая матрица размера (п + m) X

(п+тп):

Р = \

ѵѵ I

106

(3-34)

Р-

Здесь

Р »

= £ [

( *

- * )

 

(х-х)'};

Рху = Е[{х-Х){у~у)');

 

 

 

Р, ух-

Руу =

 

Е[{у-у){у~у)'}.

Ясно, что вводя

два

(п + т)-мерных вектора

 

X

1

?

=

г

 

У

и

s

 

 

 

 

можно представить уравнение (3-34) в виде, аналогич­ ном уравнению (3-32). Совместная плотность распреде­ ления X Yi у тогда имеет вид:

1

exp

Vr(2n)n+m

I P

 

(3-35)

где матрица P положительно

определена.

При действиях с совместной гауссовской плотностью распределения двух случайных векторов зачастую удоб­

но иметь выражение Р~1 через Рхх,

Рху и Рѵу. Его можно

получить,

обозначая

 

 

 

 

 

 

 

 

 

 

1

! А

в

 

 

 

 

 

 

 

\В'

с

 

 

где

матрицы А, В и С имеют

соответственно

размеры

пХп,

пХт

и тХт

и

определены

таким образом, что

произведение РР~1 равно /, единичной матрице

размера

(п + т) X (п + т). Вычисления

предоставляются

читате­

лю

в качестве упражнения, результат их имеет вид:

А = (Рхх -

Я п Д у - ' Л , » ) - 1

= = < Р ^ +

р^рхуСРуХР^;

(3-36)

 

 

В = ~

АР^Р-1

= -

Р _ , Я ™ С ;

(3.37)

С =

(Р;

РуХР~1Рху)-1

=

Я " ' +

 

Р^РуЛРхуР-1.

(3-38)

 

УУ

 

 

 

 

 

 

 

В предположении, что обратные матрицы в уравне­ ниях (3-36) — (3-38) существуют, используем эти соотно­ шения, чтобы получить выражение для условной гауссов­ ской плотности распределения,

107

Согласно

уравнениям

(3-33)

и

(3-35)

 

 

 

f(x,

у)

 

 

 

 

 

 

(

1

x — x

X

 

V(2n)

 

+™\P

 

ехр {

-

 

 

 

n

 

\У — Ч

 

 

 

 

 

 

 

\

 

 

 

 

 

 

X

 

А

В

х

— X

 

 

 

 

 

 

 

 

В'

С

 

 

 

 

 

 

 

 

 

У— Î

 

 

 

î(y)

=

 

 

I Ру

 

.ехр

 

—т{у-У)'руу

 

 

(У-У)

 

 

 

 

 

 

 

 

 

 

 

 

 

Далее,

с помощью формулы

Байеса

получим:

 

f(x\y)--

 

 

 

 

 

 

i

1

x — X

X

 

| /

(2")2

 

"

 

ехр

-

—

У — '?

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

\Pvv\~

 

 

 

 

 

 

 

 

 

X

А

 

В

 

 

x —x

 

 

(3-39)

 

 

 

В'

 

C-Prf

 

У —7

 

 

 

 

 

 

 

 

 

 

Раскрывая квадратичную форму в показателе сте­

пени и подставляя в нее уравнения (3-37)

и (3-38), по­

лучаем:

 

 

 

 

 

 

 

 

 

 

 

 

X

— s

г

А

В

 

 

х

—X

•-{х — х)'А{х

— х)-\-

у — У

В'

 

 

1 У—у

 

 

 

 

 

 

 

+ 2(х-х)'В(у-у)

 

 

+

{у-у)'

 

(С-Р-])(у~у)

 

=

=

(х-х)'А(х-х)-2(х-

 

 

 

x)'

АРХУР-^ (у-у)

+

 

 

+ (У-

У)' Р-'Ру.АР^

 

(у-у)

=

 

= {

х -

х - РхуР-1

(у - у)]' А[х-х-

Р ^ Р - ' (у - у)].

Обозначая

 

 

 

 

 

 

 

 

 

 

 

 

 

Q

А

 

1 — Р х х

— РхуР,... Р1ухі

 

 

приведем квадратичную форму к виду

 

 

 

Замечая,

что

(х—m) 'Q -1

(х—т).

 

 

 

 

 

 

 

 

 

 

 

 

 

Р

р

XX

РхѴ

 

Рхх -РхуР^Рух

 

Р*У

 

 

 

= 1

 

 

 

 

 

 

 

 

 

 

 

 

РѴх Руѵ

 

 

 

 

О

 

Рии

р7уру

 

108

где In — единичная матрица размера пХп, а Іт — раз­ мера mXtn, получим:

І Я Н І ^ - Р ^ Р - Ч - І І ^ І .

Следовательно,

^ 1 г \ Р х х - Р х у р - І Р у А = т

Уравнение (3-39) теперь можно представить в виде

\- (x - m)' Q-1 (x - m)J. (3-40)

Сравнивая этот результат с уравнением (3-33), мож­ но убедиться, что функция f(x\y) является гауссовской плотностью распределения с математическим ожиданием m и корреляционной матрицей Q. Условное математиче­ ское ожидание и условная корреляционная матрица, оче­ видно, имеют вид:

m = Е (х\у) =

z + РхуР-1 (у - у);

(3-41)

Q = Рх]и =

Р** - Р*уР^Ру*-

(3-42)

Ясно также, что соответствующая условная характе­ ристическая функция принимает вид:

T^Jf) = ец> pirn's — 4 " s'Qs^j,

(3-43)

где s — «-вектор. Заметим, что описание с помощью характеристической функции требует всего лишь неот­ рицательной определенности корреляционной матрицы; в этом случае ее обратная матрица может и не сущест­ вовать.

Важное свойство гауссовского распределения заклю­ чается в том, что оно полностью определяется своими математическим ожиданием и корреляционной матри­ цей. В частности, можно показать, что все моменты гаус­ совской случайной величины можно выразить через ее первых два момента [Л. 3-4].

109

Центральная предельная

теорема

 

Как отмечалось ранее, центральная предельная тео­

рема частично

обосновывает

использование

гауссовского

распределения

в приложениях. Эта теорема

приводится

здесь без доказательства [Л. 3-1—3-5].

 

 

Теорема 3-1. Пусть

х\

і=\,

...,

 

г — множество

неза­

 

висимых

одинаково

распределенных

 

случайных

п-векто-

 

ров

с

конечными

 

математическими

ожиданиями

х1

и

 

корреляционными

матрицами

Р\

Пусть

уг—случайный

 

п-вектор

 

вида

 

 

 

 

г

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

a zT

— п-вектор

вида

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

zr =

[

P r r

i { y

_ r

)

t

 

 

 

 

 

 

где

 

 

 

 

 

 

 

г

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

і=1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

г

Р\

 

 

 

 

 

 

 

 

 

 

 

 

 

 

P r

= r j

 

 

 

 

 

 

 

 

Тогда

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

lim f (гг )

=

т е г е

х р ( - ^ }

 

 

 

 

 

 

 

r-vco

 

 

 

 

 

I

Иными

словами,

при г—>-оо

вектор

zr

становится

га-

!

уссовским

случайным

вектором

с

 

нулевым математиче-

'

ским

ожиданием

и

единичной

корреляционной

матри­

 

цей. Это означает, что если

случайное

явление,

 

на­

 

блюдаемое

на

макроскопическом

 

уровне,

является

!

суперпозицией произвольно

большого

числа

независи-

Iмых случайных явлений, происходящих на микроскопи­ ческом уровне, но такое явление можно описывать с по­ мощью гауссовского распределения.

Линейные

преобразования и линейные

комбинации

Большая

часть

дальнейшей

работы

будет

связана

о линейными

преобразованиями

и линейными комбина­

циями гауссовских

случайных

векторов.

Здесь

будет

UP

Смотрите также файлы