Файл: Медич Д. Статистически оптимальные линейные оценки и управление.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 11.04.2024
Просмотров: 239
Скачиваний: 1
для — и f(</)=0 в остальных точках. Формула Байеса при водит к
— К у < 1
> t(xly) |
f(x/y) |
0,5 |
0,577 |
|
|
|
|
|
|
|
X |
|
|
|
|
|
X |
|
|
|
-1 |
0 |
|
» |
|
|
-0,8БВ |
О |
0,8ВБ |
|
||
|
|
|
у = |
0 |
|
|
|
|
у |
=0,5 |
|
|
|
|
|
Рис. 3-5. Условные плотности распределе |
|
||||||||||
|
|
ния для у=0 |
и (/=0,5. |
|
|
|
|
|
|
||||
|
и f(.x\y)=0 |
в остальных |
точках. Условная |
плотность распределения |
|||||||||
|
изображена на рис. 3-5 для у=0 |
и 0,5. |
|
|
|
|
|
||||||
|
3-3. МОМЕНТЫ И ХАРАКТЕРИСТИЧЕСКАЯ |
ФУНКЦИЯ |
|
||||||||||
|
Математическое |
ожидание |
и |
корреляция |
|
||||||||
|
Математическое |
ожидание |
скалярной |
или вектор |
|||||||||
|
ной функции . g(' ) случайного вектора X |
определяется |
|||||||||||
|
как |
|
|
со |
со |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
E[g(X)]= |
j |
••• J |
g(x)f(x)dx1...dxn, |
|
(3-12) |
||||||
|
|
|
|
—СО —CO |
|
|
|
|
|
|
|||
|
где X — я-вектор. Аналогично для математического |
ожи |
|||||||||||
|
дания функции g(-, |
•) двух |
случайных |
векторов X и Y |
|||||||||
|
имеем: |
|
со |
со |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
Е [gУ)] |
= |
Ç • • • j |
g (X, у) f (х, |
у) dxx ... dxndyx... |
dym. |
|||||||
|
|
|
—со |
—со |
|
|
|
|
|
|
|
|
|
|
Здесь х —«-вектор; |
у — m-вектор. |
|
|
|
|
|||||||
|
Если |
g(X)=X, |
то полученное |
выражение |
|
||||||||
|
|
|
|
|
со |
со |
|
|
|
|
|
|
|
|
|
В[Х\= |
|
j ... j xf (jc)dx, |
... dxn |
(3-13) |
|||||||
|
|
|
|
—со |
—со |
|
|
|
|
|
|
||
|
называется |
математическим |
ожиданием, |
средним |
зна- |
||||||||
' |
* чением или просто средним |
случайного вектора X. Обыч- |
|||||||||||
, |
но оно |
обозначается |
X |
или х |
и, |
очевидно, является |
|||||||
|
~"п-вектором. |
|
|
|
|
|
|
|
|
|
|
|
Чтобы убедиться, что это выражение действительно является средним значением X, рассмотрим эксперимент с точки зрения относительной частоты событий. Пред
положим, что |
эксперимент |
повторяется большое число |
|||||
раз |
(ІѴ раз) |
и х1 — значение, |
принимаемое случайным |
||||
л-вектором X |
в і-м испытании. Тогда, |
усредняя значение |
|||||
X по N испытаниям, для |
некоторого |
достаточно |
малого |
||||
л-вектора Ах1 |
получаем: |
|
|
|
|
|
|
|
|
S x j N (xj |
< |
X < |
xi + Ах*) |
|
|
|
|
i |
|
|
|
|
|
где |
N (x^Xg^xi+Ax*)—число |
|
|
экспериментов, |
при ко |
торых значение ХІ лежит в указанных границах. Так как
величина |
N (х*^Х^.х*+'Ах*)/Ы |
при увеличении N стре |
||
мится к |
вероятности |
Р(хі^:Х^.хі+Ахі), |
равной |
|
[х(х*)Ах{ |
с точностью до |
членов |
первого |
порядка по |
Ах1, то |
|
|
|
|
|
H ^ 7 ( j c * ) |
àx\ |
|
|
|
i |
|
|
|
где индекс N означает, что среднее значение вычисляет ся по N испытаниям. В пределе при Ах*—>0 получим вы ражение (3-13).
Если обозначить через f(x) плотность, с которой еди ничная масса распределена в n-мерном евклидовом про
странстве, то X будет центром |
распределенной |
массы. |
|||
Иными |
словами, Е(Х) |
является |
первым |
моментом |
плот |
ности |
распределения. |
(X—х)', |
|
|
|
Если принять g(X) |
= (X—x) |
то можно |
полу |
||
чить выражение |
|
|
|
|
|
|
|
00 |
оо |
- x) (x - |
|
|
Е [(X — х)(Х |
— x)'] = j |
... j (x |
|
|
|
|
—00 |
—00 |
|
|
|
— x)'f(x)dxl...dxw |
|
(3-14) |
представляющее собой симметрическую матрицу разме
ра |
пХп. |
Это |
математическое |
ожидание называют |
кор |
||
реляционной |
матрицей X |
и |
обычно обозначают |
Рхх, |
|||
Рхх |
или Р (последнее обозначение используют, если яс |
||||||
но, к какому |
случайному вектору относится матрица). |
||||||
|
Если считать f(x) функцией плотности распределения |
||||||
массы в n-мерном евклидовом |
пространстве, |
то матрица |
|||||
Р |
будет |
вторым моментом |
распределенной |
массы |
отно- |
93
ситбльно |
центра |
тяжести. Поэтому ее часто |
называют |
|||||||
вторым |
центральным |
моментом |
или корреляционным |
мо |
||||||
ментом |
X. |
|
|
|
Р определяется |
|
|
|||
Каждый |
элемент |
матрицы |
выраже |
|||||||
нием |
со |
со |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Р ц = |
I " ' j ^ Х і ~ ( X j ~ х ^ ï ^ d x l |
' ' ' d x n |
= |
|
|
|||||
|
—со |
—оо |
|
|
|
|
|
|
|
|
|
со |
|
|
|
|
|
|
|
|
|
|
= j J |
{Xi ~ |
Xi) {Xj — Xä) fx ^ (Хіг |
Xj) |
dXidXj |
|
|
|||
|
—CO |
|
|
|
|
|
|
|
|
|
для t, / = 1 , ..., п. Если і = / , то получим |
выражение |
|
||||||||
|
|
|
|
00 |
|
|
|
|
|
|
|
|
Р і і ~ И ^ X i |
~ " ^ |
|
|
|
|
|
||
|
|
|
—00 |
|
|
|
fx |
(ХІ) > 0 |
||
Эта |
величина |
неотрицательна, так как |
||||||||
для всех ХІ. В то же время элемент рц, ІФ\ |
|
г |
|
|||||||
может |
быть |
как положительным, так и отрицательным или нулем.
Элемент рц называется |
дисперсией |
случайной |
вели |
|
чины ХІ, а его квадратный |
корень — стандартным |
откло |
||
нением. |
Элемент рц, іф\ |
называют |
корреляцией |
слу |
чайных |
величин ХІ и Xj. |
|
|
|
Если |
дисперсия случайной величины является |
мерой |
отклонения случайной величины относительно ее сред него значения, то корреляционная матрица допускает ту же интерпретацию для случайного вектора. Диагональ ные элементы Р представляют собой просто дисперсии
компонент вектора |
X. Однако недиагональные элементы |
|||||||||
имеют иную |
природу, |
они являются |
мерой |
взаимосвязи |
||||||
или корреляции |
между |
парами |
случайных |
величин ХІ |
И |
|||||
XJ; і, / = 1, ..., п, іф]. |
(Более подробно понятие |
корре |
||||||||
ляции рассматривается |
в § 3-4.) |
|
(3-14) матрица Р |
|||||||
Заметим, |
что в силу определения |
|||||||||
неотрицательно |
определена. Это следует из того, что вы |
|||||||||
ражение под интегралом |
(х—х) |
(х—х)' |
представляет |
|||||||
собой неотрицательно |
определенную |
матрицу, a |
f(x)^ |
|||||||
для всех x. |
|
|
|
|
|
|
|
Р |
||
Заметим |
также, что |
возможно |
представление |
|||||||
в виде |
|
|
|
|
|
|
|
|
|
|
|
|
00 |
00 |
|
|
|
|
|
|
|
Р= |
Ç . . . J xx'f(x)dx,...dxn |
— xx'. |
(3-15) |
—00 —оо
94
Для двух случайных векторов выражение
|
|
PXY |
= E[(X-x)(Y-m |
= |
|
|
|
|
ОО |
00 |
|
|
|
|
|
|
|
= S • • • $ |
( х ~ х) |
(У ~ |
ѴУ î ( х - У) d x i ••• dxndy, ... dym |
(3-16) |
||||
— 00 |
— 0 0 |
взаимную |
корреляционную |
матрицу |
X |
и |
Y. |
|
определяет |
||||||||
В уравнении (3-16) х — «-вектор, у — m-вектор; f(x, |
у) |
— |
||||||
совместная |
плотность |
распределения X |
и У; х = Е(х); |
и |
||||
у = Е(у). |
Очевидно, матрица Рху имеет |
размер |
пХт |
и |
Рху = Р'ух- Однако даже для т = п в общем случае матри ца Рху не обязательно должна быть симметрической или неотрицательно определенной.
Мы рассмотрели только первый и второй моменты распределения вероятностей. В частном случае распре деление вероятностей можно описать с помощью перво го и второго моментов, если известна функциональная форма этого распределения и если все параметры, от которых оно зависит, можно определить, зная эти два
момента. |
Обычно |
же для |
такого описания требуются |
моменты |
высшего |
порядка, т. е. моменты Л* и Xj поряд |
|
ка r = k + l, определяемые |
соотношением |
||
|
СО |
00 |
|
|
— 00 |
— 0 0 |
|
Однако в рамках данной книги знания х, Рхх и Рху оказывается достаточным для выполнения всех необхо димых расчетов. Причина этого станет понятной в даль нейшем.
Пример 3-3. Рассмотрим двумерный случайный вектор X с плот ностью распределения в виде двумерной функции Рэлея:
|
|
|
|
•<*і+*І> |
|
|
|||
f (x) = f (х,, х г ) = |
< 4 х і * * * |
|
|
|
ДЛЯ X,, |
ХгЗгО; |
|||
Тогда |
|
|
|
|
|
|
в остальных |
точках. |
|
|
|
J |
|
х,х2<? |
1 |
|
2 |
dXldx2. |
|
Отсюда |
|
Яо |
|
-(л:2 |
+ |
|
|
|
|
|
|
х\х2е |
|
X2) |
|
|
|||
|
|
1 |
|
2 |
dx,dx2 : |
|
|||
|
|
|
|
|
|
|
|
||
? |
-х1 * Г 2 - • * ? . |
|
|
|
1 |
Ѵт. |
|||
\ х2е |
ах2 |
\ х\е |
аХі |
= |
4- т^- |
|
|||
о |
|
|
|
|
|
|
|
|
|
95
Аналогично Е (Х2) |
= —^— • т а к 4 |
X |
0 |
|
|
||||
Чтобы определить |
корреляционную |
|
матрицу, |
используем уравне |
|||||
ние (3-15) |
|
|
|
|
|
|
|
|
|
со |
|
|
|
|
|
|
|
|
1 I |
Р = 4 |
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
1 1 |
||
|
|
|
|
|
|
|
|
||
Тогда |
|
|
|
|
|
|
|
|
|
0ц = |
4 | | " х ? х |
—<*? + *2) |
|
|
71 |
||||
^ |
rfx,rfx2 |
— |
- j - " |
||||||
|
|
о |
|
|
|
|
|
|
|
|
|
00 |
-хX22 |
°Г |
|
2 dx2 |
|
|
|
|
= |
|
3<? |
1 |
rfx, l x<?2 |
— -r- = |
|||
|
4^ х\е |
*' |
dx, J |
|
|
|
|
||
|
|
= |
4-- 2 |
2 |
|
|
|
|
|
Заметим, |
что Ргч. = |
Pw |
|
|
|
|
|
||
Наконец, |
|
|
|
|
|
|
|
|
|
Р\г = |
Pu = 4 I \ |
xfcfe |
|
|
|
|
|||
|
|
= |
4- |
4 |
4 |
|
4 |
|
|
|
|
|
|
|
|
|
|||
и корреляционная матрица принимает вид: |
|
|
|||||||
|
|
|
|
|
71 |
|
|
|
|
|
|
|
|
|
— г |
|
0 |
|
|
о1 — ^
Смысл нулевых недиагональных элементов матрицы Р будет рас
смотрен в § 3-4.
Условное |
математическое |
ожидание |
и |
условная |
||
корреляция |
|
|
|
|
|
|
Условное |
математическое |
ожидание |
скалярной или |
|||
векторной функции g(-) случайного |
вектора |
X относи |
||||
тельно |
другого |
случайного вектора |
У |
согласно (3-12) |
||
96 г |
" |
|
|
|
|
|