Файл: Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 10.04.2024
Просмотров: 194
Скачиваний: 0
20 |
НЕОБХОДИМЫЕ СВЕДЕНИЯ |
[ГЛ. |
1 |
|
духу теории вероятностей, пренебрегающей событиями нулевой вероятности, все рассматриваемые далее вероятностные про странства (У, #", Р) будут предполагаться (часто без дополни тельного на то указания) полными.
2. Случайные элементы и величины. |
Пусть (У, ST) и (Е, 38) — |
|
два измеримых пространства. |
Функция |
g = g(co), определенная |
на (У, /Г) со значениями в |
Е, называется 9~/^-измеримой, |
если множество {со: g(co)<= B }^S F для всякого ß e l . В теории вероятностей такие функции называют случайными элементами со значениями в Е. В том случае, когда Е — R —действительная прямая, а а-алгебра борелевских подмножеств R, ^"/^-изме римые функции g = g(co) называют (действительными) случай ными величинами. В этом специальном случае #"/$-измеримые функции для краткости называют просто ^"-измеримыми.
Говорят, |
что |
две случайные величины % и ц совпадают |
||||
с вероятностью 1, |
или почти наверное (п. н.), |
если Р (g == rj) == 1. |
||||
В этом случае пишут: |
£ = гі(Р-п. и.). Аналогично, |
запись \ ^ г \ |
||||
(Р-п. н.) означает, |
что |
Р ( |^ т і ) = 1 . |
Запись |
g = |
T] (А; Р-п. н.) |
|
применяется |
для |
обозначения того, |
что g = |
r| почти наверное |
на множестве А относительно меры Р, т. е. P(Af)(£ Ф т))) = 0. Аналогичный смысл придается выражению «|^5гц (А; Р-п. н.)».
Для краткости слова |
«Р-п. н.» |
в дальнейшем |
часто будут |
|
опускаться. |
|
|
|
|
3. Математическое |
ожидание. |
Пусть (У, 9~, |
Р) — вероят |
|
ностное пространство |
и |
g = g(cö)— неотрицательная случайная |
величина. Ее математическое ожидание (обозначаемое М|) есть
интеграл Лебега*) |
J |(со)Р(с/со), по определению равный |
|||||
|
|
Q |
|
|
|
|
|
' п- 2П |
|
|
|
|
|
lim 2 i - 2 reP { t - 2 - n < |
| < ( / + 1)2-"} + п Р { |> п } |
, |
||||
|
оо I t=s*о |
|
|
|
|
J |
где {г • 2~п < g ^ ( г + 1)2~п} |
обозначает множество точек ш е й , |
|||||
для которых г-2 |
" < g(o>) <Дг + 1) • 2~п. |
Аналогично |
опреде |
|||
ляется |
множество |
(I > п). |
В |
силу предположения g(co)lX), |
||
сое У, |
интеграл J |
g(co)P(c/co) |
определен, |
хотя, быть |
может, |
|
|
у |
|
|
|
|
|
ипринимает значение + оо.
Вслучае произвольной случайной величины | = £(<о) мате матическое ожидание (также обозначаемое Mg) определяется
только в том случае, когда одно из математических ожида
*) Для этого интеграла будут использоваться также обозначения
/ I (со) dP, J t dP, J I (со) dP, J gdP.
§ |
1) |
ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ |
|
21 |
||||||
|
|
|
|
|
|
|
|
|||
ний Mg+ или Mg |
конечно (здесь | + = max (g, 0), g~==— min (g, 0)) |
|||||||||
и полагается |
равным Mg+ — Mg- . |
|
|
|
|
|||||
|
Случайная величина g = |
g(co) называется интегрируемой, если |
||||||||
M | g | = M g + + M g ~ < ^ . |
|
|
прямая, 3F— система |
боре- |
||||||
|
Пусть Q = Rl — действительная |
|||||||||
левских множеств на ней. Предположим, что мера |
Р |
на 3F |
||||||||
порождается некоторой функцией распределения F(Я) (т. е. не |
||||||||||
убывающей, |
непрерывной |
справа |
и такой, |
что F (— оо) = 0, |
||||||
F ( o o ) = l ) по |
правилу Р{(а, Ь}} — F{b) — F(a). |
Тогда |
интеграл |
|||||||
ь |
g(Jc)P(dJc) обозначается |
ь |
|
|
|
|
|
|||
J |
[ l(x)dF(x) и называется интегралом |
|||||||||
а |
|
|
|
о, |
|
|
|
|
|
|
Лебега — Стилтьеса. Этот |
интеграл можно свести к интегралу |
|||||||||
по мере Лебега |
P(dt) — dt. А |
именно, пусть |
g (x )^ 0 |
и с(і) = |
||||||
= |
inf(x: F (x)> t). |
Тогда |
|
|
|
|
|
|
||
|
|
|
J |
Ь |
|
F(b) |
|
|
|
|
|
|
|
g (x)dF (x)= |
J |
g (c(i))dt. |
|
|
|
||
|
|
|
a |
|
|
F (a) |
|
|
|
|
4.Условные математические ожидания и вероятности. Пусть
^— некоторая a-подалгебра *) ЗГ, & s 3F и g = g (со) — неотри цательная случайная величина. Условное математическое ожи
дание g относительно *§ (обозначается |
М (g і ^ )) по определению |
|||||
есть любая ^-измеримая функция |
11 = |
1] (со), |
для которой опре |
|||
делено Мл, такая, что для |
любого А е ? |
|
|
|||
|
J"g(co)P(dco) = J |
л(®)Р (dco). |
|
|
||
|
л |
л |
|
|
|
|
Интеграл |
Лебега J g(co)P(dco) по множеству A e f |
есть по |
||||
|
л |
|
|
|
|
|
определению |
f g(co)xA(co)P(dco), где %А(а)—характеристическая |
|||||
|
Q |
|
|
|
|
|
функция множества А: |
1, |
(о ё Л, |
|
|
||
|
ХА («О: |
|
|
|||
|
0, |
со ф. Л. |
|
|
||
|
|
|
|
|||
Интеграл |
f g (со) P(dco) (если только он определен, т. |
е. коне- |
||||
|
Л |
|
|
|
|
|
чен один из двух интегралов |
J g+ (со) Р (dco), J |
g“ (со) Р (dco) j будет |
||||
обозначаться |
М (g; Л). |
л |
|
л |
|
/ |
|
|
|
|
|
') Правильнее было бы говорить под-сг-алгебра.
22 |
НЕОБХОДИМЫЕ СВЕДЕНИЯ |
|
|
[ГЛ. 1 |
|
Пусть на измеримом пространстве (Q, |
заданы две вероят |
||||
ностные меры Р и Q. Говорят, что |
мера |
Р |
абсолютно непре |
||
рывна относительно меры Q (Р <С Q), |
если |
Р(Л) = |
0 для вся |
||
кого ^ e f , |
для которого О(Л) = 0. |
|
Если Р < |
Q, тогда |
|
Т е о р е м а |
Р а д о н а — Н и к о д и м а . |
существует такая неотрицательная случайная величина |=£(со), что для каждого Л ё ^ -
Р ( Л ) = { Kco)Q(dco).
А
ЗГ-измеримая функция | = |(со) единственна с точностью до
стохастической |
эквивалентности (г. е. |
если также Р(Л) — |
= I" Г|(cd) Q(öfco), |
Л ё ^ , то I — ц (Q-п. |
н.) |
A
Случайная величина £(со) называется плотностью одной
меры (Р) по другой (Q) или производной |
Радона — Никодима. |
|
В связи |
с этим определением используют обозначение |(ш) = |
|
dP |
|
|
= -^ q (co). По теореме Радона — Никодима, при условии P < Q , |
||
|
dP |
|
плотность -^q- всегда существует. |
|
|
Если |
g (со) = Ха (®)—характеристическая |
функция множества |
Л е |
(иначе — индикатор множества Л), |
то М(%л (со)|3?) обо |
значается Р( Л \3) и называется условной вероятностью события А относительно 3. Так же, как и М(£|^), условная вероятность
Р ( Л | ^ ) |
определяется |
однозначно с точностью до множеств |
||
P -меры нуль (зависящих, быть может, от Л). |
||||
Функция Р(Л, со), Л е ^ , |
w e Q , удовлетворяющая условиям:’ |
|||
1) |
при каждом фиксированном со она является вероятностной |
|||
мерой |
на |
множествах |
Л ё |
^ , |
2) |
для |
каждого Л ё |
J |
она является ^-измеримой, |
3) |
с вероятностью 1 для каждого Л ё J |
|||
|
|
Р(Л, |
0>) = Р(Л 13), |
называется условным распределением вероятностей относи тельно 3 или регулярной условной вероятностью.
Существование такой функции означает, что условные вероятности могут быть так определены, чтобы для каждого со они задавали вероятностную меру на Л е ^ .
В регулярном случае условные математические ожидания могут быть найдены как интегралы по условным вероятностям:
М ( Ш ) = I !(ü>)P(dcD|£).
Ü
Если £=•!((*>)— произвольная случайная величина для кото рой Mg существует (т. е. М |+ < <х> или Mg“ < оо), то условное
§ 11 |
ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ |
23 |
математическое ожидание определяется формулой
u { i \ s ) = m { t \ s ) - m { r \ s ) .
Если ^ — некоторая система подмножеств пространства Ü, то через а {si-) обозначается сг-алгебра, порожденная системой «2/,
т. е. наименьшая |
сг-алгебра, |
содержащая si. Если г) == rj(со) — |
|
некоторая |
^~/^-измеримая |
функция со значениями в Е, то |
|
через а(ц) |
(или |
обозначается наименьшая сг-алгебра, отно |
сительно которой измерим случайный |
элемент ц(со). Иначе |
||||
говоря, ст(г|) |
есть сг-алгебра, состоящая из множеств |
вида |
|||
{со: T|_1(ß), В <= J?}. Для краткости условное математическое ожи |
|||||
дание м (| w ') |
обозначается |
М (||т]). |
Аналогично, для Р(Л \ ^ ) |
||
используется |
обозначение |
Р (^4 1rj). |
В |
частности, если |
слу |
чайный элемент rj(со) является «-мерным вектором случайных
величин (г),, |
. . . , трг), то для М (ё |^ -Т1) используется обозначение |
||||||
М (| |тц, • • |
л„). |
|
|
|
|
|
|
Отметим основные свойства условных математических ожи |
|||||||
даний: |
|
|
(Р-п. н.). |
|
|
|
|
1. |
М ( ! | ^ ) ^ 0 , если |
|
|
|
|||
2. |
М (1 \ 9 ) = \ (Р-п. н.). |
М (ц \S) |
(Р-п. |
н.), |
если только |
||
3. |
М (I + |
л \S) = М (£, \S) + |
|||||
выражение |
М ( | |^) + |
М (л 1^) |
определено. |
|
|
||
4. |
М (|л I®) = |М (л \S), если М|л существует и g ^-измерима. |
||||||
5. |
Если |
т0 Р-п. н. |
М ( £ 1 ^ ) = М [М (£ \S2) І^іі- |
||||
6. |
Если |
er-алгебры |
S и |
независимы |
(т. |
е. Р(ЛП-6)== |
|
= Р (Л) Р (В) для любых Л ^ S , |
В е ЗГЬ), |
то Р-п. н. |
М {%|^ )= М |. |
||||
В частности, если |
S — {0 , |
£2}— тривиальная |
сг-алгебра, то |
М( Ц£) = Мі (Р-п- Н).
5.Сходимость случайных величин. Теоремы о предельном
переходе под знаком математического ожидания. Говорят, что последовательность случайных величин п — 1, 2, . . . , схо дится по вероятности к случайной величине £ (используя при
этом запись — *1 или | = Р-1іш|„), если для каждого е > 0
lim Р {I ln — 1 1> е} = 0.
П->оо |
случайных |
величин |
п — 1, 2, . .. , |
||
Последовательность |
|||||
называется сходящейся |
к случайной |
величине | |
с вероятностью |
||
единица или почти наверное (и пишется: \ п-> £ или |
-> | (Р-п. н.)), |
||||
если множество {со: %п(со) У* | |
(со)} имеет P-меру нуль. Заметим, что |
||||
|
оо |
оо |
оо |
<7 }’ |
|
І п - + 1 } = П U Пj I |
|||||
|
г— і |
п=1 |
k=n |
|
|
откуда, в частности, вытекает, что сходимость с вероятностью 1 влечет за собой сходимость по вероятности.
24 |
|
НЕОБХОДИМЫЕ СВЕДЕНИЯ |
|
|
[ГЛ. I |
|||
Будем писать |
t |
I |
или |
Іп \ 1 (Р-п. |
н.), если |
^-н> £ (Р-п. н.) |
||
и Ѣп^іп+і (Р-п. н.) |
|
для всех п — 1, |
2, ... |
Аналогично |
опре |
|||
деляется и сходимость Іп |
Говорят также, |
что |
на мно |
|||||
жестве y l s f , если |
Р(АП(^п7 4 |)) = |
0. |
| n, п = 1, |
2, . . . , |
||||
Последовательность |
случайных величин |
называется сходящейся в среднем квадратическом к £ (обозна
чается: £=-l.i.m .L), |
если М§2 < оо, |
М |2 < оо и МІ£ — S,I2 —>О, |
|||
П-*оо |
У |
|
|
|
' |
П - > о о . |
|
|
величин |
п = 1 , |
2, . . . , |
Последовательность случайных |
|||||
с М 11„ I < оо называется слабо сходящейся к |
случайной |
вели |
|||
чине £ с М Ш < |
|
если для любой ограниченной случайной |
|||
величины г) — г)(©) |
|
lim М£„г|= М£г|. |
|
|
|
|
|
|
|
||
|
|
П->ОС |
|
|
|
Приведем основные теоремы о предельном переходе под знаком условного математического ожидания, систематически
используемые |
в дальнейшем. |
|
сходимости). |
Пусть а-алгебра |
||||
Т е о р е м а |
1.1 (о монотонной |
|||||||
3 £ £Г. |
|
|
|
|
|
|
|
|
Если %п f £(Р-п. н.) и М|~ < |
оо, |
то М (ln \3) t |
М (£ \3) (Р-п. |
н.). |
||||
Е сли\п I |(Р-п. н.) и |
< |
оо, |
то |
|
М (I l^) (Р-п. |
н.). |
||
Для формулировки других критериев необходимо ввести |
||||||||
понятие равномерной |
интегрируемости. |
|
|
|||||
Семейство |
случайных |
величин {£а, а <= 1} называется равно |
||||||
мерно интегрируемым, если |
|
|
|
|
|
|||
|
lim |
sup |
|
J |
Ua|rfP = 0. |
|
(1.1) |
|
|
Х - > оо |
а <=91 |
|
|
|
|
|
|
|
|
|
( И а | > Д |
|
|
|
||
Условие (1.1) эквивалентно следующим двум условиям: |
|
|||||||
s u p M | | a ) <oo |
и |
lim |
sup |
I la I dP = 0, A ^ S E . |
|
|||
a |
|
|
Р (Л )-» 0 |
a |
д |
|
|
Т е о р е м а 1.2 (лемма Фату). Если последовательность слу чайных величин £*, п = 1, 2, . . . , равномерно интегрируема и
M(limsup£„) существует, то
П
М (lim sup ln \3) >l i m sup M ( | \3) |
(Р-п. н.), |
(1.2) |
|
П |
П |
|
|
где *) lim sup g„ — inf sup l m.
|
ti |
n m |
|
|
__ *) |
Для верхнего предела limпsup |
используется также |
обозначение |
|
Пт 4л- |
Соответственно нижний предел |
lim inf %п обозначается |
lim |
|
« |
|
|
п |
~ |