Файл: Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 10.04.2024

Просмотров: 194

Скачиваний: 0

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

20

НЕОБХОДИМЫЕ СВЕДЕНИЯ

[ГЛ.

1

 

духу теории вероятностей, пренебрегающей событиями нулевой вероятности, все рассматриваемые далее вероятностные про­ странства (У, #", Р) будут предполагаться (часто без дополни­ тельного на то указания) полными.

2. Случайные элементы и величины.

Пусть (У, ST) и (Е, 38)

два измеримых пространства.

Функция

g = g(co), определенная

на (У, /Г) со значениями в

Е, называется 9~/^-измеримой,

если множество {со: g(co)<= B }^S F для всякого ß e l . В теории вероятностей такие функции называют случайными элементами со значениями в Е. В том случае, когда Е — R —действительная прямая, а а-алгебра борелевских подмножеств R, ^"/^-изме­ римые функции g = g(co) называют (действительными) случай­ ными величинами. В этом специальном случае #"/$-измеримые функции для краткости называют просто ^"-измеримыми.

Говорят,

что

две случайные величины % и ц совпадают

с вероятностью 1,

или почти наверное (п. н.),

если Р (g == rj) == 1.

В этом случае пишут:

£ = гі(Р-п. и.). Аналогично,

запись \ ^ г \

(Р-п. н.) означает,

что

Р ( |^ т і ) = 1 .

Запись

g =

T] (А; Р-п. н.)

применяется

для

обозначения того,

что g =

r| почти наверное

на множестве А относительно меры Р, т. е. P(Af)(£ Ф т))) = 0. Аналогичный смысл придается выражению «|^5гц (А; Р-п. н.)».

Для краткости слова

«Р-п. н.»

в дальнейшем

часто будут

опускаться.

 

 

 

 

3. Математическое

ожидание.

Пусть (У, 9~,

Р) — вероят­

ностное пространство

и

g = g(cö)— неотрицательная случайная

величина. Ее математическое ожидание (обозначаемое М|) есть

интеграл Лебега*)

J |(со)Р(с/со), по определению равный

 

 

Q

 

 

 

 

 

' п- 2П

 

 

 

 

 

lim 2 i - 2 reP { t - 2 - n <

| < ( / + 1)2-"} + п Р { |> п }

,

 

оо I t=s*о

 

 

 

 

J

где {г • 2~п < g ^ ( г + 1)2~п}

обозначает множество точек ш е й ,

для которых г-2

" < g(o>) <Дг + 1) • 2~п.

Аналогично

опреде­

ляется

множество

(I > п).

В

силу предположения g(co)lX),

сое У,

интеграл J

g(co)P(c/co)

определен,

хотя, быть

может,

 

у

 

 

 

 

 

ипринимает значение + оо.

Вслучае произвольной случайной величины | = £(<о) мате­ матическое ожидание (также обозначаемое Mg) определяется

только в том случае, когда одно из математических ожида­

*) Для этого интеграла будут использоваться также обозначения

/ I (со) dP, J t dP, J I (со) dP, J gdP.


§

1)

ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ

 

21

 

 

 

 

 

 

 

 

ний Mg+ или Mg

конечно (здесь | + = max (g, 0), g~==— min (g, 0))

и полагается

равным Mg+ — Mg- .

 

 

 

 

 

Случайная величина g =

g(co) называется интегрируемой, если

M | g | = M g + + M g ~ < ^ .

 

 

прямая, 3F— система

боре-

 

Пусть Q = Rl — действительная

левских множеств на ней. Предположим, что мера

Р

на 3F

порождается некоторой функцией распределения F(Я) (т. е. не­

убывающей,

непрерывной

справа

и такой,

что F (— оо) = 0,

F ( o o ) = l ) по

правилу Р{(а, Ь}} — F{b) F(a).

Тогда

интеграл

ь

g(Jc)P(dJc) обозначается

ь

 

 

 

 

 

J

[ l(x)dF(x) и называется интегралом

а

 

 

 

о,

 

 

 

 

 

Лебега — Стилтьеса. Этот

интеграл можно свести к интегралу

по мере Лебега

P(dt) — dt. А

именно, пусть

g (x )^ 0

и с(і) =

=

inf(x: F (x)> t).

Тогда

 

 

 

 

 

 

 

 

 

J

Ь

 

F(b)

 

 

 

 

 

 

g (x)dF (x)=

J

g (c(i))dt.

 

 

 

 

 

 

a

 

 

F (a)

 

 

 

 

4.Условные математические ожидания и вероятности. Пусть

^— некоторая a-подалгебра *) ЗГ, & s 3F и g = g (со) — неотри­ цательная случайная величина. Условное математическое ожи­

дание g относительно (обозначается

М (g і ^ )) по определению

есть любая ^-измеримая функция

11 =

1] (со),

для которой опре­

делено Мл, такая, что для

любого А е ?

 

 

 

J"g(co)P(dco) = J

л(®)Р (dco).

 

 

 

л

л

 

 

 

 

Интеграл

Лебега J g(co)P(dco) по множеству A e f

есть по

 

л

 

 

 

 

 

определению

f g(co)xA(co)P(dco), где %А(а)—характеристическая

 

Q

 

 

 

 

 

функция множества А:

1,

(о ё Л,

 

 

 

ХА («О:

 

 

 

0,

со ф. Л.

 

 

 

 

 

 

Интеграл

f g (со) P(dco) (если только он определен, т.

е. коне-

 

Л

 

 

 

 

 

чен один из двух интегралов

J g+ (со) Р (dco), J

g“ (со) Р (dco) j будет

обозначаться

М (g; Л).

л

 

л

 

/

 

 

 

 

 

') Правильнее было бы говорить под-сг-алгебра.


22

НЕОБХОДИМЫЕ СВЕДЕНИЯ

 

 

[ГЛ. 1

Пусть на измеримом пространстве (Q,

заданы две вероят­

ностные меры Р и Q. Говорят, что

мера

Р

абсолютно непре­

рывна относительно меры Q (Р <С Q),

если

Р(Л) =

0 для вся­

кого ^ e f ,

для которого О(Л) = 0.

 

Если Р <

Q, тогда

Т е о р е м а

Р а д о н а — Н и к о д и м а .

существует такая неотрицательная случайная величина |=£(со), что для каждого Л ё ^ -

Р ( Л ) = { Kco)Q(dco).

А

ЗГ-измеримая функция | = |(со) единственна с точностью до

стохастической

эквивалентности (г. е.

если также Р(Л) —

= I" Г|(cd) Q(öfco),

Л ё ^ , то I — ц (Q-п.

н.)

A

Случайная величина £(со) называется плотностью одной

меры (Р) по другой (Q) или производной

Радона Никодима.

В связи

с этим определением используют обозначение |(ш) =

dP

 

 

= -^ q (co). По теореме Радона — Никодима, при условии P < Q ,

 

dP

 

плотность -^q- всегда существует.

 

Если

g (со) = Ха (®)—характеристическая

функция множества

Л е

(иначе — индикатор множества Л),

то М(%л (со)|3?) обо­

значается Р( Л \3) и называется условной вероятностью события А относительно 3. Так же, как и М(£|^), условная вероятность

Р ( Л | ^ )

определяется

однозначно с точностью до множеств

P -меры нуль (зависящих, быть может, от Л).

Функция Р(Л, со), Л е ^ ,

w e Q , удовлетворяющая условиям:’

1)

при каждом фиксированном со она является вероятностной

мерой

на

множествах

Л ё

^ ,

2)

для

каждого Л ё

J

она является ^-измеримой,

3)

с вероятностью 1 для каждого Л ё J

 

 

Р(Л,

0>) = Р(Л 13),

называется условным распределением вероятностей относи­ тельно 3 или регулярной условной вероятностью.

Существование такой функции означает, что условные вероятности могут быть так определены, чтобы для каждого со они задавали вероятностную меру на Л е ^ .

В регулярном случае условные математические ожидания могут быть найдены как интегралы по условным вероятностям:

М ( Ш ) = I !(ü>)P(dcD|£).

Ü

Если £=•!((*>)— произвольная случайная величина для кото­ рой Mg существует (т. е. М |+ < <х> или Mg“ < оо), то условное


§ 11

ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ

23

математическое ожидание определяется формулой

u { i \ s ) = m { t \ s ) - m { r \ s ) .

Если ^ — некоторая система подмножеств пространства Ü, то через а {si-) обозначается сг-алгебра, порожденная системой «2/,

т. е. наименьшая

сг-алгебра,

содержащая si. Если г) == rj(со) —

некоторая

^~/^-измеримая

функция со значениями в Е, то

через а(ц)

(или

обозначается наименьшая сг-алгебра, отно­

сительно которой измерим случайный

элемент ц(со). Иначе

говоря, ст(г|)

есть сг-алгебра, состоящая из множеств

вида

{со: T|_1(ß), В <= J?}. Для краткости условное математическое ожи­

дание м (| w ')

обозначается

М (||т]).

Аналогично, для Р(Л \ ^ )

используется

обозначение

Р (^4 1rj).

В

частности, если

слу­

чайный элемент rj(со) является «-мерным вектором случайных

величин (г),,

. . . , трг), то для М (ё |^ -Т1) используется обозначение

М (| |тц, • •

л„).

 

 

 

 

 

Отметим основные свойства условных математических ожи­

даний:

 

 

(Р-п. н.).

 

 

 

1.

М ( ! | ^ ) ^ 0 , если

 

 

 

2.

М (1 \ 9 ) = \ (Р-п. н.).

М (ц \S)

(Р-п.

н.),

если только

3.

М (I +

л \S) = М (£, \S) +

выражение

М ( | |^) +

М (л 1^)

определено.

 

 

4.

М (|л I®) = |М (л \S), если М|л существует и g ^-измерима.

5.

Если

т0 Р-п. н.

М ( £ 1 ^ ) = М [М (£ \S2) І^іі-

6.

Если

er-алгебры

S и

независимы

(т.

е. Р(ЛП-6)==

= Р (Л) Р (В) для любых Л ^ S ,

В е ЗГЬ),

то Р-п. н.

М {%|^ )= М |.

В частности, если

S — {0 ,

£2}— тривиальная

сг-алгебра, то

М( Ц£) = Мі (Р-п- Н).

5.Сходимость случайных величин. Теоремы о предельном

переходе под знаком математического ожидания. Говорят, что последовательность случайных величин п — 1, 2, . . . , схо­ дится по вероятности к случайной величине £ (используя при

этом запись — *1 или | = Р-1іш|„), если для каждого е > 0

lim Р {I ln — 1 1> е} = 0.

П->оо

случайных

величин

п — 1, 2, . .. ,

Последовательность

называется сходящейся

к случайной

величине |

с вероятностью

единица или почти наверное (и пишется: \ п-> £ или

-> | (Р-п. н.)),

если множество {со: %п(со) У* |

(со)} имеет P-меру нуль. Заметим, что

 

оо

оо

оо

<7 }’

І п - + 1 } = П U Пj I

 

г— і

п=1

k=n

 

 

откуда, в частности, вытекает, что сходимость с вероятностью 1 влечет за собой сходимость по вероятности.


24

 

НЕОБХОДИМЫЕ СВЕДЕНИЯ

 

 

[ГЛ. I

Будем писать

t

I

или

Іп \ 1 (Р-п.

н.), если

^-н> £ (Р-п. н.)

и Ѣп^іп+і (Р-п. н.)

 

для всех п — 1,

2, ...

Аналогично

опре­

деляется и сходимость Іп

Говорят также,

что

на мно­

жестве y l s f , если

Р(АП(^п7 4 |)) =

0.

| n, п = 1,

2, . . . ,

Последовательность

случайных величин

называется сходящейся в среднем квадратическом к £ (обозна­

чается: £=-l.i.m .L),

если М§2 < оо,

М |2 < оо и МІ£ — S,I2 —>О,

П-*оо

У

 

 

 

'

П - > о о .

 

 

величин

п = 1 ,

2, . . . ,

Последовательность случайных

с М 11„ I < оо называется слабо сходящейся к

случайной

вели­

чине £ с М Ш <

 

если для любой ограниченной случайной

величины г) — г)(©)

 

lim М£„г|= М£г|.

 

 

 

 

 

 

 

 

П->ОС

 

 

 

Приведем основные теоремы о предельном переходе под знаком условного математического ожидания, систематически

используемые

в дальнейшем.

 

сходимости).

Пусть а-алгебра

Т е о р е м а

1.1 (о монотонной

3 £ £Г.

 

 

 

 

 

 

 

 

Если %п f £(Р-п. н.) и М|~ <

оо,

то М (ln \3) t

М (£ \3) (Р-п.

н.).

Е сли\п I |(Р-п. н.) и

<

оо,

то

 

М (I l^) (Р-п.

н.).

Для формулировки других критериев необходимо ввести

понятие равномерной

интегрируемости.

 

 

Семейство

случайных

величин {£а, а <= 1} называется равно­

мерно интегрируемым, если

 

 

 

 

 

 

lim

sup

 

J

Ua|rfP = 0.

 

(1.1)

 

Х - > оо

а <=91

 

 

 

 

 

 

 

 

 

( И а | > Д

 

 

 

Условие (1.1) эквивалентно следующим двум условиям:

 

s u p M | | a ) <oo

и

lim

sup

I la I dP = 0, A ^ S E .

 

a

 

 

Р (Л )-» 0

a

д

 

 

Т е о р е м а 1.2 (лемма Фату). Если последовательность слу­ чайных величин £*, п = 1, 2, . . . , равномерно интегрируема и

M(limsup£„) существует, то

П

М (lim sup ln \3) >l i m sup M ( | \3)

(Р-п. н.),

(1.2)

П

П

 

 

где *) lim sup g„ inf sup l m.

 

ti

n m

 

 

__ *)

Для верхнего предела limпsup

используется также

обозначение

Пт 4л-

Соответственно нижний предел

lim inf %п обозначается

lim

«

 

 

п

~