Файл: Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 10.04.2024

Просмотров: 350

Скачиваний: 0

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

§ 5]

ПОНЯТИЯ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ

43

4. Преобразования процесса броуновского движения ß= (ß^), t ^ O . Непосредственно проверяется, что

у А®)-

О,

/==0,

ФцДю).

* > 0 ,

 

2/((o)==cß//c2((ö),

с > 0,

являются также процессами броуновского движения.

§5. Некоторые понятия математической статистики

1.В математической статистике первичным является поня­ тие выборочного пространства (X, sé-), состоящего из множества выборок Ж и or-алгебры его подмножеств s&. Обычно Ж— это

пространство последовательностей х = (хи

х2,

...), где л:г е Л?*,

или же пространство функций x = (xt),

0.

В рассматривае­

мых далее задачах статистики процессов диффузионного типа выборочным пространством является пространство непрерывных функций.

Пусть

(U, Ж) — некоторое

другое измеримое пространство.

Всякое

измеримое (точнее,

измеримое)

отображение

у — у{х)

пространства Ж в

U называют статистикой. Если

выборку

x = (xh х2, . . . ) представлять себе как

результаты

наблюдений (например, результаты независимых наблюдений

над некоторой случайной величиной

| = |(со)), то у = у(х) —

это функция от результатов наблюдений.

Примеры статистик:

 

П

 

тп іх) — — Хі — выборочное

среднее,

і=1

 

П

 

Sn{x) ==~^^У ( хі — т «)2 — выборочная дисперсия. (=і

2. Одним из важнейших разделов математической статистики является теория оценивания. Приведем ряд ее понятий, исполь­ зуемых в этой книге.

Будем предполагать, что на выборочном пространстве (Ж, s4)

задано семейство

<^ =

{РѲ, ѲеѲ} вероятностных мер, завися­

щих от параметра

Ѳ,

принадлежащего некоторому параметри­

ческому множеству Ѳ.

Статистика (оценка) у — у(х) называется несмещенной оцен­ кой параметра Ѳе Ѳ, если Мѳу(л:) = Ѳ для всех Ѳ е Ѳ (Мѳ обо­ значает усреднение по мере Рѳ).


44

НЕОБХОДИМЫЕ СВЕДЕНИЯ

 

 

[ГЛ. 1

Статистика

у — у{х)

называется

достаточной для

Ѳ (или

семейства &>), если для каждого / І е і

можно выбрать вариант

условной вероятности

РѲ(Л \у(х)\

не

зависящий от

Ѳ.

 

 

Следующая факторизационная теорема дает необходимые и

достаточные условия

для

того, чтобы

некоторая

статистика

у = у(х) была

достаточной.

семейство

& — {Рѳ, Ѳs

Ѳ} домини­

Т е о р е м а

1.14. Пусть

руется некоторой G-конечной мерой

Я

{т.

е. Рѳ <С Я,

Ѳе

Ѳ).

Статистика у — у{х)

будет

достаточной

в

том и

только

том

случае, если существует $ -измеримая (при каждом

Ѳ е Ѳ )

функция g(y, Ѳ) такая,

что

 

 

 

 

 

 

 

 

dPe{x) =

g(y{x),

Q)dk(x).

 

 

 

 

Последовательность

статистик

уп{х),

п — 1, 2,

 

назы­

вается состоятельной оценкой параметра Ѳ еѲ ,

если для каждого

Ѳ еѲ

^га(х)->Ѳ, л-*оо, по Рѳ-вероятности, т.

е.

 

Рѳ{I Упіх) — Ѳ1> е}->°,

п-> оо,

е > 0.

Последовательность статистик уп{х), п== 1,2,

..., называется

сильно

состоятельной оценкой параметра Ѳе Ѳ,

если уп (х) —>Ѳ

с Рѳ-вероятностью единица для всех ѲеѲ.

 

о-конечной ме­

Пусть семейство УР доминируется

некоторой

рой Я.

Функция

 

 

 

 

^Рѳ(х)

 

 

 

L x (Ѳ) = dX (x)

 

 

 

рассматриваемая (при фиксированном х) как функция от Ѳ, на­

зывается функцией

правдоподобия. Статистика у — у{х),

обра­

щающая функцию правдоподобия Ьх (Ѳ) в максимум,

назы­

вается оценкой максимального правдоподобия.

неизвестного

Для

сравнения

различных

оценок у = у (х )

параметра Ѳ еѲ

вводят (неотрицательные) функции

потерь

W (Ѳ, у) и средние потери

 

 

 

 

 

 

R(Q, y) = MeW(B, у(х)).

 

(1.45)

В тех

случаях,

когда Ѳ е і? ',

y ^ R 1, наиболее

употребитель­

ной функцией потерь является

функция

 

 

 

 

 

W(Q, y) = \ Q - y f .

 

(1.46)

При исследовании качества оценок параметра Ѳ= (Ѳ,,..., 0fe) e

е Rk важную

роль играет1 информационная матрица Фишера

/( Ѳ ) = ||/ г7(Ѳ)||,

где

 

 

 

 

‘ ч (ѳ = м »{ ж :|п Ж W } { Ж |п Ж і w } •

с - 47)


§ 51

ПОНЯТИЯ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ

45

В одномерном случае (Ѳ е R1) величина

 

 

' ( в ) - М , { 4 і п - ^ - м } !

(1.48)

называется информационным количеством Фишера.

 

Для

несмещенных оценок у = у(х) параметра

Ѳ е Ѳ е У ? 1

справедливо (при некоторых условиях регулярности; см. [128], [138]) неравенство Рао Крамера

Мѳ [Ѳ — г/(х)]2> - щ - , Ѳ еѲ .

(1.49)

В многомерном случае (Ѳ е Ѳ s Rk, у е Rk) неравенство (1.49)

заменяется матричным неравенством Рао Крамера*)

 

 

Мѳ [Ѳ — г/(х)][Ѳ — г/(х)]*>/_І(Ѳ),

ѲеѲ.

(1.50)

(Подробнее

см.

[ 128], [138], а также § 8

гл.

7.)

 

 

Несмещенная

оценка

 

y ( x ) ^ R k

параметра

Ѳе

Rk назы­

вается

аффективной, если

для всех

значений

Ѳ е Ѳ

 

 

 

Мѳ[Ѳ -г/(д:)][Ѳ -г/(х)Г =

/ - 1(Ѳ),

 

 

т. е. если в неравенстве

Рао — Крамера

на самом

деле дости­

гается

равенство.

что сам параметр Ѳ еѲ

является случай­

3.

Предположим,

ной величиной

с распределением

п = к (dQ). Тогда

наряду со

средними потерями R(Q, у) можно рассмотреть полные средние

потери

 

 

 

у ) ~ J Д(Ѳ,

 

 

 

 

 

 

 

 

Р{я,

y)n(dö).

 

 

 

 

 

 

 

 

ѳ

 

 

 

 

 

 

Статистика у* = уч(х)

называется байесовской

относительно

априорного

распределения

я, если

 

R(n,

y * )^ R (n ,

у) для лю­

бой другой

статистики у — у(х).

 

минимаксной,

если

Статистика у — у(х)

называется

 

 

 

 

шахД(Ѳ,

у) ^ inf max R (Ѳ, у).

 

 

 

 

 

 

ѳ

 

у

в

 

 

 

 

*) Для симметрических неотрицательно определенных матриц А и В не­ равенство Л ^ В означает, что матрица А В является неотрицательно определенной.


Г Л А В А 2

МАРТИНГАЛЫ И ПОЛУМАРТИНГАЛЫ. ДИСКРЕТНОЕ ВРЕМЯ

§ 1. Полумартингалы на конечном временном интервале

1.

Пусть

(Q, F ,

P) — вероятностное

пространство, f , s

f j C . . .

s F N s

F

— неубывающее семейство о-подалгебр F .

О п р е д е л е н и е

1.

Последовательность

X = {xn, F n),

п =

= 1,

Af, называется

соответственно

супермартингалом

или

субмартингалом,

если М | хп [ <

оо, п = 1, . . . ,

N, и

 

или

M{xn\ F m ) ^ X m

(Р-П. Н.),

п ^

пг,

(2.1)

M{xn\ F m) ^ x m

(Р-п. н.),

п F

т.

(2.2)

 

Супермартингалы

и

субмартингалы

называют также полу­

мартингалами.

 

 

 

 

то Y = (— хп, F n) яв­

Если

Х = (хп, F n) — супермартингал,

ляется

субмартингалом.

Следовательно,

для

изучения свойств

полумартингалов достаточно исследовать лишь супермарткнгалы (или субмартингалы — в зависимости от удобства).

Очевидно, что последовательность X — (xn, F n), одновре­ менно являющаяся супермартингалом и субмартингалом, обра­ зует мартингал-.

М пI F т) = хт (Р-п. н.), п ^ т .

(2.3)

Для супермартингала математические ожидания Ыхп не

возрастают: Мх„ ^ Мхт , п ^ т .

Для мартингала

математиче­

ское ожидание есть константа:

Мх„=Мл:1, n ^ .N .

 

2. Пример 1. Пусть $ = $(со)—случайная величина с М U К 00 и хп — М (51F n). Последовательность (хп, F n) образует мартин­ гал.

П р и м е р 2. Пусть т]1, т]2, ... — последовательность интегри­

руемых независимых случайных величин с Мщ = 0,

і =

1,2,

. ..,

5ra = T)i +

■• • + Л/г. @~п = о{со: Лі. • • •. %}• Тогда

S =

(s„,

F n)

образует

мартингал.