Файл: Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 10.04.2024
Просмотров: 350
Скачиваний: 0
§ 5] |
ПОНЯТИЯ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ |
43 |
4. Преобразования процесса броуновского движения ß= (ß^), t ^ O . Непосредственно проверяется, что
у А®)- |
О, |
/==0, |
|
ФцДю). |
* > 0 , |
||
|
|||
2/((o)==cß//c2((ö), |
с > 0, |
являются также процессами броуновского движения.
§5. Некоторые понятия математической статистики
1.В математической статистике первичным является поня тие выборочного пространства (X, sé-), состоящего из множества выборок Ж и or-алгебры его подмножеств s&. Обычно Ж— это
пространство последовательностей х = (хи |
х2, |
...), где л:г е Л?*, |
или же пространство функций x = (xt), |
0. |
В рассматривае |
мых далее задачах статистики процессов диффузионного типа выборочным пространством является пространство непрерывных функций.
Пусть |
(U, Ж) — некоторое |
другое измеримое пространство. |
|
Всякое |
измеримое (точнее, |
измеримое) |
отображение |
у — у{х) |
пространства Ж в |
U называют статистикой. Если |
|
выборку |
x = (xh х2, . . . ) представлять себе как |
результаты |
наблюдений (например, результаты независимых наблюдений
над некоторой случайной величиной |
| = |(со)), то у = у(х) — |
это функция от результатов наблюдений. |
|
Примеры статистик: |
|
П |
|
тп іх) — — Хі — выборочное |
среднее, |
і=1 |
|
П |
|
Sn{x) ==~^^У ( хі — т «)2 — выборочная дисперсия. (=і
2. Одним из важнейших разделов математической статистики является теория оценивания. Приведем ряд ее понятий, исполь зуемых в этой книге.
Будем предполагать, что на выборочном пространстве (Ж, s4)
задано семейство |
<^ = |
{РѲ, ѲеѲ} вероятностных мер, завися |
щих от параметра |
Ѳ, |
принадлежащего некоторому параметри |
ческому множеству Ѳ.
Статистика (оценка) у — у(х) называется несмещенной оцен кой параметра Ѳе Ѳ, если Мѳу(л:) = Ѳ для всех Ѳ е Ѳ (Мѳ обо значает усреднение по мере Рѳ).
44 |
НЕОБХОДИМЫЕ СВЕДЕНИЯ |
|
|
[ГЛ. 1 |
|||||||
Статистика |
у — у{х) |
называется |
достаточной для |
Ѳ (или |
|||||||
семейства &>), если для каждого / І е і |
можно выбрать вариант |
||||||||||
условной вероятности |
РѲ(Л \у(х)\ |
не |
зависящий от |
Ѳ. |
|
|
|||||
Следующая факторизационная теорема дает необходимые и |
|||||||||||
достаточные условия |
для |
того, чтобы |
некоторая |
статистика |
|||||||
у = у(х) была |
достаточной. |
семейство |
& — {Рѳ, Ѳs |
Ѳ} домини |
|||||||
Т е о р е м а |
1.14. Пусть |
||||||||||
руется некоторой G-конечной мерой |
Я |
{т. |
е. Рѳ <С Я, |
Ѳе |
Ѳ). |
||||||
Статистика у — у{х) |
будет |
достаточной |
в |
том и |
только |
том |
|||||
случае, если существует $ -измеримая (при каждом |
Ѳ е Ѳ ) |
||||||||||
функция g(y, Ѳ) такая, |
что |
|
|
|
|
|
|
|
|||
|
dPe{x) = |
g(y{x), |
Q)dk(x). |
|
|
|
|
||||
Последовательность |
статистик |
уп{х), |
п — 1, 2, |
|
назы |
вается состоятельной оценкой параметра Ѳ еѲ , |
если для каждого |
|||
Ѳ еѲ |
^га(х)->Ѳ, л-*оо, по Рѳ-вероятности, т. |
е. |
||
|
Рѳ{I Упіх) — Ѳ1> е}->°, |
п-> оо, |
е > 0. |
|
Последовательность статистик уп{х), п== 1,2, |
..., называется |
|||
сильно |
состоятельной оценкой параметра Ѳе Ѳ, |
если уп (х) —>Ѳ |
||
с Рѳ-вероятностью единица для всех ѲеѲ. |
|
о-конечной ме |
||
Пусть семейство УР доминируется |
некоторой |
|||
рой Я. |
Функция |
|
|
|
|
^Рѳ(х) |
|
|
|
|
L x (Ѳ) = dX (x) |
|
|
|
рассматриваемая (при фиксированном х) как функция от Ѳ, на
зывается функцией |
правдоподобия. Статистика у — у{х), |
обра |
||||
щающая функцию правдоподобия Ьх (Ѳ) в максимум, |
назы |
|||||
вается оценкой максимального правдоподобия. |
неизвестного |
|||||
Для |
сравнения |
различных |
оценок у = у (х ) |
|||
параметра Ѳ еѲ |
вводят (неотрицательные) функции |
потерь |
||||
W (Ѳ, у) и средние потери |
|
|
|
|||
|
|
|
R(Q, y) = MeW(B, у(х)). |
|
(1.45) |
|
В тех |
случаях, |
когда Ѳ е і? ', |
y ^ R 1, наиболее |
употребитель |
||
ной функцией потерь является |
функция |
|
|
|||
|
|
|
W(Q, y) = \ Q - y f . |
|
(1.46) |
|
При исследовании качества оценок параметра Ѳ= (Ѳ,,..., 0fe) e |
||||||
е Rk важную |
роль играет1 информационная матрица Фишера |
|||||
/( Ѳ ) = ||/ г7(Ѳ)||, |
где |
|
|
|
|
‘ ч (ѳ = м »{ ж :|п Ж W } { Ж |п Ж і w } • |
с - 47) |
§ 51 |
ПОНЯТИЯ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ |
45 |
В одномерном случае (Ѳ е R1) величина |
|
|
|
' ( в ) - М , { 4 і п - ^ - м } ! |
(1.48) |
называется информационным количеством Фишера. |
|
|
Для |
несмещенных оценок у = у(х) параметра |
Ѳ е Ѳ е У ? 1 |
справедливо (при некоторых условиях регулярности; см. [128], [138]) неравенство Рао — Крамера
Мѳ [Ѳ — г/(х)]2> - щ - , Ѳ еѲ . |
(1.49) |
В многомерном случае (Ѳ е Ѳ s Rk, у е Rk) неравенство (1.49)
заменяется матричным неравенством Рао — Крамера*)
|
|
Мѳ [Ѳ — г/(х)][Ѳ — г/(х)]*>/_І(Ѳ), |
ѲеѲ. |
(1.50) |
|||||||
(Подробнее |
см. |
[ 128], [138], а также § 8 |
гл. |
7.) |
|
|
|||||
Несмещенная |
оценка |
|
y ( x ) ^ R k |
параметра |
Ѳе |
Rk назы |
|||||
вается |
аффективной, если |
для всех |
значений |
Ѳ е Ѳ |
|
||||||
|
|
Мѳ[Ѳ -г/(д:)][Ѳ -г/(х)Г = |
/ - 1(Ѳ), |
|
|
||||||
т. е. если в неравенстве |
Рао — Крамера |
на самом |
деле дости |
||||||||
гается |
равенство. |
что сам параметр Ѳ еѲ |
является случай |
||||||||
3. |
Предположим, |
||||||||||
ной величиной |
с распределением |
п = к (dQ). Тогда |
наряду со |
||||||||
средними потерями R(Q, у) можно рассмотреть полные средние |
|||||||||||
потери |
|
|
|
у ) ~ J Д(Ѳ, |
|
|
|
|
|
||
|
|
|
Р{я, |
y)n(dö). |
|
|
|
||||
|
|
|
|
|
ѳ |
|
|
|
|
|
|
Статистика у* = уч(х) |
называется байесовской |
относительно |
|||||||||
априорного |
распределения |
я, если |
|
R(n, |
y * )^ R (n , |
у) для лю |
|||||
бой другой |
статистики у — у(х). |
|
минимаксной, |
если |
|||||||
Статистика у — у(х) |
называется |
|
|||||||||
|
|
|
шахД(Ѳ, |
у) ^ inf max R (Ѳ, у). |
|
|
|
||||
|
|
|
ѳ |
|
у |
в |
|
|
|
|
*) Для симметрических неотрицательно определенных матриц А и В не равенство Л ^ В означает, что матрица А — В является неотрицательно определенной.
Г Л А В А 2
МАРТИНГАЛЫ И ПОЛУМАРТИНГАЛЫ. ДИСКРЕТНОЕ ВРЕМЯ
§ 1. Полумартингалы на конечном временном интервале
1. |
Пусть |
(Q, F , |
P) — вероятностное |
пространство, f , s |
|||||
f j C . . . |
s F N s |
F |
— неубывающее семейство о-подалгебр F . |
||||||
О п р е д е л е н и е |
1. |
Последовательность |
X = {xn, F n), |
п = |
|||||
= 1, |
Af, называется |
соответственно |
супермартингалом |
или |
|||||
субмартингалом, |
если М | хп [ < |
оо, п = 1, . . . , |
N, и |
|
|||||
или |
M{xn\ F m ) ^ X m |
(Р-П. Н.), |
п ^ |
пг, |
(2.1) |
||||
M{xn\ F m) ^ x m |
(Р-п. н.), |
п F |
т. |
(2.2) |
|||||
|
|||||||||
Супермартингалы |
и |
субмартингалы |
называют также полу |
||||||
мартингалами. |
|
|
|
|
то Y = (— хп, F n) яв |
||||
Если |
Х = (хп, F n) — супермартингал, |
||||||||
ляется |
субмартингалом. |
Следовательно, |
для |
изучения свойств |
полумартингалов достаточно исследовать лишь супермарткнгалы (или субмартингалы — в зависимости от удобства).
Очевидно, что последовательность X — (xn, F n), одновре менно являющаяся супермартингалом и субмартингалом, обра зует мартингал-.
М (хпI F т) = хт (Р-п. н.), п ^ т . |
(2.3) |
|
Для супермартингала математические ожидания Ыхп не |
||
возрастают: Мх„ ^ Мхт , п ^ т . |
Для мартингала |
математиче |
ское ожидание есть константа: |
Мх„=Мл:1, n ^ .N . |
|
2. Пример 1. Пусть $ = $(со)—случайная величина с М U К 00 и хп — М (51F n). Последовательность (хп, F n) образует мартин гал.
П р и м е р 2. Пусть т]1, т]2, ... — последовательность интегри
руемых независимых случайных величин с Мщ = 0, |
і = |
1,2, |
. .., |
|
5ra = T)i + |
■• • + Л/г. @~п = о{со: Лі. • • •. %}• Тогда |
S = |
(s„, |
F n) |
образует |
мартингал. |
|
|
|