Файл: Мания, Г. М. Статистическое оценивание распределения вероятностей.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 21.10.2024
Просмотров: 108
Скачиваний: 0
Г Л А В А V
СВОЙСТВА ПАРАМЕТРИЧЕСКОЙ ОЦЕНКИ ПЛОТНОСТИ РАСПРЕДЕЛЕНИЯ
В этой и следующей главах собраны теоремы о моментах параметрической оценки плотности распределения и предельном поведении распределения некоторых статистик, характеризую щих погрешность при замене оцениваемой плотности ее пара метрической оценкой и взаимное расхождение нескольких пара метрических оценок, построенных по данным независимых вы борок.
Параметрическая оценка плотности является случайной функцией от аргумента плотности и естественно интересоваться ее моментами, в частности, математическим ожиданием и дис персией, характером их зависимости от объема выборки. Что же касается вышеупомянутых статистик, то, помимо теорети ческого интереса, к ним следует обращаться с целью построе ния разнообразных критериев согласия и однородности,
§ 1. СТАТИСТИКИ, СВЯЗАННЫЕ С ПАРАМЕТРИЧЕСКОЙ ОЦЕНКОЙ
ПЛОТНОСТИ РАСПРЕДЕЛЕНИЯ
Пусть |
f(x, t), где x£ R k, а |
параметр t^TczR771, |
является |
|||||||
плотностью |
распределения вероятностей. |
Зафиксируем точку |
||||||||
9 = (01, ... |
, |
0т ), |
принадлежащую |
Т |
вместе со множеством |
|||||
i /e,e =• {г1: |
|^ ~ 0 | О } . |
Обозначим |
Pt |
вероятностную |
меру |
на |
||||
ст-алгебре |
ЭЗ* борелевских |
множеств |
из Rk, |
соответствующую |
||||||
|
|
|
|
|
оо |
|
|
|
|
|
плотности |
/ (х; if), |
и |
пусть |
Р=П Ре—вероятностная |
мера |
в |
||||
счетном произведении (Rk, |
1 |
|
|
|
|
|||||
Э3\ Рд)00 вероятностного пространства |
||||||||||
145 |
|
|
|
|
|
|
|
|
|
|
|
, Ж, Ре) |
самого |
на себя. |
Допустим, что |
случайный вектор |
||||||||||||
Х |
распРеделен с плотностью /(*)= /(*; |
0) |
и |
Х„ |
i= 177Г |
явля |
|||||||||||
ется выборкой объема п из |
генеральной |
совокупности X. |
Как |
||||||||||||||
о ычно, под |
оценкой |
параметра 0 понимается |
m-мерная век |
||||||||||||||
торная функция 0= |
(01.....Х„) 0Т ВекТоРов вы- |
|
|
|
|
||||||||||||
|
pji, а под параметрической^оценкой плотности f (х; |
0)— функ- |
|||||||||||||||
циnJ(x)=f(x;Q). От^оценки 0 |
естественно |
|
требовать, |
чтобы |
|||||||||||||
ностькх ~ 1’ |
|
Т°ГДа |
^ Х' |
с |
вероятностью |
] |
является |
плот- |
|||||||||
|
Определение |
1. |
Статистика |
|
|
|
|
|
|
|
|
||||||
|
|
|
|
Ф (0)= и |
j [ f ( x)-f(x)\2dx |
*> |
|
|
|
|
|||||||
называется |
средней |
квадратической |
погрешностью |
(с. к. |
п.) |
||||||||||||
оценки |
f(x) |
плотности f(x). |
|
|
|
|
|
|
|
|
|
|
|||||
|
В связи с с. к. п. следует обратить внимание на возмож |
||||||||||||||||
ность |
оценки |
расстояния по |
вариации [ 11] |
меры |
Рт |
от |
меры |
||||||||||
рц |
В |
иаш*“ |
|
условиях |
р.н |
с |
вероятностью |
1 |
является |
|
аб- |
||||||
П е р ™ н Т т ь ю Т ° Й СЛу,айной |
веР°ятностной герой. |
Тогда с |
|||||||||||||||
|
|
4 “! ,' рТ<Л) - />е(У1)|=1 J 1ГМ-/М1 dx |
|
|
|
||||||||||||
И если Т(X) |
по вероятности |
стремится |
к |
f(x) |
почти всюду по |
||||||||||||
то по теореме Шеффе [100] левая часть этого соотношения |
|||||||||||||||||
стремится к 0 по вероятности. Согласно неравенству Коши, |
|
||||||||||||||||
|
|
|
т |
f v w - |
f w |
idx < ~ r= - [ф Ш 11* |
|
|
|
||||||||
|
|
|
|
о |
|
|
|
|
2. V |
п |
|
|
|
|
|
|
|
и если предельное распределение Ф(0) обозначить Flu) то при достаточно больших п получаем оценку
Р |
1< 4 - j / i } > F ( U). |
Определение 2. Статистика |
|
Y (0) = n |
dx |
|
Н.Х) |
*) Все интегралы берутся по & , есЛи не оговорено противное
147
называется средней квадратической относительной погрешнос
тью (с. к. о. |
п.) оценки f(x) |
плотности fix). |
|
С. к. о. п. привлекает внимание аналогией со статистикой |
|||
Пирсона, а ее |
название исходит из того, |
что |
|
|
¥ (9 ) = п Г |
/ ( х ) - / ( х ) |
’ dP0. |
|
fix) |
При этом усреднение происходит по мере Р9, в то время как в
случае с. к. |
п. |
квадрат |
погрешности |
усредняется |
по |
мере |
|||||||
Лебега. |
|
|
|
|
|
|
|
|
|
X извлечено |
|||
|
Пусть |
теперь из |
генеральной |
совокупности |
|||||||||
s, |
s ^ 2 , независимых выборок |
Х(-\ / = 1 , п г, t = |
l, |
s, на основа |
|||||||||
нии которых построены |
оценки 0(‘-)= 0 w(Х{'\..„ |
ХЦ> ), i = |
l , s , |
||||||||||
|
|
|
|
|
|
Т с |
|
/ |
|
|
i |
|
|
параметра 0, принадлежащие |
вероятностью |
1. |
Соответст |
||||||||||
венно имеется s |
оценок |
|
Д .(х)= /(х ; |
9ll)) |
плотности |
|
f(x), |
взве |
|||||
шенную среднюю |
которых обозначим f(x): |
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
s |
|
|
|
|
|
|
|
f(x) = |
|
|
|
У ] |
nJiix). |
|
|
|
|
||
|
|
|
|
|
|
|
i = 1 |
|
|
|
|
|
|
Для описания взаимного расхождения |
оценок ft(х) |
друг от дру |
|||||||||||
га |
введем |
статистики, |
|
получаемые |
из сумм |
^ |
|
Ф(в1'>) и |
|||||
д |
|
|
|
|
|
|
|
|
t = |
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
^ |
^ (9(1)) |
заменой /(%) |
функцией /(х ). |
|
|
|
|
|
|||||
i = 1 |
|
|
|
Статистика |
|
|
|
|
|
|
|||
|
О п р е д е л е н и е 3. |
|
|
|
|
|
|
Ф(0(1),...,0 « ) = |
[fl { x ) - f i x ) r d x |
|
i = 1 |
называется средним квадратическим расхождением (с. к. р .)
оценок fi(x), £—1, s, |
плотности f(x). |
О п р е д е л е н и е |
4. Статистика |
¥ ( 0 « , .... |
Г [// ( х ) - /( х ) Р ■dx |
|
fix) |
148
называется средним квадратическим относительным расхожде
нием (с. к. о. р.) оценок / £(х), i = l,s, плотности f(x).
Итак, в настоящей главе изучаются моменты f(x) и пре дельные распределения определенных выше четырех статистик.
Моментам /(х ) посвящен § 2, где, при условиях, накла
дываемых на оценку 0 и производные /(х ; t) по параметру, ус
танавливаются 4ормулы для вычисления Е /(х) и D / ( x ) с точ- / 1 \
ностью до О f — ] [69].
\пг I
В§ 3 даны теоремы из [1, 14, 63, 83] о распределении некоторых функций от нормальных и асимптотически нормаль ных случайных векторов, которые находят применение в этой главе и главе VI.
|
|
Предельные распределения с. к. п. и с. к. о. п. изучают |
||||||||||
ся |
в |
§ 4, |
а предельные распределения с. к. р. и с. к. о. р.—в |
|||||||||
§ |
5. |
Сказывается, |
что в некоторых |
условиях |
предельное |
при |
||||||
min пг-> со |
распределение |
с. к. п. совпадает |
с |
распределением |
||||||||
/ |
|
|
|
|
|
|
|
|
|
|
|
|
некоторой |
квадратичной формы от нормального |
случайного век |
||||||||||
тора |
[68], |
а распределение |
с. |
к. о. п.—с |
распределением |
х 2 с |
||||||
т |
степенями |
свободы [71]. |
Что |
касается |
|
предельных |
при |
|||||
min |
|
распределений |
с. |
к. р. |
и с. |
к. |
о. р., то |
они |
||||
» |
|
|
|
|
|
|
|
|
|
|
|
|
являются |
(s—- 1)-кратными |
свертками предельных распределений |
||||||||||
с. к. п. и |
с. к. |
о. |
п., соответственно [68, |
70, |
71]. |
|
§ 2. МОМЕНТЫ ПАРАМЕТРИЧЕСКОЙ ОЦЕНКИ ПЛОТНОСТИ РАСПРЕДЕЛЕНИЯ
Нижеследующая теорема устанавливает формулы для вы
числения Е f(x) и D /(х ) с точностью до О |—y j > причем конс
танта, ([игурируюшая в определении О, зависит от х, хотя эта зависимость не подчеркивается каким-либо обозначением. Ниже тип константы в О будет ясен из контекста. Отметим, что ма тематические ожидания берутся по мере Р.
Обозначим
drf{x\ t)
, ц ,..., tr= l , m , r = l , 4 . |
(5.2.1) |
dt: ...dti
*1 V
149