Файл: Васильков Д.А. Начала теории вероятностей учеб. пособие.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 05.08.2024
Просмотров: 58
Скачиваний: 1
|
|
|
1 1 ^ | - г - ^ | | < ! | А г 1 | | |
+ !|Аг 2 ||- |
|
|
|
(Ю) |
||||
Положив Х\ = |
Х—Y, |
Х2— |
Y — Z, |
где X, Y, Z— |
произволь |
|||||||
ные элементы |
пространства Я, получим |
|
|
|
|
|
|
|||||
|
|
\\X-Z\\<\}X-Y\\+\\V-Z\\. |
|
|
|
|
|
|
(п) |
|||
Последнее соотношение |
можно записать в виде |
|
|
|
|
|||||||
|
|
|
Q(X,Z)<Q(X,Y) |
|
+ |
Q(Y,Z). |
|
|
|
|
|
(12) |
Мы видим, что расстояние, определенное формулой |
(3), |
|||||||||||
подчиняется |
так называемому неравенству |
треугольника. |
|
|||||||||
Последовательность |
векторов |
Хп€Н |
|
(п = |
1, 2,.. .) |
схо |
||||||
дится |
к X б |
Я |
в пространстве Я, если |
|
|
|
|
|
|
|||
|
|
|
Шо{Х„, |
Х) = 0. |
|
|
|
|
|
(13) |
||
|
|
|
л->оо |
|
|
|
|
|
|
|
|
|
Условие (13) |
означает, |
что |
|| X., - |
X || 2 |
= |
М \{Хп |
— X)2} |
- > 0 |
||||
при |
п - у о о , |
т. е. сходимость в пространстве |
Я |
есть |
сходи |
|||||||
мость |
последовательности |
случайных |
величин |
в |
среднем |
(см. § 42).
Сходящаяся в среднем последовательность имеет единст венный предел *. В самом деле, если допустить, что для не
которой |
последовательности |
(Л",,} Хп |
{сред.) |
X |
и одно |
||||||
временно Х„ (сред.) |
-> X', |
то |
|
|
|
|
|
||||
|
|
\\х-х'\\<\\х-хп\\ |
|
|
+ \\хп-х'\\-, |
|
( И ) |
||||
правая |
часть (14) стремится к нулю при п -»- со, |
следователь |
|||||||||
но, \\Х — Х'\\= |
0 и Х = |
X'. |
|
|
|
|
|
|
|||
|
|
|
§ |
46. |
Пространство |
Я 0 |
|
|
|
||
Рассмотрим |
совокупность |
Я 0 всевозможных |
|
случайных |
|||||||
величин X, принадлежащих к Я и удовлетворяющих допол |
|||||||||||
нительному |
условию |
Ж(Х)—0. |
Другими |
словами, |
Но состо |
||||||
ит из случайных величин, обладающих |
моментами второго |
||||||||||
порядка |
и |
центрированных. |
|
|
|
|
|
||||
Так |
как |
любая |
линейная |
комбинация центрированных |
|||||||
случайных |
величин |
также |
имеет математическое |
ожидание, |
равное нулю, то Я 0 представляет собой линейное подпрост ранство пространства Я. Заметим далее, что, центрируя лю
бую случайную величину X, для которой |
существует |
М(Х2 ), |
|||||
мы «помещаем» |
ее в подпространство |
Я0 . |
Говоря |
точнее, |
|||
коль скоро X 6 Я и РА(Х)=а, |
случайная |
величина Х'=Х |
— а |
||||
принадлежит |
к |
Я0 . Таким |
образом, любой |
элемент |
|
Х£ Н |
|
отличается от |
некоторого X' |
6 Я 0 лишь |
на |
постоянное |
сла |
||
гаемое. |
|
|
|
|
|
|
|
* Единственность предела в среднем вытекает также из § 42 как следствие единственности предела по вероятности.
6—143 |
81 |
Возьмем произвольные векторы Х£Н0, |
Y € Н0. Скаляр |
ное произведение |
|
(X,Y)=M(XY) |
(1) |
в силу условия М(А')= М ( У ) = 0 равно ковариации X и У. Скалярный квадрат
(X, Х)= М(Х2 ) |
(2) |
вектора X оказывается равным дисперсии D(X), а норма
\\x\\ = VUCx) |
О) |
— среднему квадратичному отклонению о{Х). Косинус угла между векторами ХфО и У ф О, принадлежащими к Н0 (см. § 45, формула (8)),
\\X\\\\Y\l |
о (Л) о (У) |
w |
совпадает с коэффициентом корреляции X и У. Ортогональность векторов X, Y означает, что X и У некор-
релированы. В частности, независимые X и У ортогональны. Расстояние Q{X, Y) между X С / / 0 и Y чНй есть среднее
квадратичное отклонение разности X — У. Следовательно,
|
|
^ „ ( ^ • ) - А г |
|
|
(X„ZHQ,X£H0) |
|
|
||||
означает, |
что |
|
|
|
|
|
|
|
|
|
|
В частности, |
Х„ |
(сред.) -> О |
равносильно |
|
условию |
а(Хп)-*-0. |
|||||
Мы обнаружили |
(см. § |
45 |
неравенства |
(7)), что, каковы |
|||||||
бы ни были |
X € Н, |
Г 6 Я , |
|
|
|
|
|
|
|||
|
|
|
|
- 1 < / ? х к < 1 . |
|
|
|
(5) |
|||
Далее, |
|
= |
l тогда и только |
тогда, |
когда У = |
сХ, |
при-, |
||||
чем если |
с > |
0, то |
Rx, у = |
1. |
если же с < |
О, то |
к = |
— 1 |
|||
|
§ 47. Аппроксимация вектора У линейными |
|
|||||||||
|
|
комбинациями векторов Xi, ... ,X„ |
|
|
|||||||
Рассмотрим |
сначала |
какие-нибудь |
единичные |
векторы |
|||||||
Хо 6 На, |
У0 6 Нй, |
т. е. векторы, удовлетворяющие условию, |
|||||||||
|
|
|
|
Ш 1 = 1 1 ^ 1 1 = 1 . |
|
|
|
(1) |
|||
Иначе говоря, Х0 |
и |
Уо — любые |
нормированные |
случайные |
|||||||
величины. Представим У0 |
в виде |
|
|
|
|
|
|||||
|
|
|
|
Y0 |
= |
kX0 |
+ Z |
|
|
|
(2) |
и постараемся подобрать числовой множитель k так, чтобы расстояние между Уо и kXo было наименьшим. Так как
е (Уо, kXQ) = \\Y0-kX0\\ |
= \\Z[\, |
82
то речь идет о минимизации нормы слагаемого Z в равенстве
(2). Квадратный трехчлен относительно k
|
||Y0 |
- |
Moll 2 = k?-2k(Хо, |
Y„) + |
1 |
|
|
||||
достигает |
наименьшего |
значения |
при k — kQ |
= (Х0 , |
Y0) — |
||||||
= Rx0, Y„- |
Покажем, |
что в равенстве |
|
|
|
||||||
|
|
|
|
Y0 = k0X0+Z0 |
|
|
|
|
(3) |
||
слагаемые в правой части ортогональны; в самом деле, |
|
||||||||||
(Z„, Хо) = |
(У0 |
- |
M o , Хо) = |
(Уо, Хо) — k0 |
= 0. |
|
|||||
Поэтому к сумме |
(3) |
применима формула (18) |
§ 44 |
|
|||||||
|
|
l | K 0 | | 2 |
= | | ^ 0 | | 2 |
+ |
| | Z 0 | | 2 . |
|
|
|
|||
Последнее равенство |
можно переписать в виде |
|
|
||||||||
|
|
|
1 = Я к к 0 + 11^о1|2- |
|
|
|
|||||
Мы видим, что квадрат коэффициента корреляции |
равен |
||||||||||
доли дисперсии нормированной случайной величины Y0, при |
|||||||||||
ходящейся |
на слагаемое, |
пропорциональное |
нормированной |
||||||||
случайной |
величине |
Х0 , |
в |
равенстве |
(3). Имея |
в виду это |
свойство коэффициента корреляции, можно уточнить замеча
ние, |
высказанное в |
§ 44: коэффициент |
корреляции |
служит |
||||||||
мерой |
приближенной |
линейной |
зависимости |
между |
случай |
|||||||
ными величинами. |
|
|
|
|
|
|
|
|
||||
Если |
отказаться от условия |
(1) и рассмотреть произволь |
||||||||||
ные |
векторы |
X 6 Н0, |
У 6 |
Но> т о > к |
а к |
нетрудно подсчитать, |
||||||
в равенстве |
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
Y=kX+Z |
|
|
|
|
|
||
норма |
разности У — kX минимальна |
при |
|
|
|
|||||||
|
|
|
|
k - k |
- i * * ) - / ?к |
|
H |
I |
|
(4) |
||
|
|
|
|
к — «о— \\х\\*~ |
А',к |
||^|| • |
|
W |
||||
Число, |
выраженное формулой |
(4), называют |
коэффициентом |
|||||||||
регрессии |
случайной |
величины |
У относительно |
случайной ве |
||||||||
личины |
X. |
|
|
|
|
|
|
|
|
|
||
|
Рассмотрим теперь более общую задачу: в Но лапа |
конеч |
||||||||||
ная |
или |
счетная ортогональная система векторов: |
|
|||||||||
|
|
|
|
|
Хи Х 2 > . . . ; |
|
|
|
|
(5) |
||
взяв первые п ее элементов и произвольный вектор |
У € Н0, |
|||||||||||
представим |
У в виде |
|
|
|
|
|
|
|
|
|||
|
|
|
|
Y = klXl |
+ ••• +knXn |
+ Z |
|
(6) |
||||
и выберем |
постоянные k\,...,kn |
так, |
чтобы |
норма |
Z была |
|||||||
' наименьшей. |
|
|
|
|
|
|
|
|
6* |
83 |
В силу условия |
Хк) |
= |
0 |
(Ьфк) |
|
|
|
|
п |
\\У~КХХ |
кпХп ||2 |
= |
1| |
Y 1|2 + 2 к) || Xt ||2 - |
Приравняв к нулю производную по kj правой части этого
равенства, получим искомое |
значение |
|
|
к > = " W F |
( / = ; 1 |
П ) ' |
( 7 ) |
равное, как мы видим, коэффициенту регрессии У относи
тельно Xj. |
Коэффициенты |
(7) подобны коэффициентам |
Фурье |
функции, |
обладающей |
интегрируемым квадратом, |
относи |
тельно ортогональной системы функций. То, что ||2|| прини мает наименьшее значение при kj — kf ( / = 1,...,п), до казывается так же, как соответствующее экстремальное свой ство коэффициентов Фурье.
§ 48. Сходимость средних арифметических попарно ортогональных векторов
Возьмем произвольную ограниченную * счетную ортого нальную систему
|
Uu |
|
U2, ...,Uk, |
|
... |
|
(U„£H\ |
|
|
2, . . . ) |
|
(1) |
||||||
и покажем, |
что |
последовательность средних |
арифметических |
|||||||||||||||
|
|
Уп = |
-^{и, |
+••• |
+Un) |
|
|
2, . . . ) |
|
|
(2) |
|||||||
сходится в пространстве Я, иначе говоря, сходится |
в |
среднем |
||||||||||||||||
к нулю. |
|
|
|
|
|
|
|
|
|
|
/ Ф j |
|
|
|
|
|
||
Итак, предполагается, что при всех |
|
|
|
|
|
|||||||||||||
и |
|
|
|
|
|
|
(Ult |
Uj) = 0 |
|
|
|
|
|
|
(3) |
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
\\UA<C |
|
|
|
|
2, |
. . . ) . |
|
|
|
|
|
(4) |
|
* Речь идет об ограниченности |
последовательности |
(1) |
в |
простран |
||||||||||||||
стве Н, |
т. |
е. |
предполагается, |
что |
существует |
постоянная |
С, |
такая, |
что |
|||||||||
l l ^ f t l l ^ C |
(А = |
I. |
2 , . . . ) . Не |
следует |
путать |
это |
условие |
с |
условием |
|||||||||
равномерной |
|
ограниченности |
последовательности |
случайных |
величии |
{U/i}. |
||||||||||||
Последнее |
означает, |
что |
существует |
такое |
М, |
что — |
|
М<и^<М |
||||||||||
( Л = 1 , |
2 , . . . ) . |
Так, |
например, |
если |
|
Uk |
принимают значения — k, |
0, k |
со |
|||||||||
ответственно |
с |
вероятностями |
|
- j ^ - 2 |
> |
1 ~k—'J,~ |
k—i, |
то ||{/А||3 =М ( f / | ) = 1, |
||||||||||
тогда как множества значений Uь |
|
не |
имеют ни общей |
верхней, ни |
об |
|||||||||||||
щей нижней |
границы. |
|
|
|
|
|
|
|
|
|
|
|
|
|
84
При этом
л'-'
ft=l
Таким образом, |
|
|
|
ll^ll < |
Vn |
|
(5) |
Hm||Kn || = |
0. |
(6) |
|
Неравенство (5), выведенное |
в |
предположениях |
(3) и |
(4), иногда называется «законом корня квадратного из я».
Покажем, что теорема Чебышева |
является |
следствием |
|||||||||
этого простого, |
по существу |
геометрического, |
предложения. |
||||||||
Предположим, что случайные |
величины |
|
|
|
|
||||||
Хи |
Х2 |
Хк,... |
{Х^Н- |
|
k=\, |
2, ... ) |
(7) |
||||
попарно независимы и М(Хк) |
= |
a (k — 1, 2,...). Пусть, |
кро |
||||||||
ме того, |
|
|
|
|
|
|
|
|
|
|
|
|
|
D f t ) < C ! |
|
|
|
2, . . . ) . |
|
(8) |
|||
Рассмотрим |
центрированные |
случайные |
величины |
|
|||||||
|
Л, - а, |
Х2 - а,... |
, Хк |
- |
а |
|
|
|
(9) |
||
Из условия |
попарной |
независимости |
Х\, |
Х2,... |
следует |
орто |
|||||
гональность |
случайных величин |
(9): |
|
|
|
|
|
|
|||
(X, |
- |
a, Xj - |
а) = М |
- |
а) (Ху - |
а)] = О |
|
при t =И= /. В силу условия (8)
\\Xk-a\\* |
= m[(Xk-a)*)<C2 |
(k=\, |
2, ... ) . |
Следовательно, средние арифметические случайных величин
(9)
4 - 2 (**-«)=4-2** |
(10) |
образуют последовательность, сходящуюся в среднем к нулю. Так как случайные величины (10) центрированы, то соотно шение
a n
и есть утверждение теоремы Чебышева.
85