Файл: Шаракшанэ, А. С. Испытания сложных систем учеб. пособие.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 21.10.2024
Просмотров: 119
Скачиваний: 0
Естественным обобщением рассмотренного примера является многомерный случай, когда элементами выборки у i, уг, . . . , у „ являются r-мерные нормально распределенные векторы. Стоит задача: по результатам наблюдений необходимо оценить вектор математического ожидания т „ и ковариационную матрицу К,/.
Функция правдоподобия
г/2
1Ку I 1/2 6ХР [ — y (Уг'—т!/) Тки 1 (Уг~ П1г/)}=
|
|
П |
- я г , 2 | |
12ехр И i=1 (Уг — ту) К~](у; — ту) |
|
|
|
|
|
Ул = (Уь У2. |
Уп)’ |
Оценки максимального правдоподобия в данном случае:
П
7 - 1
Когда функции правдоподобия не допускают аналитического ис следования корней уравнения правдоподобия, для определения оценок максимального правдоподобия необходимо привлекать ите рационные методы поиска экстремумов. В одномерном случае реше ние подобных задач может быть найдено графическим способом. Для этого нужно функцию правдоподобия нанести на график и визуально определить искомые оценки. При этом очень просто ука зать доверительный интервал найденной оценки.
§ 7.8. .АЛГОРИТМЫ МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ
При обработке и анализе' экспериментальных данных широкое применение находит метод наименьших 'квадратов. Вычислительная процедура, соответствующая методу наименьших квадратов, позво ляет найти искомые оценки параметров и может быть получена как результат решения следующих уравнений:
S'lvV t) — |
av av |
•••> a r]2 = min> |
(7-8.1) |
/-1 |
|
aj |
|
где y(ti) — i-й элемент выборки результатов наблюдений у и г/2, ....
Уп\ фОО —заданная функция; a f — оценки неизвестных коэффици ентов ay ti — момент времени, соответствующий гднаблюдению.
173
Физический смысл уравнений (7.8.1) состоит в том, что в каче стве оценок 'параметров ctj необходимо принять такие значения a f, которые минимизируют сумму квадратов отклонений результатов наблюдений от аппроксимирующей кривой.
В общем случае задача определения оценок параметров a f сво дится к разработке методов поиска корней следующей системы уравнений:
|
|
|
|
|
|
|
*ч |
|
а*) |
=0: |
|
|
|
|
|
|
|
|
|
|
|
|
да. |
|
|
|
|
|
|
ТЩГ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
-■*/ |
|
|
|
|
|
|
|
а * = К , |
а\, |
.... |
а*, |
... , |
d*r), j = |
1 , 2 , . . . , |
г. |
(7.8.2) |
|||
В частном случае, когда |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
?(*i,a*) = |
2 |
W |
^ |
|
|
|
(™-3) |
||
|
|
|
|
|
|
|
;=1 |
|
|
|
|
|
|
где fjiU) |
— заданная |
система линейно независимых |
функций, по |
||||||||||
лучаем систему |
|
|
|
|
|
|
|
|
|
|
|
||
|
|
2 |
^ |
a) f i to) /* to)= |
2 у to) f * to), |
|
(7.8.4) |
||||||
|
|
£ = l j = l |
|
|
|
|
|
i = l |
|
|
|
|
|
|
|
|
|
|
(Л =1 , |
2........ |
|
|
|
|
|||
которая линейна относительно оцениваемых параметров. |
|
||||||||||||
Если обозначить: |
|
|
|
|
|
|
|
|
|
|
|||
|
2 A to) A to); |
2 Л to) A to); |
|
2Ato)Ato) |
|
||||||||
|
i=l |
|
|
1=1 |
|
|
|
|
(=1 |
|
|
|
|
В = |
2 |
A to) Л to); |
2 |
/2 to-)Ato); |
■• •; |
2 |
A to ) Ato) |
(7.8.5) |
|||||
j = i |
|
|
1=1 |
|
|
|
|
|
1 - 1 |
|
|
||
|
2 |
Л f t) Л to); |
2 |
A |
to)/r to); |
• • ■; |
2 |
A to)A to) |
|
||||
|
. 1=1 |
|
|
/ = i |
|
|
|
|
|
i = i |
|
|
|
|
|
|
|
|
|
П |
Уto) /1 to) |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
£=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Я |
Уto) /a to) |
|
|
|
|
||
|
|
|
|
У = |
|
|
|
|
(7.8.6) |
||||
|
|
|
|
/=1 |
|
|
|
|
|
||||
|
|
|
|
|
|
Я |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
у t o ) / |
г to ) |
|
|
|
|
|
|
|
|
|
|
|
/=1 |
|
|
|
|
|
|
174
то систему уравнений (7.8.4) можно записать в матричном виде:
' |
Ва*= у, |
(7.8.7) |
|
а ее решение представить в следующей форме |
|||
|
а*—В-1 У. |
(7.848) |
|
если существует обратная матрица В-1. |
что в рассматриваемом |
||
Из полученного соотношения |
следует, |
||
случае оценки параметров a f являются |
линейными функциями |
||
результатов наблюдений, |
так как элементы вектора у линейно за |
||
висят от элементов выборки y(t\), y(t2), .... y{tn). |
|||
Поскольку выражение |
(7.8.1) |
представляет собой неотрицатель |
ный квадратный многочлен относительно переменных а,*, а 2 , .... яА то минимум (7.8.1) всегда существует и бывает единственным при
Если матрица В вырожденная, то система уравнений (7.8.4) 'бу дет иметь несколько линейно зависимых решений.
Метод наименьших квадратов позволяет в классе линейных оце нок находить такие оценки, которые являются эффективными среди всех линейных несмещенных оценок. Причем, это свойство не зави сит о-т вида распределения элементов выборки у\, у2, ...,jyn-
Пример. Пусть |
задана |
выборка |
результатов |
наблюдений y{t\), . . . , y{tn) |
||||
и стоит задача оценки точности |
расчета |
коэффициентов |
аппроксимирующего |
|||||
полинома |
|
|
|
|
|
|
|
|
|
<f(t, |
я*, я*, |
. . . , |
я*) |
= 2 |
а*j(i |
(7.8.9) |
|
|
|
|
|
|
|
/=! |
|
|
на основании метода наименьших квадратов. |
|
|
|
|||||
В рассматриваемом случае |
|
|
|
|
|
|
||
|
|
п |
|
л |
|
• |
л |
|
|
п\ |
2 |
|
V |
tf, |
V |
|
|
|
|
. . . 1 |
1-1 |
|
||||
|
|
г- 1 |
|
1=1 |
|
|
||
|
п |
п |
|
л |
/3. |
|
л |
|
|
2 tr, |
2 *?; |
|
V |
*** |
V |
(7.8.10) |
|
в = |
|
|
*i» |
—J |
||||
1 =1 |
1-1 |
|
1=1 |
|
1-1 |
|
||
|
п |
п |
|
п |
|
|
л |
|
|
2 Ъ |
2 ^ +1; |
2 |
*-+2; - |
iY |
|
||
|
/=1 |
(-1 |
|
г = 1 |
|
1= 1 |
|
|
|
|
|
|
Л |
|
|
|
|
|
|
|
|
2 у (п) |
|
|
||
|
|
|
|
г=1 |
|
|
|
|
|
|
У |
|
2 у ih) и |
|
(7.8.11) |
||
|
|
|
/«1 |
|
|
|||
|
|
|
|
2 |
у Оit) tri |
|
|
|
|
|
|
|
1=1 |
|
|
|
175
и для равноточных наблюдений |
|
|
|
K(a*) = B - V , |
(7.8.12). |
где |
— дисперсия наблюдений у г, К (а*) — ковариационная матрица, характери |
зующая точность расчета оценок а,*.
Приведенное соотношение определяет как бы предельно достижимую точность оценок, получаемых на основании метода наименьших квадратов. Это объясняет ся тем, что выражение (7.8.12) не учитывает ошибок, возникающих в процессе расчета оценок на вычислительных машинах. Количественно охарактеризовать эту группу ошибок очень трудно. Однако общие закономерности указать можно, со стоят они в том, что при увеличении объема выборки п так же, как и при возра стании степени аппроксимирующего полинома г, матрица В становится менее обусловленной. В свою очередь этот факт приводит к возрастанию роли ошибок округления при расчете оценок аД по формулам (7.8.10).
Влияние ошибок округления на точность получаемых оценок прямо пропорцио нально квадратному корню из отношения наибольшего собственного значения сим метрической матрицы В к ее наименьшему собственному значению [34]. Если ука занное отношение превышает 104, то полученные оценки не будут приемлемой точ
ности. Для малых степеней аппроксимирующего полинома |
можно преобразовать |
|||||
уравнения |
(7.8.12) и записать непосредственно |
весовые функции |
сглаживающих |
|||
фильтров: |
|
|
|
|
|
|
при г= 1 |
|
6 |
2л + |
1 |
|
|
|
|
|
л; |
|||
|
к m = Оп + 1) (л + 2) |
3 |
0 < / < |
|||
при г=2 |
|
|
|
|||
_______ 3_______ |
|
|
|
|
||
К |
|
|
|
|
||
[/] = (л + 1) (л + |
2) (л + 3) |
[Зл2 Ч- Зл + 2 — 6 (1 + 2л) i + 1 0 /2], |
||||
|
|
|
||||
|
|
О< / < л. |
|
|
|
|
При такой записи для |
формирования оценок у* (tn) |
нет необходимости в |
||||
расчете коэффициентов aj* с последующим раскрытием полинома |
(7.8.9) по / = /п. |
|||||
В этом случае определение y*{tn) можно произвести по формуле |
|
//* ( « = 2 K [ n - i ] y ( t , ) .
г-о
Точность подобных оценок, если шумы измерений г/(/,-) гауссовы, для рассматриваемых примеров равны:
при Г=1
2«»(2 я+ 1)
при г = 2 |
(л + |
1) (л + 2) |
’ |
|
|
|
|
|
|
||
D [у* (tn)} |
3 (Зл2 -4- Зл -4- 2) |
|
|
||
(л + 1) (л + 2) (л + 3) ' |
|||||
|
|||||
Для достаточно больших л |
|
|
|
|
|
D {</*(«} |
4о,, |
при г = |
1; |
||
л |
|||||
|
|
|
|
||
D [ y * ( t a)\ |
п |
п ри г |
= |
2. |
|
|
|
|
|
176
В методе наименьших квадратов, так же как и при использо вании методов обработки экспериментальных данных, изложенных в предыдущих параграфах, предполагают, что математическая за висимость ср(£, а), описывающая процесс изменения полезного сигнала x(t), известна с точностью до некоторой группы парамет ров а = ( а ь а2, ••., аг)- Однако в реальных условиях таких сведений может и не быть. В этом случае возникает задача разработки про цедуры, позволяющей в заданном классе функции Н выбирать та
кую функцию ф* (г1, а), |
чтобы близость значений ср (t, а) |
к резуль |
||||
татам наблюдений уп= (yi, |
уч, |
.... уп) |
была |
в некотором смысле |
||
■наилучшей. Близость |
<рн (t, |
а) |
к x(t) |
можно |
оценивать |
в точках |
разностной сетки tu i=l, 2, ..., п. Для сравнения различных реше
ний выбирают критерий |
оптимальности |
Wn{x{t), |
фН(£, а))|^== |
— Wh, В результате |
получают, что |
наилучшее |
приближение |
Ф*(^, а*) и найденные значения параметров а* должны удовлетво рять уравнению
Wn,ti= m m W n {x{t), 4a{t,a))\tr |
(7.8.13) |
а, ?н
Взависимости от качества априорной информации, характера распределений уи а также сложности аппроксимирующих функций
<рн (t, а )е Н , конкретные выражения для Wn,tt будут различными.
Однако для понимания существа рассматриваемых явлений важно знать, что Wн, </ = 1^н1// (бф, 6Д характеризует как динамическую
точность 6d приближения ф* (t, а) к х(Д, так и случайные ошибки
6ф описания x(t) с помощью фн (t, а*), когда оценки а* найдены
—V
по выборке у7i ограниченного объема.
В методе наименьших квадратов в качестве Wn.t. обычно при
нимают квадрат суммарной ошибки, равный сумме квадратов ди намической бд-и случайной 6ф ошибок.
Для определения ба нужно знать способ конструирования x{t) с помощью функций фн (t, а). Конкретное выражение б<г можно по лучить только на основании теоретических исследований.
Чтобы найти бф нужно располагать сведениями о точности рас чета оценок а* при условии, что рассматриваемая функция фн {I, а) точно описывает полезный сигнал x(t).
В условиях полной информации (известен закон распределения p(yi) и x(t) точно описывается некоторой функцией cpH(t, а ) е Н ) влияние флуктуационных ошибок измерений на Wh,^ можно
описать аналитическим способом. Когда |
априорная информация |
|||
недостоверна или ее недостаточно, то оценку влияния бф на |
tl |
|||
можно осуществить непосредственно |
по |
результатам |
наблюде |
|
ний Уп- |
фн(^, а*)) для определения |
|||
При известных значениях,Wn (x(t), |
||||
наилучшего приближения ср* (t, а*) |
нужно сравнить |
значения |
.177