Файл: Горелик, А. Л. Некоторые вопросы построения систем распознавания.pdf

Если fi(X) и fz(X) подчинены нормальным законам распределения с математическими ожиданиями ßi и az

соответственно и среднеквадратическими отклонениями ві — ö‘i= o , т. е. имеют вид

іС-{Х-аЩ!Ъ\1

а Ѵ2Х

В теории статистических решений Qnr называется раз­

Для вычисления этих интегралов ввиду того, что они не выражаются через элементарные функции, пользуют-

ся таблицами специальных функций

(Х-а)/о

V2Ü

которые приведены в работах ряда авторов (например,

И ) .

При многомерных нормальных распределениях могу г быть получены функции Fn (%2), которые являются п- мерными аналогами интеграла вероятностей F(t). Для

этих функций при 2 < п < 1 9 разработаны таблицы (7]. При выборе значения Х0, т. е. при разделении про­

странства признака А' на два полупространства R\ и R2,

необходимо учитывать, с чем сопряжено совершениеошибок первого и второго рода. Можно полагать, что эти ошибки связаны с нанесением стороне, включающей в се­ бя систему распознавания, определенного ущерба, что распознающая сторона несет определенные потери. Ве­ личина этих потерь определяет собой плату за ошибки, иначе стоимости принятия ошибочных решений. В об­ щем виде мы имеем дело со следующими стоимостями (рисками): Сі2— стоимость ошибки первого рода, С21— стоимость ошибки второго рода, Си, С22 — стоимости

правильных решений.

Указанные стоимости можно записать в виде матри­ цы цен

|с„ ^12 1^*21 С2%

Средняя стоимость, которую приходится платить при многократном распознавании неизвестных объектов, рав­ на сумме стоимостей неправильных и правильных реше­ ний с учетом вероятностей их появления и априорных вероятностей поступления на вход системы распознана ния объектов I и II классов, т. е.

C = -P (I)C n (l- Q „ T) + P ( I) C i2QnT+

34

Подставив в (2.26) выражения для вероятностей Qaт и

Qnp, получим

Произведение вида CkQk называется риском, соответст­ вующим k -й гипотезе. Системы распознавания, как пра­ вило, являются системами многократного действия.

Именно поэтому необходимо, чтобы выбору Х0 был осу­ ществлен с учетом того, чтобы величина С была мини­

мальна.

Для определения величины Х0, при_которой средний риск минимален, продифференцируем С по X и прирав­ няем производную нулю, положив X= Х0

Откуда

/2(Хо)//1 (Хо) = Р (I) (С12- С „ )/Р (II) (С2і - С 22) . (2.29)

Отношение плотностей вероятности f2(X)/fl (X) назы­ вают отношением или коэффициентом правдоподобия.

При Х = Х0 коэффициент правдоподобия приобретает кри­ тическое значение и обозначается либо Хо, либо Х(Х0).

Положим для примера, что Сц = С22= 0 , Сі2= С і и

€ 2і = С2. Тогда

при Сі = С2 и Р(І )=Р( ІІ )

Хо= (йі + а2)/2.

Знание Х0> при котором осуществляется оптимальное

в смысле минимума риска разделение пространства на две области Ri и R%, позволяет минимизировать ошибку

классификации. Если Х <Х 0, то следует принять реше­ ние о принадлежности объекта к классу I, а если Х> >2Г0— то к классу II. Область R і состоит из значений X

к классу I следует принимать, если значение коэффи­ циента правдоподобия меньше его критического значе­ ния, и к классу II — при противоположной ситуации..

2.3. КРИТЕРИИ БАЙЕСА

Правило, по которому стратегия решений выбирается так, чтобы минимизировать средний риск, называется критерием Байеса. Применение подобного критерия осо­

бенно целесообразно в том случае, когда необходимо принимать многократно решения в одинаковых усло­ виях.

Минимизация среднего риска будет иметь место в том случае, если гипотеза # і принимается тогда, когда изме­ ренное значение X лежит в области Ri, а если в обла­ сти Rz, то принимается гипотеза Я2. Докажем, что байе­

совская стратегия обеспечивает минимальный средний риск, который называется байесовским риском. Для это­

го вычислим средний риск, когда используется стратегия,

36

с помощью других соостношений. Пусть в результате опы-

Рис. 2.2.

та установлено, что признак распознаваемого объекта составляет величину У0. Тогда условная вероятность при­ надлежности этого объекта к первому классу или, ина­ че, условная вероятность первой гипотезы равна

а условная вероятность второй гипотезы

где f (У0) =P(l)fi(X°) +P(II)f2(X°)— полная плотность вероятности результатов X при всех опытах. Величины Р( Ні|Х°) и Р(Н2\Х°) называются также апостериорными

вероятностями.

Условный риск, связанный с выбором гипотезы Ну,

будет равен

С(Ну\Х°)=С2Р(Н2\Х°), (2.37)

а условный риск при выборе гипотезы Н2 будет равен

37

Система распознавания, основанная на байесовой стратегии, должна решать задачу с минимумом услов­ ного риска. Это значит, что предпочтение первой гипо­ тезе следует отдавать тогда, когда

Следовательно, первая гипотеза должна приниматься тогда, когда

Таким образом, байесов подход к решению задачи распознавания состоит в вычислении условных апосте­ риорных вероятностей и принятия решения на основа­ нии сравнения их величин. Если число классов больше двух и равно т, то апостериорная вероятность отнесе­

ния распознаваемого объекта к t-му классу равна

чае отнесения объекта к тому или другому классу). Пусть, как и раньше, имеется два класса Qt и Q2, ап­ риорные вероятности появления объектов этих классов

а Си = С22, = 0. Пусть известны также условные плотно­

сти распределения вероятностей значений признаков по классам, т. е. fi(Xu ..., XN) и f2(Xit ..., XN).

38