Файл: Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 10.04.2024

Просмотров: 214

Скачиваний: 0

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

§ 4] ОПТИМАЛЬНОЕ КОДИРОВАНИЕ И ДЕКОДИРОВАНИЕ 631

Сравнивая (16.90)

и равенство

 

 

 

 

 

 

 

 

 

 

t

М

(-Лу*/(s))2 ds —

t

 

 

 

 

 

 

 

 

 

 

J

I Ys(^*(s))2c?5 = Pt,

 

 

 

 

 

о

 

 

 

 

 

о

 

 

 

 

 

 

 

находим,

что должно

быть также выполнено равенство

 

 

 

 

 

 

 

 

 

+ АПі ) тНѴ ) = 0,

 

 

 

(16.96)

где согласно (16.87)

оптимальное декодирование

т }

опреде­

ляется из уравнения

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

dm*t= V P y e ~ pt/2dlt,

m5 = m,

 

 

(16.97)

а передаваемый сигнал I* = (&),

0 <

^<

Г (см. (16.86)),

удовле­

творяет уравнению

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

dlt =

У

~ е рт (Ѳ -

т?) dt +

d W t,

$ =

0.

(16.98)

Из

(16.97) видно,

что

оптимальное

декодирование

может

быть

записано также

в следующем

виде:

 

 

 

 

 

 

 

__

1 _РS

 

 

 

 

 

 

 

 

 

 

trit = m - \ - Y Ру J е

2

dgs =

 

 

 

 

 

 

 

 

 

 

 

 

о

 

 

 

__

 

 

 

 

* _ Р5

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=

т + Ѵ Ѵ ч [ е

2 l? +

y j e

2

& d s \ .

(16.99)

 

 

 

 

 

 

 

 

 

 

 

 

 

о

 

 

 

 

Уравнение же (16.98) показывает, что оптимальная

опера­

ция кодирования

состоит

в том, чтобы

посылать

все

время

не само сообщение Ѳ,

а

«расхождение»

Ѳ— т)

между вели-

чиной Ѳ и ее оптимальной оценкой ті,

умноженное на

У

Итак,

доказана

 

 

 

 

 

 

 

 

 

 

 

 

Л е м м а

16.6.

В

классе допустимых линейных кодирующих

функций

(16.84)

оптимальное

кодирование

(Ло, А\)

существует

и задается

формулами

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

iPtß

 

 

 

 

 

(16.100)

 

 

 

 

 

 

 

 

 

 

A \ { t) m l

 

 

 

 

(16.101)

 

 

 

 

 

 

Л Л Ш = Y'- -

 

 

 

 

 

 

При этом оптимальное декодирование пг}

и

передаваемый

сигнал

It

удовлетворяют

уравнениям

(16.97),

(16.98).

Ошибка

воспроизведения

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

д*(/) =

Ѵе-р<.

 

 

 

 

 

(16.102)

З а м е ч а н и е

1.

Рассмотрим класс

линейных

кодирующих

функций A0(t) +

Ai (t) Ѳ, не использующих обратную связь. Иначе


632

ПРИМЕНЕНИЕ К НЕКОТОРЫМ

ЗАДАЧАМ

УПРАВЛЕНИЯ

[ГЛ. 16

говоря,

будем предполагать, что

функции

Л0(/), Л, (f)

зависят

 

 

г

 

 

 

 

лишь от времени,

J [Л2(/) + Л2 (7)J Ш < оо и

 

 

 

 

о

 

 

 

 

 

t

 

 

 

 

 

 

y j M[^o(s) + Л! (s) Ѳ]2 rfs

Р,

0 < / < 7 \

 

 

О

 

 

 

 

 

Поскольку

 

 

 

 

 

 

М [Ло(s) +

А х (S) Ѳ]2 = [Л0 (S) +

тА\

(s)]2 + уЛ2 (s),

 

то из вышеприведенного энергетического ограничения находим,

что

t

J Л2(5)й?5<^ -/.

0

Отсюда вытекает, что

Yt

________Y_______

^ 1+ Рt '

<

 

1 + yJ л2( s ) ds

 

и, следовательно, минимальная среднеквадратическая ошибка воспроизведения (без использования обратной связи)

Ä (t) = inf М [Ѳ — m tf >

 

Но для кодирующих функций

 

 

 

Â(f) =

j / y *

A a{ t ) = - A x ( t ) m

 

среднеквадратическая

ошибка

в точности

равна

■jqrpj'

Поэтому

 

 

 

 

З а м е ч а н и е 2. Отметим еще одну особенность процесса

являющегося оптимальным

передаваемым сигналом. Если (Л0, А\)

—некоторое

допустимое

кодирование, то

согласно теореме

7.12

и уравнению (16.86)

 

 

 

 

d\t = [Л0 (t , £) -f Ai (t , I) m t] dt +

d W t,

где

W —

— винеровский процесс.

 


§ 4] ОПТИМАЛЬНОЕ КОДИРОВАНИЕ И ДЕКОДИРОВАНИЕ 633

 

Для

оптимального

сигнала

 

Ao(t,

£’) + А \ (t,

g*) т\ = 0.

Поэтому

процесс

 

£* =

(£?),

0 ^ / ^ Г ,

 

совпадает

с

соответ­

ствующим ему обновляющим

процессом

 

W7 —

^"Г)- Следо­

вательно,

в

оптимальном

случае

передача устроена

так, что

передавать

надо

только

обновляющий

процесс

W = (Wt, F f y

 

3. Покажем теперь,

что

найденное

в

лемме

16.6

кодиро­

вание (Ло, Л() является оптимальным также в

том

смысле,

что оно дает

наибольшую

информацию

ІДѲ, g)

о Ѳ в

прини­

маемом сообщении

ëo =

{£s>

 

Для

каждого

/,

0 < ^ < 7 \

 

Пусть

Іг =

sup ІДѲ, g),

 

где

sup

берется по

всем

сигна­

лам Іо =

{І5,

 

 

удовлетворяющим уравнению (16.82)

с до­

пустимыми кодирующими функциями А =

(A (t, Ѳ, g)),

0 = ^ < Т .

 

Л е м м а

 

16.7.

Процесс Г =

 

O ^ s^ T },

найденный

в

лемме

16.6, является

также

оптимальным в

том

смысле,

что для него

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

І/ =

І/(Ѳ,П =

Т".

 

 

 

 

 

 

(16.103)

 

До к а з а т е л ь с т в о .

Пусть А — (А (t, Ѳ, g)), 0

^ Г, —неко­

торое допустимое кодирование. Тогда из теоремы

16.3

и

пред­

положения

(16.83)

следует,

что

 

 

 

 

 

 

 

 

 

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ІДѲ, g) =

о

М [ Л2 (s, Ѳ, g) — А 2 (S,

I)] ds <

 

 

 

 

 

 

 

 

 

 

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

< у | М A2( s , d , l ) d s ^ ~ ,

 

 

(16.104)

 

 

 

 

 

 

 

 

о

 

 

 

 

 

 

 

 

 

где Л(5,!) =

М[Л(а, Ѳ, Ю|^]-

Л (s, Ѳ, g*) = Ло (s, g) +

А* (s) Ѳ

с

С другой

стороны,

возьмем

Ло(s, g)

и ЛДа),

определенными

в

 

лемме

16.6.

 

Тогда

всилу (16.101)

м(s, ѳ,Г) I #1]= л;( S , Г) + л;(s) ms = о,

и, значит, согласно

(16.104),

(16.90)

 

 

 

t

 

 

h (ѳ, Г) =

J

J М [Л5

(S, І) + ЛГ (s) Ѳ]2 ds = ^ - ,

 

 

о

 

 

что вместе с (16.104) доказывает требуемое

равенство (16.103).

4. В настоящем

пункте будет показано,

что линейное коди­

рование (Ло, ЛІ) является оптимальным в классе всех до­

пустимых кодирований.


634 Пр и м е н е н и е к н е к о т о р ы м з а д а ч а м у п р а в л е н и я [ГЛ. 16

При доказательстве этого предложения оказывается полез­ ным приводимое ниже неравенство (16.105), в определенном смысле аналогичное неравенству Рао-Крамера.

Л е м м а

16.8. Пусть Ѳ— гауссовская

случайная

величина,

Ѳ ~ N (m,y)

и Ѳ— некоторая случайная

величина.

Тогда

 

М [Ѳ -

Ѳ]2 > ѵе_2І(Ѳ’

(16.105)

Д о к а з а т е л ь с т в о .

Обозначим е2 — М [Ѳ — Ѳ]2. Не ограни­

чивая общности, можно считать, что 0 <

е2 < о о . Рассмотрим

теперь е-энтропию Яе (Ѳ) = inf {1 (Ѳ, Ѳ): М (Ѳ — Ѳ)2 ^ е 2}. Соглас­

но известной формуле для е-энтропии Яе(Ѳ) гауссовской вели­

чины Ѳ (см. формулу (12)

в

[88])

 

 

 

 

Яе(Ѳ)=^-1птах (-J-, і ) .

(16.106)

Следовательно,

 

 

 

 

 

 

1(0, Ѳ) > Яе( Ѳ) >4 і п дг = 4 - ^ ------

 

V

^

2

е2

2

м [Ѳ — Ѳ]2

 

что и доказывает требуемое неравенство (16.105).

 

Т е о р е м а

16.5. Пусть

Ѳ—гауссовская случайная

величина,

передаваемая по каналу связи, описываемому уравнением (16.82).

Тогда

(16.107)

Д(*) = Д*(*) = Ѵе“р<

и, следовательно, в классе всех допустимых кодирований опти­

мальным

является линейное кодирование (Ло, А\), найденное

в лемме

16.6.

Д о к а з а т е л ь с т в о . Ясно, что Д (/) <1 А* (t) = ye~pt. Поэ­

тому для доказательства теоремы достаточно убедиться в том, что

 

 

A ( S ) > \ e ~ vt.

 

(16.108)

Пусть | =

(Ы> 0 ^ / ^ Г , —процесс,

отвечающий некоторому

допустимому

кодированию (см.

16.83)), и 0 =

§Д|) —какое-то

декодирование. Тогда в

силу леммы

16.8

 

 

М -

ѳЛЩ2 >

уе~21

6t ft».

(16.109)

Но, как хорошо известно, I (0, & (І)) ^ I/ (Ѳ, g). К тому же по лемме 16.7 ІДѲ, g) ^ lt (Ѳ, g*) — P//2. Поэтому

М [ Ъ - Ъ Л І ) ] 2 > у е - рі,

что и доказывает требуемое неравенство (16.108). Теорема доказана.


§ 4]

ОПТИМАЛЬНОЕ КОДИРОВАНИЕ И ДЕКОДИРОВАНИЕ

635

5. Метод, примененный при доказательстве леммы 16.6, может быть использован для отыскания оптимального линей­ ного кодирования и для того случая, когда передаваемое

сообщение Ѳ= (Ѳ4), 0 ^ / ^ Г , является гауссовским процессом с дифференциалом

dQt =

a(t)Qt dt + b( t ) dWt,

(16.110)

где винеровский процесс

W — {W^),

не зависит от

гауссовской случайной величины Ѳ0 с заданными значениями

МѲ0= т ,

D0o = у > 0, a

\ a ( i ) \ ^ . K ,

| 6(f) 1=^/0

 

| = (£,),

 

Будем

предполагать

(ср. с (16.86)),

что

процесс

0 < f < 7 \

получаемый на выходе канала,

является единствен­

ным сильным решением уравнения

 

 

 

 

 

 

 

=

|) +

A x{t, D W t

+ dWt,

Іо=

0,

(16.111)

где

винеровский

процесс W — (Wt),

 

 

не

зависит от

W,

Ѳ0 и (неупреждающие)

кодирующие функции Л0(/,

|) и

(t, |)

удовлетворяют условиям

 

 

 

 

 

 

 

 

Р I

f Ло (t,

I) dt <

оо 1 =

1,

sup

IЛ, (t, х)

I <

оо

 

U

 

 

j

x * C , t < T

 

 

 

и энергетическому ограничению

 

 

 

 

 

 

 

 

М [Л0 (t, І) +

Л,(*,

I) Ѳ,]2< Р

 

 

 

с заданной константой Р.

 

 

 

 

 

 

 

Пусть

 

 

 

 

 

 

 

 

 

A* (t) — inf М [Ѳ; — Ѳ, (I)]2,

где inf берется по всем описанным допустимым кодирующим функциям и декодированиям Ѳ*(£)- Ясно, что

А*(*)= inf М[Ѳ( — m tf ,

 

 

(Ло, Ai)

 

 

где itit =

М (Ѳ< I @~t)-

 

 

Обозначим

 

 

Tогда

 

Yf = M [(Ѳг — nit)21

(16.112)

 

A* ( t ) = inf Myt.

(16.113)

 

 

 

 

(Ло, Л0

 

 

Если кодирование (Л0, Л() задано,

то по теореме

12.1

d m t =

a(t) m t dt-\-ytA x(t , |) [d%t —(Л0(/,

|) + Л, (t, |) m t) dt], (16.114)

 

 

yt = 2a{t )yt - y \ A \ { t ,

l) + b2(t)

(16.115)

c m0 =

m,

Vo = Y-