Файл: Балакришнан, А. Введение в теорию оптимизации в гильбертовом пространстве.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 24.10.2024

Просмотров: 83

Скачиваний: 0

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

10

Глава 1

называется нормированное линейное пространство (линей­ ное пространство с заданной на нем нормой) с опре­ деленным на нем скалярным произведением, связанным с нормой этого пространства (обозначаемой как || • ||) соотношением

IIAt 11= Ѵ{х, х).

Внеявном виде здесь утверждается, что ]/(*, х) дей­ ствительно может быть нормой. Единственный нетри­ виальный вопрос здесь: выполняется ли неравенство треугольника? Но оно непосредственно следует из не­ равенства Коши — Буняковского — Шварца (в дальней­ шем для краткости мы будем называть его неравенством Шварца'))

І [ х , 0 ] К I I *

I I - I I 0 II-

В этом легко убедиться следующим образом. Заме­ тим, что при любом К

0 ^ [х -(- Ку, X -f- Ку\ =

= [х, х] + |А |2 [у, у\-\-К [х, у] + К[х, у].

Выберем

(Если [у, у] = 0, справедливость неравенства (1.1) очевидна.) Но тогда

0 ^ [х, х]

I lx. у] I2

[у>У] ’

 

и неравенство (1.1) превращается в равенство тогда и только тогда, когда х отличается от у некоторым ска­ лярным множителем. (Это простое замечание составляет

.основу теории согласованных фильтров в теории обна­ ружения [И],)

О п р е д е л е н и е 1.7. Последовательность {хп} эле­ ментов нормированного линейного пространства назы-

рается

последовательностью

Коши,

если

для

каждого

е >

0

можно

найти такое

число

N (е),

что

для всех

п,

пг> N (е)

будет ||хп — хт\\< е.

 

 

 

J) В отечественной литературе это неравенство чаще называют неравенством Коши — Буняковского. — Прим, перев.


Основные свойства гильбертовых пространств

И

О п р е д е л е н и е 1.8. Нормированное линейное про­ странство называется полным, если каждая его после­ довательность Коши сходится (по норме) к некоторому элементу этого пространства.

О п р е д е л е н и е

1.9.• Гильбертовым пространством

называется полное

пространство со скалярным произ­

ведением.

 

Отметим, что любое нормированное линейное про­ странство можно сделать полным.

Обозначим через L2(a, b)q класс всех измеримых по

Лебегу функций Ң -),

определенных на отрезке {а, ft],

— o o ^ a ^ ö ^ + o o ,

принимающих значения

из мно­

жества (q X

1)-матриц

и таких, что

 

 

ь

 

 

 

J f (0* / (0 dt < оо

 

 

а

 

 

(* означает

здесь комплексное сопряжение и

транспо­

нирование). Хорошо известно, что L2(a, b)q — гильбертово пространство со скалярным произведением

ь

[Aff] = l f ( t y 8 (t)dt').

 

 

а

 

Иногда удобно рассматривать функции,

принимающие

значения

из множества прямоугольных (q X /и)-матриц,

а не из

множества

(qm X 1)-матриц-столбцов. В этом

случае

скалярное

произведение можно

представить

в виде

 

 

 

ь

 

 

[А ff] =

J tr [f (t)* g (*)] dt.

 

 

 

а

Условимся

обозначать

в дальнейшем tr [/(0* ff (01 через

[f (0,

ff (0L

поскольку

первое также является скаляр­

ным

произведением.

 

Могут оказаться полезными обобщения предыдущих

формул на

случаи, когда интегрирование ведется по

') В этой и следующих формулах следовало бы писать [g, f] вместо [f, gl, ибо по определению 1.4 скалярное произведение ли­ нейно по первому множителю. — Прим. ред.


12

Глава 1

мерам, отличным от лебеговых. Это в первую очередь ■относится к случаю вероятностных процессов.

Упорядочим обозначения, которыми мы будем поль­ зоваться в подобных ситуациях. Через L2(Q, р) мы будем обозначать пространство функций /(•). опреде­ ленных на Q и принимающих' значения из некоторого евклидова пространства, $1 — некоторая о-алгебра под­ множеств в Q, а функции / ( •) должны быть измери­ мыми относительно $ и такими, что

J [/(ю), /(«>)] dp < оо,

О

где со — точка множества Q, а р — мера на $ (конечная или сг-конечная). Пространство L2(Q, âS, р) гильбертово относительно скалярного произведения

[f, &] = J U(<*>). g (®)1 du.

Заметим, что в эту схему укладывается и случай, когда множеством Q служит некоторое подмножество /п-мер- ного вещественного евклидова пространства Rm, а р — его лебегова мера.

З а д а ч а 1.1. Пусть Н = Ь2(0, 1). Рассмотрим класс Е функций, обращающихся в нуль на некотором интер­ вале, зависящем, вообще говоря, от функции, но всегда содержащем точку '/г- Показать, что Е — линейное под­ пространство в Н. Замкнуто ли пространство Е?

З а д а ч а 1.2. Пусть множество {qpfe:

k =

\, 2, ... , п}

линейно независимо. Показать,

что

множество

всех

п-мерных векторов {ck:

k = l , 2,

. . . , «} из

я-мерного

 

 

 

П

I!

 

евклидова пространства,

для которых

2 сйФа < р

< ОО

при фиксированном положительном числе р, замкнуто и ограничено.

Одна из основных особенностей предгильбертовых пространств заключается в том, что в них выполняется

.закон параллелограмма:

II *"— УII2 -+ II * + d II2 — 2 (ИXII2 + II і/ II2).

( 1.2)


Основные свойства гильбертовых пространств

13

Отсюда можно вывести много важных свойств гиль­ бертовых пространств. Отметим, что в уравнении (1.2) в явном виде не фигурирует скалярное произведение. Тем не менее оно, хотя и в скрытой форме, играет здесь центральную роль. В самом деле, всякое норми­ рованное линёйное пространство, в котором выполняется закон параллелограмма, предгильбертово. Соответст­ вующее скалярное произведение задается формулой

[.V, У\ = [х, у\\ + і[х, іу \,

где

[х, у]і = 4 (II* + УII2—IIX —у |р).

Если пространство вещественно, то достаточно только второй формулы.

Начиная с этого места, мы будем рассматривать лишь гильбертовы пространства и будем обозначать их буквой Я.

О п р е д е л е н и е

1.10.

Элемент х называется орто­

гональным к элементу у,

если [х, у] = 0.

О п р е д е л е н и е

1.11.

Ортонормальным множеством

называется множество попарно ортогональных элемен­ тов единичной нормы. Ортонормальное множество на­ зывается полным, если оно не является собственным подмножеством никакого другого ортонормального мно­ жества.

Очевидно, что только нуль может быть ортогонален ко всем элементам полного ортонормального множества. Пусть {хп} — линейно независимая последовательность. Тогда можно построить такую ортонормальную после­ довательность {уп}, что каждый ее элемент уп есть ли­ нейная комбинация элементов xt, і ^ п . Это делается с помощью процесса Грамма — Шмидта, описанного, например, в [5].

Теперь мы подготовлены к тому, чтобы сформули­ ровать и доказать утверждение, которое, по-видимому, является центральной теоремой существования в теории оптимизации. Но прежде напомним, что множество на­ зывается выпуклым, если прямолинейный отрезок, со­

14 Глава 1

единяющий любые две точки множества, целиком при­

надлежит

этому

множеству, т. е. все

точки

вида

(1 — Ѳ)X +

Ѳг/, 0 ^ 0 ^ 1, принадлежат множеству,

если

ему принадлежат точки х и у.

 

 

Приведем несколько простых примеров выпуклых

множеств

в гильбертовых

пространствах.

В простран­

стве L2(Q,

р)

выпукло

множество

 

 

С = {!{•)• /(со )еС £ почти всюду},

где СЕ — выпуклое подмножество евклидова простран­ ства Е, в котором функции / ( • ) принимают значения. Выпуклое множество СЕ может задаваться неравен­ ством:

СЕ = { х ^ Е: q (х) ^ т < оо},

где q (•) — выпуклая вещественная функция, опреде­ ленная на Е. Типичный пример такой функции:

q {х) = У [х, х].

В отличие от приведенного только что поточечного задания выпуклого множества оно может задаваться некоторым глобальным ограничением. Например, пусть q (•) — неотрицательная непрерывная выпуклая функ­ ция, определенная, как и раньше, на Е, а p(f) — функ­ ционал на L2(a, b)q вида

ь

Р (/) = I Р (f 00) dt.

а

Множество функций, на которых функционал p{f) ко­ нечен, выпукло, и в частности выпукло множество

C = {f: / > ( / ) < « < оо}.

При этом С может быть и неограниченным; возьмем,

например, q(x)=Y[x, х].

Легко видеть, что в гильбертовом пространстве любой шар

{х: IIX — х0| К т < оо},

где через || • || обозначена норма этого пространства, является замкнутым выпуклым множеством.


Основные свойства гильбертовых пространств

15

Т е о р е м а 1.1. Каждое замкнутое выпуклое

под­

множество гильбертова пространства содержит един­ ственный элемент минимальной нормы.

Д о к а з а т е л ь с т в о . Пусть С — замкнутое выпуклое множество и

d = inf IIXII, х ^ С .

Тогда очевидно, что можно найти такую последо­ вательность {хп} из С (обычно называемую минимизи­ рующей), что d = lim|U',J. По закону параллелограмма

Хп хт

= 4 (И*» И2+11*, J 2) — [у*« + у * »

а так как второй член справа представляет собой квад­ рат нормы некоторого элемента из С, то левая часть должна быть меньше

( II

IP + II

IF)

d~,

и, следовательно, она сходится к нулю. Это значит, что (хп} — последовательность Коши. А так как С замкнуто, а Н полно, то предел z этой последовательности должен принадлежать С. Более того, из неравенства

I

ІИ І-ІІ0ІІ К І І * - 0

І І

(1.3)

следует, что норма элемента z

равна d.

два элемента

Предположим

теперь, что

а, и

 

из С с нормой d. Тогда снова из закона параллело­ грамма

I 2і —22 |2

1 I

1

I

(1.4)

= d2~

9^1 +

9 ^2

 

причем левая часть неотрицательна, так что z { — а2.

Единичный шар в нормированном линейном про­ странстве (т. е. множество элементов, нормы которых не превосходят единицы) называется равномерно вы­ пуклым, если для любой пары (х, у) элементов на гра­ нице этого шара (т. е. элементов единичной нормы),