Файл: Балакришнан, А. Введение в теорию оптимизации в гильбертовом пространстве.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 24.10.2024
Просмотров: 83
Скачиваний: 0
10 |
Глава 1 |
называется нормированное линейное пространство (линей ное пространство с заданной на нем нормой) с опре деленным на нем скалярным произведением, связанным с нормой этого пространства (обозначаемой как || • ||) соотношением
IIAt 11= Ѵ{х, х).
Внеявном виде здесь утверждается, что ]/(*, х) дей ствительно может быть нормой. Единственный нетри виальный вопрос здесь: выполняется ли неравенство треугольника? Но оно непосредственно следует из не равенства Коши — Буняковского — Шварца (в дальней шем для краткости мы будем называть его неравенством Шварца'))
І [ х , 0 ] К I I * |
I I - I I 0 II- |
В этом легко убедиться следующим образом. Заме тим, что при любом К
0 ^ [х -(- Ку, X -f- Ку\ =
= [х, х] + |А |2 [у, у\-\-К [х, у] + К[х, у].
Выберем
(Если [у, у] = 0, справедливость неравенства (1.1) очевидна.) Но тогда
0 ^ [х, х] |
I lx. у] I2 |
|
[у>У] ’ |
||
|
и неравенство (1.1) превращается в равенство тогда и только тогда, когда х отличается от у некоторым ска лярным множителем. (Это простое замечание составляет
.основу теории согласованных фильтров в теории обна ружения [И],)
О п р е д е л е н и е 1.7. Последовательность {хп} эле ментов нормированного линейного пространства назы-
рается |
последовательностью |
Коши, |
если |
для |
каждого |
||
е > |
0 |
можно |
найти такое |
число |
N (е), |
что |
для всех |
п, |
пг> N (е) |
будет ||хп — хт\\< е. |
|
|
|
J) В отечественной литературе это неравенство чаще называют неравенством Коши — Буняковского. — Прим, перев.
Основные свойства гильбертовых пространств |
И |
О п р е д е л е н и е 1.8. Нормированное линейное про странство называется полным, если каждая его после довательность Коши сходится (по норме) к некоторому элементу этого пространства.
О п р е д е л е н и е |
1.9.• Гильбертовым пространством |
называется полное |
пространство со скалярным произ |
ведением. |
|
Отметим, что любое нормированное линейное про странство можно сделать полным.
Обозначим через L2(a, b)q класс всех измеримых по
Лебегу функций Ң -), |
определенных на отрезке {а, ft], |
||
— o o ^ a ^ ö ^ + o o , |
принимающих значения |
из мно |
|
жества (q X |
1)-матриц |
и таких, что |
|
|
ь |
|
|
|
J f (0* / (0 dt < оо |
|
|
|
а |
|
|
(* означает |
здесь комплексное сопряжение и |
транспо |
нирование). Хорошо известно, что L2(a, b)q — гильбертово пространство со скалярным произведением
ь
[Aff] = l f ( t y 8 (t)dt').
|
|
а |
|
Иногда удобно рассматривать функции, |
принимающие |
||
значения |
из множества прямоугольных (q X /и)-матриц, |
||
а не из |
множества |
(qm X 1)-матриц-столбцов. В этом |
|
случае |
скалярное |
произведение можно |
представить |
в виде
|
|
|
ь |
|
|
[А ff] = |
J tr [f (t)* g (*)] dt. |
|
|
|
а |
Условимся |
обозначать |
в дальнейшем tr [/(0* ff (01 через |
|
[f (0, |
ff (0L |
поскольку |
первое также является скаляр |
ным |
произведением. |
|
|
Могут оказаться полезными обобщения предыдущих |
|||
формул на |
случаи, когда интегрирование ведется по |
') В этой и следующих формулах следовало бы писать [g, f] вместо [f, gl, ибо по определению 1.4 скалярное произведение ли нейно по первому множителю. — Прим. ред.
12 |
Глава 1 |
мерам, отличным от лебеговых. Это в первую очередь ■относится к случаю вероятностных процессов.
Упорядочим обозначения, которыми мы будем поль зоваться в подобных ситуациях. Через L2(Q, р) мы будем обозначать пространство функций /(•). опреде ленных на Q и принимающих' значения из некоторого евклидова пространства, $1 — некоторая о-алгебра под множеств в Q, а функции / ( •) должны быть измери мыми относительно $ и такими, что
J [/(ю), /(«>)] dp < оо,
О
где со — точка множества Q, а р — мера на $ (конечная или сг-конечная). Пространство L2(Q, âS, р) гильбертово относительно скалярного произведения
[f, &] = J U(<*>). g (®)1 du.
Заметим, что в эту схему укладывается и случай, когда множеством Q служит некоторое подмножество /п-мер- ного вещественного евклидова пространства Rm, а р — его лебегова мера.
З а д а ч а 1.1. Пусть Н = Ь2(0, 1). Рассмотрим класс Е функций, обращающихся в нуль на некотором интер вале, зависящем, вообще говоря, от функции, но всегда содержащем точку '/г- Показать, что Е — линейное под пространство в Н. Замкнуто ли пространство Е?
З а д а ч а 1.2. Пусть множество {qpfe: |
k = |
\, 2, ... , п} |
|||
линейно независимо. Показать, |
что |
множество |
всех |
||
п-мерных векторов {ck: |
k = l , 2, |
. . . , «} из |
я-мерного |
||
|
|
|
П |
I! |
|
евклидова пространства, |
для которых |
2 сйФа < р |
< ОО |
при фиксированном положительном числе р, замкнуто и ограничено.
Одна из основных особенностей предгильбертовых пространств заключается в том, что в них выполняется
.закон параллелограмма:
II *"— УII2 -+ II * + d II2 — 2 (ИXII2 + II і/ II2). |
( 1.2) |
Основные свойства гильбертовых пространств |
13 |
Отсюда можно вывести много важных свойств гиль бертовых пространств. Отметим, что в уравнении (1.2) в явном виде не фигурирует скалярное произведение. Тем не менее оно, хотя и в скрытой форме, играет здесь центральную роль. В самом деле, всякое норми рованное линёйное пространство, в котором выполняется закон параллелограмма, предгильбертово. Соответст вующее скалярное произведение задается формулой
[.V, У\ = [х, у\\ + і[х, іу \,
где
[х, у]і = 4 (II* + УII2—IIX —у |р).
Если пространство вещественно, то достаточно только второй формулы.
Начиная с этого места, мы будем рассматривать лишь гильбертовы пространства и будем обозначать их буквой Я.
О п р е д е л е н и е |
1.10. |
Элемент х называется орто |
гональным к элементу у, |
если [х, у] = 0. |
|
О п р е д е л е н и е |
1.11. |
Ортонормальным множеством |
называется множество попарно ортогональных элемен тов единичной нормы. Ортонормальное множество на зывается полным, если оно не является собственным подмножеством никакого другого ортонормального мно жества.
Очевидно, что только нуль может быть ортогонален ко всем элементам полного ортонормального множества. Пусть {хп} — линейно независимая последовательность. Тогда можно построить такую ортонормальную после довательность {уп}, что каждый ее элемент уп есть ли нейная комбинация элементов xt, і ^ п . Это делается с помощью процесса Грамма — Шмидта, описанного, например, в [5].
Теперь мы подготовлены к тому, чтобы сформули ровать и доказать утверждение, которое, по-видимому, является центральной теоремой существования в теории оптимизации. Но прежде напомним, что множество на зывается выпуклым, если прямолинейный отрезок, со
14 Глава 1
единяющий любые две точки множества, целиком при
надлежит |
этому |
множеству, т. е. все |
точки |
вида |
|
(1 — Ѳ)X + |
Ѳг/, 0 ^ 0 ^ 1, принадлежат множеству, |
если |
|||
ему принадлежат точки х и у. |
|
|
|||
Приведем несколько простых примеров выпуклых |
|||||
множеств |
в гильбертовых |
пространствах. |
В простран |
||
стве L2(Q, |
р) |
выпукло |
множество |
|
|
С = {!{•)• /(со )еС £ почти всюду},
где СЕ — выпуклое подмножество евклидова простран ства Е, в котором функции / ( • ) принимают значения. Выпуклое множество СЕ может задаваться неравен ством:
СЕ = { х ^ Е: q (х) ^ т < оо},
где q (•) — выпуклая вещественная функция, опреде ленная на Е. Типичный пример такой функции:
q {х) = У [х, х].
В отличие от приведенного только что поточечного задания выпуклого множества оно может задаваться некоторым глобальным ограничением. Например, пусть q (•) — неотрицательная непрерывная выпуклая функ ция, определенная, как и раньше, на Е, а p(f) — функ ционал на L2(a, b)q вида
ь
Р (/) = I Р (f 00) dt.
а
Множество функций, на которых функционал p{f) ко нечен, выпукло, и в частности выпукло множество
C = {f: / > ( / ) < « < оо}.
При этом С может быть и неограниченным; возьмем,
например, q(x)=Y[x, х].
Легко видеть, что в гильбертовом пространстве любой шар
{х: IIX — х0| К т < оо},
где через || • || обозначена норма этого пространства, является замкнутым выпуклым множеством.
Основные свойства гильбертовых пространств |
15 |
Т е о р е м а 1.1. Каждое замкнутое выпуклое |
под |
множество гильбертова пространства содержит един ственный элемент минимальной нормы.
Д о к а з а т е л ь с т в о . Пусть С — замкнутое выпуклое множество и
d = inf IIXII, х ^ С .
Тогда очевидно, что можно найти такую последо вательность {хп} из С (обычно называемую минимизи рующей), что d = lim|U',J. По закону параллелограмма
Хп — хт
= 4 (И*» И2+11*, J 2) — [у*« + у * »
а так как второй член справа представляет собой квад рат нормы некоторого элемента из С, то левая часть должна быть меньше
( II |
IP + II |
IF) |
d~, |
и, следовательно, она сходится к нулю. Это значит, что (хп} — последовательность Коши. А так как С замкнуто, а Н полно, то предел z этой последовательности должен принадлежать С. Более того, из неравенства
I |
ІИ І-ІІ0ІІ К І І * - 0 |
І І |
(1.3) |
|
следует, что норма элемента z |
равна d. |
два элемента |
||
Предположим |
теперь, что |
а, и |
|
из С с нормой d. Тогда снова из закона параллело грамма
I 2і —22 |2 |
1 I |
1 |
I |
(1.4) |
= d2~ |
9^1 + |
9 ^2 |
|
причем левая часть неотрицательна, так что z { — а2.
Единичный шар в нормированном линейном про странстве (т. е. множество элементов, нормы которых не превосходят единицы) называется равномерно вы пуклым, если для любой пары (х, у) элементов на гра нице этого шара (т. е. элементов единичной нормы),