Файл: Ганин, М. П. Прикладные методы теории марковских случайных процессов учебное пособие.pdf

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 17.10.2024

Просмотров: 173

Скачиваний: 0

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

В данные уравнения время т входит как параметр. Поэтому, не­ смотря на частные производные от P kj (t, т) по t, равенства (4.9) при фиксированном* / (/ = 0, 1, ... , /V) образуют систему из N + 1 обыкновенных дифференциальных уравнений относительно такого же числа неизвестных функций Pkj (t, %) (k = 0, 1, . .. , N) . Началь­ ными условиями для этих уравнений служат значения искомых функций Pkj (t, т) при наибольшем значении т аргумента t. По ана­ логии с (4.7) начальные условия для системы (4.9) при фиксиро­ ванном / записываются в виде

 

 

Рkj (т> ') — °kj

(Л, / = 0 , 1 ..............N).

(4.10)

Рkj

Для

однородного

марковского

процесса

вероятности

перехода

(t, т)

зависят

от

t

и т

как

от разности, т. е. Pkj

(/, т) =

=

Рк) ( т — t).

Из

(4.1)

и (4.2) следует, что

в этом случае времен­

ные плотности

вероятности

7к и Tkj

смены

состояния Ск

и пере­

хода из состояния Ск

в

Cj (k, / =

0,

1, . .. , N) не зависят от t, т. е.

являются постоянными величинами. Прямая система дифференци­ альных уравнений (4.5) при однородном процессе переписывается в виде

Рц (0 = -

 

тЛ] (0+ i

irtРыН)

(4.11)

 

(k,

j =

О,

1,

.. .,

N),

 

причем

 

 

 

 

 

 

 

 

^kj(0) =

\j

 

(k,

/ =

0,

1,

. .. , N).

(4.12)

Так как ^ kj — — =

 

Р'щ (т — t)

, то обратная система диф­

ференциальных уравнений

(4.9)

при однородном процессе будет

 

 

 

 

 

 

N

 

 

Р'ц (0 =

-

ТкЛо (0

+

2

Тк; Рц (0

(4.13)

 

 

 

 

 

 

г-о

 

 

 

{К j =

0,

1,

... ,

N).

 

Начальные условия для этой системы те же, что и для (4.11), т. е. (4.12).

Когда число состояний ограничено, т. с. N < оо, каждая из полученных выше систем дифференциальных уравнений имеет

единственное решение.

С помощью

системы (4.8),

в которой

при

однородном процесс

и rkj / =

0,

1, . .. , N)

— постоянные ве­

личины, находятся вероятности Рк(/),

при любом t

связанные

ра-

венством

N

Решением системы (4.5) являются неотри­

 

цательные

функции Pkj {t0, t) (k,

j =

0, 1, . .. ,

N),

которые

сов­

местно с

начальными

вероятностями

Рк(t0)

(& =

0, 1, . .. .

N)

27


полностью характеризуют марковский процесс. Так же однозначно характеризуют этот процесс и функции Рк] (/, т) (k, / - - 0 , 1, N), являющиеся решением системы (4.9); данные неотрицательные функции удовлетворяют уравнению (2.13) и соотношению (2.9). При бесконечном числе состояний полученные системы дифферен­ циальных уравнений имеют единственные решения, удовлетворяю­ щие указанным соотношениям, только при выполнении некоторых

условий,

накладываемых

на

коэффициенты

Тк(^)

и

7ы^)

(k, / 0,

1, ...). Прямые системы уравнении (4.5)

и система

(4.8)

при N = со

могут иметь решения, отличные от вероятностей пере­

хода

Ркj

(to,

t) и

вероятностей

Рj (t) для марковского

процесса,

если

нарушается

условие

регулярности (устойчивости),

согласно

которому за конечное время с вероятностью 1 происходит лишь ко­ нечное число переходов случайного процесса X(t) в возможные зна­ чения Xj (/ — 0, 1, ...).

С учетом соотношения (4.3) прямую систему дифференциаль­

ных уравнений Колмогорова

(4.5)

можно переписать в виде

— ia ^ = - ' 2 h W p uV°>

(4Л4)

1=0

о,

1=о

(К j =

 

При составлении аналогичных систем уравнений и уравнений вида (4.8) для описания функционирования различных физических систем в инженерной практике часто используются графы. Для фи­ зической системы с N -f- 1 возможными состояниями С0, Сь ... , CN

граф имеет Л7+1 узлов, причем /-й узел соответствует состоянию'

Сj

(/ =

0, 1, ..., N). Возможность перехода системы из состояния

Cj

в Cs

обозначается стрелкой, исходящей из /-го узла по направ­

лению к s-му узлу; у стрелки записывается соответствующая вре­

менная

плотность

вероятности 7JS(t)

перехода из

состояния

С}

в Cs.

На рис. 1

показаны входящие

и исходящие

стрелки

для

/-го узла графа в общем случае, когда из любого состояния Cs

воз­

можен переход в Cj.

а из состояния Cj возможен переход

в любое

состояние

Cs

(s — 0, ] , . . . , / — 1,

j +

1, . .. , N). Когда переход из

состояния

Cj

в Cs

невозможен, т.

е.

временная плотность

вероят

пости 7js(0 --0 , на графе нет стрелки от /-го узла к s-му, т. с. от

Cj к С5.

Пользуясь уравнением (4.14) и рис. 1, можно сформулировать правило составления прямых систем уравнений Колмогорова. Про­

изводная по времени t от вероятности

(t0,

t) пребывания физи­

ческой системы в момент t в состоянии Cj

при условии, что в мо­

мент t0 эта система находилась в состоянии

Ск, равна алгебраи­

ческой сумме произведений временных плотностей вероятности переходов на соответствующие вероятности пребывания системы в тех состояниях (узлах), откуда совершается непосредственный

28


переход системы в другие состояния (узлы графа). Слагаемые, ко­ торым соответствуют выходящие из /-го узла (состояния Cj) стрелки графа, берутся с отрицательным знаком, а слагаемые, ко­ торым соответствуют входы в /-и узел из других узлов (состоя­ ний),— с положительным знаком. Общее число слагаемых в правой части уравнения для Рщ (to, t) равно общему числу входящих и исходящих стрелок для /-го узла.

§ 5. ПУАССОНОВСКИЙ ПРОЦЕСС

Наиболее простым марковским процессом с дискретными орди­ натами п непрерывным временем является пуассоновский процесс, широко используемый в приложениях. Этот процесс неубывающий целочисленный с бесконечным числом возможных значений. Функ­ ция Рj (t) является вероятностью того, что в момент t случайный процесс X(t) равен /, т. е.

Ps(t) = P\X(t)=4\

(} = 0, 1, . . . ).

(5.1)

Вероятность перехода Ру (t, т)

является условной вероятностью

того, что в момент %> t

случайный процесс X(t) равен /, если в мо­

мент t было равенство

X(t) — k. Так как пуассоновский процесс

неубывающий,

то при

/ ’< k

функция Р кj (t,

т)

тождественно

равна нулю. Следовательно,

 

 

 

 

Р [X (т) =

/ ;Х (t) — k\ при /

>

k\

Р » V ,

*) =

О

при j

 

(5.2)

 

 

< k .

Состояние Cj физической системы, соответствующей пуассонов­ скому процессу, означает, что случайный процесс X(t) принял зна­ чение / ( / = 0, 1, ...). В любой момент времени t данная система может перейти в состояние с номером на единицу выше, т. е. из Cj

29



возможен переход только в Ci+l (у — 0, 1, ...). Временные плотно­ сти вероятности перехода Tjij + i (t), определяемые формулой

 

 

Pi,i+i(t, t-\-\t)

(/■ = 0 , 1,

• ).

(5.3)

T j j + i ( * ) =

At *0

\t

 

 

 

 

 

для пуассоновского процесса одинаковы при любом /, т. е. не зави­ сят от номера / состояния Сj. Таким образом, в данном случае

TkIW = ( T ( 0

П р И / = Л + 1;

(5.4)

I

о

при

j Ф k-\- 1,

 

где т (0 — неотрицательная функция, являющаяся временной плот­ ностью вероятности перехода системы в следующее состояние в мо­ мент t.

Согласно (4.3) имеем

оо

Ik (*) = 2

Tw (*) =

Т (О (Л => 0, 1, . .

. ),

(5.5)

j - o

 

 

 

 

поэтому у (t) является

также

временной плотностью

вероятности

того, что в момент t система изменит состояние Ck

(k = 0, 1, ...).

Подставляя выражения (5.3) и (5.4) в (4.5), с учетом (5.2) по­ лучаем прямую систему дифференциальных уравнений Колмого­ рова для пуассоновского процесса в виде:

Л Р ь Л К , о = _ , W p tt(<oi t ) .

 

 

 

0 - f t . j - .

f t ,

0 ]

(5.6)

 

 

 

 

(/ = * + 1,

k +

2, . . . ;

k =

0, 1,

...)•

 

 

 

Начальными условиями для этих уравнений служат равенства

Л А

*0) — ^kj

(^I / — 0,

1, ...).

(5.7)

Проинтегрируем систему уравнений (5.6)

при фиксированном k

(k — 0, 1, ...) с помощью производящей функции

Gk (и; t0, У), ко­

торая для искомых вероятностей

Рщ (to,

t) определяется формулой

Gk (и,

to,

t) —

и)Р]/j (t0,

t).

 

 

(5.8)

 

 

j= k

 

 

 

 

 

Так как Pkk (t0, t0) =

1, а при k

Pkj (t0, t0) =

0,

to

 

G k (a; f 0> Q — uY.

 

 

 

(5.9).

30