Файл: Ганин, М. П. Прикладные методы теории марковских случайных процессов учебное пособие.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 17.10.2024
Просмотров: 173
Скачиваний: 0
В данные уравнения время т входит как параметр. Поэтому, не смотря на частные производные от P kj (t, т) по t, равенства (4.9) при фиксированном* / (/ = 0, 1, ... , /V) образуют систему из N + 1 обыкновенных дифференциальных уравнений относительно такого же числа неизвестных функций Pkj (t, %) (k = 0, 1, . .. , N) . Началь ными условиями для этих уравнений служат значения искомых функций Pkj (t, т) при наибольшем значении т аргумента t. По ана логии с (4.7) начальные условия для системы (4.9) при фиксиро ванном / записываются в виде
|
|
Рkj (т> ') — °kj |
(Л, / = 0 , 1 ..............N). |
(4.10) |
|||||||
Рkj |
Для |
однородного |
марковского |
процесса |
вероятности |
перехода |
|||||
(t, т) |
зависят |
от |
t |
и т |
как |
от разности, т. е. Pkj |
(/, т) = |
||||
= |
Рк) ( т — t). |
Из |
(4.1) |
и (4.2) следует, что |
в этом случае времен |
||||||
ные плотности |
вероятности |
7к и Tkj |
смены |
состояния Ск |
и пере |
||||||
хода из состояния Ск |
в |
Cj (k, / = |
0, |
1, . .. , N) не зависят от t, т. е. |
являются постоянными величинами. Прямая система дифференци альных уравнений (4.5) при однородном процессе переписывается в виде
Рц (0 = - |
|
тЛ] (0+ i |
irtРыН) |
(4.11) |
||||
|
(k, |
j = |
О, |
1, |
.. ., |
N), |
|
|
причем |
|
|
|
|
|
|
|
|
^kj(0) = |
\j |
|
(k, |
/ = |
0, |
1, |
. .. , N). |
(4.12) |
Так как ^ kj — — = |
|
— Р'щ (т — t) |
, то обратная система диф |
|||||
ференциальных уравнений |
(4.9) |
при однородном процессе будет |
||||||
|
|
|
|
|
|
N |
|
|
Р'ц (0 = |
- |
ТкЛо (0 |
+ |
2 |
Тк; Рц (0 |
(4.13) |
||
|
|
|
|
|
|
г-о |
|
|
|
{К j = |
0, |
1, |
... , |
N). |
|
Начальные условия для этой системы те же, что и для (4.11), т. е. (4.12).
Когда число состояний ограничено, т. с. N < оо, каждая из полученных выше систем дифференциальных уравнений имеет
единственное решение. |
С помощью |
системы (4.8), |
в которой |
при |
|||
однородном процесс |
и rkj {К / = |
0, |
1, . .. , N) |
— постоянные ве |
|||
личины, находятся вероятности Рк(/), |
при любом t |
связанные |
ра- |
||||
венством |
N |
Решением системы (4.5) являются неотри |
|||||
|
|||||||
цательные |
функции Pkj {t0, t) (k, |
j = |
0, 1, . .. , |
N), |
которые |
сов |
|
местно с |
начальными |
вероятностями |
Рк(t0) |
(& = |
0, 1, . .. . |
N) |
27
полностью характеризуют марковский процесс. Так же однозначно характеризуют этот процесс и функции Рк] (/, т) (k, / - - 0 , 1, N), являющиеся решением системы (4.9); данные неотрицательные функции удовлетворяют уравнению (2.13) и соотношению (2.9). При бесконечном числе состояний полученные системы дифферен циальных уравнений имеют единственные решения, удовлетворяю щие указанным соотношениям, только при выполнении некоторых
условий, |
накладываемых |
на |
коэффициенты |
Тк(^) |
и |
7ы^) |
|||
(k, / — 0, |
1, ...). Прямые системы уравнении (4.5) |
и система |
(4.8) |
||||||
при N = со |
могут иметь решения, отличные от вероятностей пере |
||||||||
хода |
Ркj |
(to, |
t) и |
вероятностей |
Рj (t) для марковского |
процесса, |
|||
если |
нарушается |
условие |
регулярности (устойчивости), |
согласно |
которому за конечное время с вероятностью 1 происходит лишь ко нечное число переходов случайного процесса X(t) в возможные зна чения Xj (/ — 0, 1, ...).
С учетом соотношения (4.3) прямую систему дифференциаль
ных уравнений Колмогорова |
(4.5) |
можно переписать в виде |
— ia ^ = - ' 2 h W p uV°> |
(4Л4) |
|
1=0 |
о, |
1=о |
(К j = |
|
При составлении аналогичных систем уравнений и уравнений вида (4.8) для описания функционирования различных физических систем в инженерной практике часто используются графы. Для фи зической системы с N -f- 1 возможными состояниями С0, Сь ... , CN
граф имеет Л7+1 узлов, причем /-й узел соответствует состоянию'
Сj |
(/ = |
0, 1, ..., N). Возможность перехода системы из состояния |
Cj |
в Cs |
обозначается стрелкой, исходящей из /-го узла по направ |
лению к s-му узлу; у стрелки записывается соответствующая вре
менная |
плотность |
вероятности 7JS(t) |
перехода из |
состояния |
С} |
в Cs. |
На рис. 1 |
показаны входящие |
и исходящие |
стрелки |
для |
/-го узла графа в общем случае, когда из любого состояния Cs |
воз |
можен переход в Cj. |
а из состояния Cj возможен переход |
в любое |
||||
состояние |
Cs |
(s — 0, ] , . . . , / — 1, |
j + |
1, . .. , N). Когда переход из |
||
состояния |
Cj |
в Cs |
невозможен, т. |
е. |
временная плотность |
вероят |
пости 7js(0 --0 , на графе нет стрелки от /-го узла к s-му, т. с. от
Cj к С5.
Пользуясь уравнением (4.14) и рис. 1, можно сформулировать правило составления прямых систем уравнений Колмогорова. Про
изводная по времени t от вероятности |
(t0, |
t) пребывания физи |
ческой системы в момент t в состоянии Cj |
при условии, что в мо |
|
мент t0 эта система находилась в состоянии |
Ск, равна алгебраи |
ческой сумме произведений временных плотностей вероятности переходов на соответствующие вероятности пребывания системы в тех состояниях (узлах), откуда совершается непосредственный
28
переход системы в другие состояния (узлы графа). Слагаемые, ко торым соответствуют выходящие из /-го узла (состояния Cj) стрелки графа, берутся с отрицательным знаком, а слагаемые, ко торым соответствуют входы в /-и узел из других узлов (состоя ний),— с положительным знаком. Общее число слагаемых в правой части уравнения для Рщ (to, t) равно общему числу входящих и исходящих стрелок для /-го узла.
§ 5. ПУАССОНОВСКИЙ ПРОЦЕСС
Наиболее простым марковским процессом с дискретными орди натами п непрерывным временем является пуассоновский процесс, широко используемый в приложениях. Этот процесс неубывающий целочисленный с бесконечным числом возможных значений. Функ ция Рj (t) является вероятностью того, что в момент t случайный процесс X(t) равен /, т. е.
Ps(t) = P\X(t)=4\ |
(} = 0, 1, . . . ). |
(5.1) |
Вероятность перехода Ру (t, т) |
является условной вероятностью |
того, что в момент %> t |
случайный процесс X(t) равен /, если в мо |
||||
мент t было равенство |
X(t) — k. Так как пуассоновский процесс |
||||
неубывающий, |
то при |
/ ’< k |
функция Р кj (t, |
т) |
тождественно |
равна нулю. Следовательно, |
|
|
|
||
|
Р [X (т) = |
/ ;Х (t) — k\ при / |
> |
k\ |
|
Р » V , |
*) = |
О |
при j |
|
(5.2) |
|
|
< k . |
Состояние Cj физической системы, соответствующей пуассонов скому процессу, означает, что случайный процесс X(t) принял зна чение / ( / = 0, 1, ...). В любой момент времени t данная система может перейти в состояние с номером на единицу выше, т. е. из Cj
29
возможен переход только в Ci+l (у — 0, 1, ...). Временные плотно сти вероятности перехода Tjij + i (t), определяемые формулой
|
|
Pi,i+i(t, t-\-\t) |
(/■ = 0 , 1, |
• ). |
(5.3) |
T j j + i ( * ) = |
At *0 |
\t |
|||
|
|
|
|
|
для пуассоновского процесса одинаковы при любом /, т. е. не зави сят от номера / состояния Сj. Таким образом, в данном случае
TkIW = ( T ( 0 |
П р И / = Л + 1; |
(5.4) |
||
I |
о |
при |
j Ф k-\- 1, |
|
где т (0 — неотрицательная функция, являющаяся временной плот ностью вероятности перехода системы в следующее состояние в мо мент t.
Согласно (4.3) имеем
оо
Ik (*) = 2 |
Tw (*) = |
Т (О (Л => 0, 1, . . |
. ), |
(5.5) |
j - o |
|
|
|
|
поэтому у (t) является |
также |
временной плотностью |
вероятности |
|
того, что в момент t система изменит состояние Ck |
(k = 0, 1, ...). |
Подставляя выражения (5.3) и (5.4) в (4.5), с учетом (5.2) по лучаем прямую систему дифференциальных уравнений Колмого рова для пуассоновского процесса в виде:
Л Р ь Л К , о = _ , W p tt(<oi t ) .
|
|
|
0 - f t . j - . |
f t , |
0 ] |
(5.6) |
||
|
|
|
|
|||||
(/ = * + 1, |
k + |
2, . . . ; |
k = |
0, 1, |
...)• |
|
|
|
Начальными условиями для этих уравнений служат равенства |
||||||||
Л А |
*0) — ^kj |
(^I / — 0, |
1, ...). |
(5.7) |
||||
Проинтегрируем систему уравнений (5.6) |
при фиксированном k |
|||||||
(k — 0, 1, ...) с помощью производящей функции |
Gk (и; t0, У), ко |
|||||||
торая для искомых вероятностей |
Рщ (to, |
t) определяется формулой |
||||||
Gk (и, |
to, |
t) — |
и)Р]/j (t0, |
t). |
|
|
(5.8) |
|
|
|
j= k |
|
|
|
|
|
|
Так как Pkk (t0, t0) = |
1, а при }ф k |
Pkj (t0, t0) = |
0, |
to |
||||
|
G k (a; f 0> Q — uY. |
|
|
|
(5.9). |
30