Дискретни Маркови процеси. Марков обработува: примери

Случајните процеси на Марков се именувани по извонредниот руски математичар А.А. Марков (1856-1922), кој прв го започна проучувањето на веројатната врска на случајните променливи и создаде теорија што може да се нарече „динамика на веројатност“. Последователно, основите на оваа теорија станаа почетна основа за општата теорија на случајни процеси, како и важни применети науки како што се теоријата на процесите на дифузија, теоријата на доверливост, теоријата на редици итн. Во моментов, теоријата на Маркови процеси и нејзините примени се широко користени во различни области на науките како што се механиката, физиката, хемијата итн.

Поради компаративната едноставност и јасност на математичкиот апарат, високата сигурност и точност на добиените решенија, процесите на Марков добија посебно внимание од специјалисти вклучени во оперативното истражување и теоријата на оптимално одлучување.

И покрај горенаведената едноставност и јасност, практичната примена на теоријата на Маркови синџири бара познавање на некои поими и основни принципи за кои треба да се дискутира пред да се изнесат примери.

Како што е наведено, Марков случајните процеси се однесуваат на посебни случаи на случајни процеси (СП). За возврат, случајните процеси се засноваат на концептот на случајна функција (SF).

Случајна функција е функција чија вредност, за која било вредност на аргументот, е случајна променлива (RV). Со други зборови, SF може да се нарече функција која при секој тест добива некоја претходно непозната форма.

Такви примери на SF се: флуктуации на напон во електрично коло, брзина на автомобил на дел од пат со ограничување на брзината, грубост на површината на дел во одредена делница итн.

Како по правило, се верува дека ако аргументот на SF е време, тогаш таквиот процес се нарекува случаен. Постои уште една дефиниција за случајни процеси, поблиску до теоријата на одлучување. Во овој случај, случаен процес се подразбира како процес на случајна промена на состојбите на кој било физички или технички систем во однос на времето или некој друг аргумент.

Лесно е да се види дека ако назначите состојба и прикажете зависност, тогаш таквата зависност ќе биде случајна функција.

Случајните процеси се класифицираат според типовите на состојби и аргументот т. Во овој случај, случајните процеси може да бидат со дискретни или континуирани состојби или време.

Покрај горенаведените примери за класификација на случајни процеси, постои уште едно важно својство. Ова својство ја опишува веројатната врска помеѓу состојбите на случајни процеси. Така, на пример, ако во случаен процес веројатноста системот да премине во секоја наредна состојба зависи само од претходната состојба, тогаш таквиот процес се нарекува процес без последователен ефект.

Да забележиме, прво, дека случаен процес со дискретни состојби и време се нарекува случајна низа.

Ако случајната низа има својство на Марков, тогаш таа се нарекува Марков синџир.

Од друга страна, ако во случаен процес состојбите се дискретни, времето е континуирано, а својството после-ефект е зачувано, тогаш таквиот случаен процес се нарекува Марков процес со континуирано време.

Марков случаен процес се вели дека е хомоген ако веројатностите за транзиција останат константни во текот на процесот.

Марков синџир се смета за даден ако се дадени два услови.

1. Постои збир на веројатности за транзиција во форма на матрица:

2. Постои вектор на почетни веројатности

опишувајќи ја почетната состојба на системот.

Покрај матричната форма, моделот на Марков синџир може да се претстави како насочен пондериран график (сл. 1).

Ориз. 1

Збирот на состојби на системот на Марков синџир е класифициран на одреден начин, земајќи го предвид понатамошното однесување на системот.

1. Неповратно множество (сл. 2).

Сл.2.

Во случај на сет што не се враќа, можни се какви било транзиции во овој сет. Системот може да го напушти овој сет, но не може да се врати во него.

2. Сет за враќање (сл. 3).

Ориз. 3.

Во овој случај, можни се какви било транзиции во сетот. Системот може да влезе во овој сет, но не може да го напушти.

3. Ергодичен сет (сл. 4).

Ориз. 4.

Во случај на ергодично множество, можни се какви било транзиции во множеството, но премините од и кон множеството се исклучени.

4. Апсорбирачки сет (сл. 5)

Ориз. 5.

Кога системот ќе влезе во овој сет, процесот завршува.

Во некои случаи, и покрај случајноста на процесот, можно е да се контролираат законите за распределба или параметрите на веројатностите за транзиција до одреден степен. Таквите Маркови синџири се нарекуваат контролирани. Очигледно, со помош на контролирани Марков синџири (CMC), процесот на донесување одлуки станува особено ефективен, како што ќе се дискутира подоцна.

Главната карактеристика на дискретниот Марков синџир (DMC) е детерминизмот на временските интервали помеѓу поединечните чекори (фази) на процесот. Меѓутоа, често во реалните процеси ова својство не се почитува и интервалите излегуваат случајни со некој закон за распределба, иако Марковото својство на процесот е зачувано. Ваквите случајни низи се нарекуваат полумарков.

Дополнително, земајќи го предвид присуството и отсуството на одредени множества на состојби споменати погоре, Марковите синџири можат да бидат апсорбирачки ако има барем една апсорпциона состојба, или ергодични ако веројатностите за транзиција формираат ергодично множество. За возврат, ергодичните синџири можат да бидат редовни или циклични. Цикличните синџири се разликуваат од редовните по тоа што за време на транзициите низ одреден број чекори (циклуси) се јавува враќање во некоја состојба. Редовните синџири го немаат овој имот.

Теоријата на редици е една од гранките на теоријата на веројатност. Оваа теорија смета веројатностпроблеми и математички модели (пред тоа ги разгледувавме детерминистичките математички модели). Да ве потсетиме дека:

Детерминистички математички моделго одразува однесувањето на објектот (систем, процес) од перспектива целосна сигурноство сегашноста и иднината.

Веројатен математички моделго зема предвид влијанието на случајните фактори врз однесувањето на објектот (систем, процес) и, според тоа, ја оценува иднината од гледна точка на веројатноста за одредени настани.

Оние. овде, како, на пример, во теоријата на игри се разгледуваат проблемите во условинеизвесност.

Најпрво да разгледаме некои концепти кои ја карактеризираат „стохастичката несигурност“, кога несигурните фактори вклучени во проблемот се случајни променливи (или случајни функции), чиишто веројатни карактеристики се или познати или може да се добијат од искуство. Таквата неизвесност се нарекува и „поволна“, „бенигна“.

Концептот на случаен процес

Строго кажано, случајните нарушувања се својствени за секој процес. Полесно е да се дадат примери на случаен процес отколку „неслучаен“ процес. Дури, на пример, процесот на водење на часовникот (се чини дека е строго калибрирана работа - „работи како часовник“) е предмет на случајни промени (се движи напред, заостанува, запира). Но, сè додека овие нарушувања се незначителни и имаат мало влијание врз параметрите кои нè интересираат, можеме да ги занемариме и процесот да го сметаме за детерминистички, неслучаен.

Нека има некој систем С(технички уред, група такви уреди, технолошки систем - машина, локација, работилница, претпријатие, индустрија итн.). Во системот Спротекување случаен процес, ако ја менува својата состојба со текот на времето (преминува од една во друга состојба), згора на тоа, на претходно непознат случаен начин.

Примери: 1. Систем С– технолошки систем (машински дел). Машините одвреме-навреме се расипуваат и се поправаат. Процесот што се одвива во овој систем е случаен.

2. Систем С- авион кој лета на одредена височина по одредена рута. Вознемирувачки фактори - временски услови, грешки на екипажот итн., последици - нерамнини, прекршување на распоредот на летање итн.

Марков случаен процес

Случаен процес што се случува во системот се нарекува Марковски, ако за кој било момент од времето т 0 веројатни карактеристики на еден процес во иднина зависат само од неговата состојба во моментот т 0 и не зависат од тоа кога и како системот ја достигнал оваа состојба.

Нека системот е во одредена состојба во моментот t 0 С 0 . Ги знаеме карактеристиките на состојбата на системот во сегашноста, сè што се случило кога т<т 0 (историја на процесот). Можеме ли да ја предвидиме (предвидиме) иднината, т.е. што ќе се случи кога т>т 0 ? Не точно, но во иднина може да се најдат некои веројатни карактеристики на процесот. На пример, веројатноста дека по некое време системот Сќе бидат во можност С 1 или ќе остане во состојба С 0, итн.

Пример. Систем С- група авиони кои учествуваат во воздушна борба. Нека x– број на „црвени“ авиони, y– број на „сини“ авиони. Од страна на време т 0 број на преживеани (не соборени) авиони, соодветно - x 0 ,y 0 . Нас нè интересира веројатноста во моментот нумеричката супериорност да биде на страната на „црвените“. Оваа веројатност зависи од тоа во каква состојба бил системот во тоа време т 0, а не кога и во која секвенца загинале соборените до моментот т 0 авиони.

Во пракса, Марковите процеси во чиста форма обично не се сретнуваат. Но, постојат процеси за кои може да се занемари влијанието на „праисторијата“. И кога се проучуваат таквите процеси, може да се користат Марков модели (теоријата на редици не ги зема предвид системите за редици на Марков, но математичкиот апарат што ги опишува е многу покомплексен).

Во оперативното истражување, од големо значење имаат Марков случајните процеси со дискретни состојби и континуирано време.

Процесот се нарекува процес на дискретна состојба, доколку неговите можни состојби С 1 ,С 2, ... може да се одреди однапред, а транзицијата на системот од состојба во состојба се случува „во скок“, речиси веднаш.

Процесот се нарекува континуиран временски процес, ако моментите на можни премини од состојба во состојба не се однапред фиксирани, туку се неизвесни, случајни и можат да се појават во секој момент.

Пример. Технолошки систем (дел) Ссе состои од две машини, од кои секоја може да пропадне (да пропадне) во случаен момент во времето, по што веднаш започнува поправката на единицата, која исто така продолжува непознато, случајно време. Можни се следните состојби на системот:

С 0 - двете машини работат;

С 1 - првата машина се поправа, втората работи;

С 2 - втората машина се поправа, првата работи;

С 3 - двете машини се поправаат.

Системски транзиции Сод состојба до состојба се случуваат речиси веднаш, во случајни моменти кога одредена машина откажува или поправката е завршена.

Кога се анализираат случајни процеси со дискретни состојби, погодно е да се користи геометриска шема - состојба графикон. Темињата на графикот се состојби на системот. Графички лаци – можни транзиции од состојба во

Сл.1. График на состојбата на системот

држава. На нашиот пример, графикот на состојбата е прикажан на Сл. 1.

Забелешка. Премин од држава С 0 инчи С 3 не е наведено на сликата, бидејќи се претпоставува дека машините откажуваат независно една од друга. Ја занемаруваме можноста за симултан дефект на двете машини.

Предавање 9

Марков процеси
Предавање 9
Марков процеси



1

Марков процеси

Марков процеси
Случаен процес што се случува во системот се нарекува
Марковијан ако нема последици. Оние.
ако ја земеме предвид моменталната состојба на процесот (t 0) - како
сегашност, збир на можни состојби ( (s),s t) - како
минато, збир на можни состојби ( (u),u t) - како
иднина, потоа за Марков процес за фиксна
сегашноста, иднината не зависи од минатото, туку е одредена
само во сегашноста и не зависи од тоа кога и како системот
дојде во оваа состојба.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
2

Марков процеси

Марков процеси
Марков случајните процеси се именувани по извонредниот руски математичар А.А. Марков, кој прв почнал да ја проучува веројатноста за поврзување на случајни променливи
и создаде теорија која може да се нарече „динамика
веројатности.“ Последователно, основите на оваа теорија беа
почетната основа на општата теорија на случајни процеси, како и такви важни применети науки како што се теоријата на процесите на дифузија, теоријата на доверливост, теоријата на редици итн.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
3

Марков Андреј Андреевич Марков Андреј Андреевич Марков Андреј Андреевич

Марков процеси
Марков Андреј Андреевич
1856-1922
Руски математичар.
Напишал околу 70 дела
теории
бројки,
теории
апроксимации на функции, теории
веројатности. Значително се прошири опсегот на законот
голем број и централно
гранична теорема. Е
основач на теоријата на случајни процеси.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
4

Марков процеси

Марков процеси
Во пракса, Марков процеси во нивната чиста форма се обично
не се среќаваат. Но, постојат процеси за кои може да се занемари влијанието на „праисторијата“ и кога се проучува
За вакви процеси може да се користат Марков модели. ВО
Во моментов, теоријата на Марков процеси и нејзините примени се широко користени во различни области.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
5

Марков процеси

Марков процеси
Биологија: процеси на раѓање и смрт - популации, мутации,
епидемии.
Физика:
радиоактивни
се распаѓа,
теорија
шалтери
елементарни честички, процеси на дифузија.
Хемија:
теорија
траги
В
нуклеарно
фото емулзии,
веројатносни модели на хемиска кинетика.
Images.jpg
Астрономија: теорија на флуктуации
осветленоста на Млечниот Пат.
Теорија на редици: телефонски централи,
поправки, билетарници, информативни пултови,
машински и други технолошки системи, системи за контрола
флексибилни системи за производство, обработка на информации од сервери.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
6

Марков процеси

Марков процеси
Нека во моменталниот момент t0 системот е внатре
одредена состојба S0. Ги знаеме карактеристиките
состојба на системот во сегашноста и се што се случило на т< t0
(позадината на процесот). Можеме ли да ја предвидиме иднината,
тие. што ќе се случи на t > t0?
Не точно, но некои веројатни карактеристики
процес може да се најде во иднина. На пример, веројатноста дека
дека по некое време
системот S ќе биде во состојба
S1 или ќе остане во состојба S0, итн.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
7

Марков процеси. Пример.

Марков процеси
Марков процеси. Пример.
Систем С е група на авиони кои учествуваат во воздушна борба. Нека x е количината
„црвени“ авиони, y – број на „сини“ авиони. Во времето t0, бројот на преживеани (не соборени) авиони
соодветно – x0, y0.
Ние сме заинтересирани за веројатноста дека во моментот на времето
t 0 нумеричката супериорност ќе биде на страната на „црвените“. Оваа веројатност зависи од состојбата во која се наоѓал системот
во моментот t0, а не кога и во која секвенца авионите се собориле пред моментот t0 да умре.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
8

Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Марков процес со конечен или пребројлив број
состојбите и моментите на времето се нарекуваат дискретни
Марков синџир. Транзициите од состојба во состојба се можни само во целобројни моменти од времето.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
9

10. Дискретни Марков синџири. Пример

Марков процеси

Да претпоставиме
Што
говорот
доаѓање
О
последователни фрлања на монети
игра на фрлање; се фрла паричка во
условни моменти на време t =0, 1, ... и во
секој чекор играчот може да победи ±1 с
исто
веројатност
1/2,
како ова
Така, во моментот t, неговата вкупна добивка е случајна променлива ξ(t) со можни вредности j = 0, ±1, ... .
Под услов ξ(t) = k, на следниот чекор исплатата ќе биде
е веќе еднаква на ξ(t+1) = k ± 1, земајќи ги вредностите j = k ± 1 со иста веројатност 1/2. Можеме да кажеме дека овде, со соодветната веројатност, се случува премин од состојбата ξ(t) = k во состојбата ξ(t+1) = k ± 1.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
10

11. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Генерализирајќи го овој пример, можеме да замислиме систем со
броен број на можни состојби, кои со текот на времето
дискретно време t = 0, 1, ... случајно се движи од состојба во состојба.
Нека ξ(t) е неговата позиција во времето t како резултат на синџир на случајни транзиции
ξ(0) -> ξ(1) -> ... -> ξ(t) -> ξ(t+1) ->...-> ... .
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
11

12. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Кога се анализираат случајни процеси со дискретни состојби, погодно е да се користи геометриска шема - график
државите. Темињата на графикот се состојби на системот. Лаци на графикот
– можни премини од држава во состојба.
Игра на фрлање.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
12

13. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Да ги означиме сите можни состојби со цели броеви i = 0, ±1, ...
Да претпоставиме дека за позната состојба ξ(t) =i, на следниот чекор системот оди во состојба ξ(t+1) = j со условна веројатност
P( (t 1) j (t) i)
без оглед на нејзиното однесување во минатото, поточно, без оглед на тоа
од синџирот на транзиции до моментот t:
P( (t 1) j (t) i; (t 1) тоа 1;...; (0) i0)
P( (t 1) j (t) i)
Овој имот се нарекува Марковијан.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
13

14. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Број
pij P( (t 1) j (t) i)
наречена веројатност
транзиција на системот од состојба i во состојба j во еден чекор внатре
време t 1.
Ако веројатноста за транзиција не зависи од t, тогаш колото
Марков се нарекува хомоген.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
14

15. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Матрица P, чии елементи се веројатности
транзицијата pij се нарекува транзициона матрица:
p11...p1n
P p 21 ... p 2n
стр
n1...pnn
Тоа е стохастичко, т.е.
пиј 1;
јас
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
p ij 0 .
15

16. Дискретни Марков синџири. Пример

Марков процеси
Дискретни Марков синџири. Пример
Преодна матрица за играта со фрлање
...
k 2
k 2
0
k 1
1/ 2
к
0
k 1
к
k 1
k 2
0
1/ 2
0
0
1/ 2
0
1/ 2
0
1/ 2
0
0
0
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
...
k 1 k 2
0
0
0
1/ 2
0
1/ 2
...
0
0
1/ 2
0
16

17. Дискретни Марков синџири. Пример

Марков процеси
Дискретни Марков синџири. Пример
Како резултат на хемиска анализа на почвата, градинарот оценува
неговата состојба е еден од трите броеви - добар (1), задоволителен (2) или лош (3). Како резултат на набљудувања во текот на многу години, градинарот забележал
дека продуктивноста на почвата во тековната
година зависи само од нејзината состојба во
претходната година. Затоа веројатностите
транзиција на почвата од една состојба во
друг може да се претстави на следниов начин
Марков синџир со матрица P1:
0.20 0.50 0.30
0.00 0.50 0.50
0.00 0.00 1.00
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
17

18. Дискретни Марков синџири. Пример

Марков процеси
Дискретни Марков синџири. Пример
Меѓутоа, како резултат на земјоделските практики, градинарот може да ги промени веројатностите за транзиција во матрицата P1.
Потоа ќе се замени матрицата P1
до матрицата P2:
0.30 0.60 0.10
0.10 0.60 0.30
0.05 0.40 0.55
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
18

19. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Ајде да размислиме како состојбите на процесот се менуваат со текот на времето. Ќе го разгледаме процесот во последователни моменти во времето, почнувајќи од моментот 0. Да ја поставиме почетната распределба на веројатност p(0) ( p1 (0),..., pm (0)), каде што m е бројот на состојби на процесот, пи (0) е веројатноста за наоѓање
процес во состојба i во почетниот момент на времето. Веројатноста pi(n) се нарекува безусловна веројатност на состојбата
јас во времето n 1.
Компонентите на векторот p (n) покажуваат кои од можните состојби на колото во времето n се најмногу
веројатно.
м
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
pk(n) 1
k 1
19

20. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Познавањето на низата ( p (n)) за n 1,... ви овозможува да добиете идеја за однесувањето на системот со текот на времето.
Во систем со 3 држави
стр11 стр12 стр13
P p21
стр
31
стр22
стр32
стр23
стр33
p2 (1) p1 (0) p12 p2 (0) p22 p3 (0) p32
p2 (n 1) p1 (n) p12 p2 (n) p22 p3 (n) p32
Генерално:
p j (1) pk (0) pkj
p j (n 1) pk (n) pkj
к
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
к
p(n 1) p(n) P
20

21. Дискретни Марков синџири. Пример

Марков процеси
Дискретни Марков синџири. Пример
Матрица
0.20 0.50 0.30
0.00 0.50 0.50
0.00 0.00 1.00
Чекор
(p(n))
n
0
1, 0, 0
n
1
0.2 , 0.5 , 0.3
n
2
0.04 , 0.35 , 0.61
n
3
0.008 , 0.195 , 0.797
n
4
0.0016 , 0.1015 , 0.8969
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
21

22. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
n
Преодна матрица за n чекори P(n) P.
0.20 0.50 0.30
0.00 0.50 0.50
0.00 0.00 1.00
p (2) p (0) P
2
p(2)
P(2) P2
1, 0, 0
0.0016
0.
0.
0.0016
0.
0.
0.1015
0.0625
0.
0.1015
0.0625
0.
0.8969
0.9375
1.
0.8969
0.9375
1.
0.04 , 0.35 , 0.61
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
22

23. Дискретни Марков синџири

Марков процеси
Дискретни Марков синџири
Како Марков синџири се однесуваат за n?
За хомоген Марков синџир, под одредени услови, важи следново својство: p (n) за n.
Веројатностите 0 не зависат од почетната распределба
p(0) , а се одредуваат само со матрицата P. Во овој случај, тоа се нарекува стационарна дистрибуција, а самиот синџир се нарекува ергодичен. Својството на ергодичност значи дека како што се зголемува n
веројатноста за состојби практично престанува да се менува, а системот оди во стабилен режим на работа.
јас
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
23

24. Дискретни Марков синџири. Пример

Марков процеси
Дискретни Марков синџири. Пример
0.20 0.50 0.30
0.00 0.50 0.50
0.00 0.00 1.00
0 0 1
P() 0 0 1
0 0 1
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
p()(0,0,1)
24

25. Дискретни Марков синџири. Пример

Марков процеси
Дискретни Марков синџири. Пример
0.30 0.60 0.10
0.10 0.60 0.30
0.05 0.40 0.55
0.1017 0.5254 0.3729
P() 0,1017 0,5254 0,3729
0.1017 0.5254 0.3729
p() (0,1017,0,5254,0,3729)
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
25

26. Марков обработува со континуирано време

Марков процеси

Процесот се нарекува процес со континуирано време ако
моментите на можни премини од состојба во состојба не се однапред фиксирани, но се неизвесни, случајни и можат да се случат
во секое време.
Пример. Технолошкиот систем S се состои од два уреди,
од кои секоја во случаен момент во времето може да излезе
зграда, по што веднаш започнува поправката на блокот, исто така продолжува непознато, случајно време.
Можни се следните состојби на системот:
S0 - двата уреди работат;
S1 - првиот уред се поправа, вториот работи правилно;
S2 - вториот уред се поправа, првиот работи правилно;
S3 - двата уреди се поправаат.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
26

27. Марков обработува со континуирано време

Марков процеси
Континуирано време Марков процеси
Се случуваат транзиции на системот S од состојба во состојба
речиси веднаш, во случајни моменти на неуспех
еден или друг уред или
завршување на поправките.
Веројатноста за истовремена
дефект на двата уреди
може да се занемари.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
27

28. Протоци на настани

Марков процеси
Потоци на настани
Тек на настани е низа од хомогени настани кои следат еден по друг во некои случајни моменти во времето.
е просечниот број на настани
Интензитетот на протокот на настанот
по единица време.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
28

29. Протоци на настани

Марков процеси
Потоци на настани
Текот на настани се нарекува стационарен ако неговите веројатни карактеристики не зависат од времето.
Особено, интензитетот
постојан проток е постојан. Текот на настаните неминовно има кондензации или рефлексии, но тие не се од регуларен карактер, а просечниот број на настани по единица време е константен и не зависи од времето.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
29

30. Потоци на настани

Марков процеси
Потоци на настани
Тек на настани се нарекува тек без последици ако за
кои било два временски периоди кои не се преклопуваат и бројот на настани што паѓаат на едниот од нив не зависи од тоа колку настани паѓаат на другиот. Со други зборови, тоа значи дека настаните што го формираат протокот се појавуваат во одредени моменти
време независно еден од друг и секој предизвикан од свои причини.
Текот на настани се нарекува обичен ако веројатноста за појава на два или повеќе настани во елементарен сегмент t е занемарлива во споредба со веројатноста за појава на еден
настани, т.е. настаните се појавуваат во него еден по еден, а не во групи од неколку одеднаш
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
30

31. Протоци на настани

Марков процеси
Потоци на настани
Текот на настани се нарекува наједноставен (или неподвижен Поасон) ако има три својства одеднаш: 1) стационарен, 2) обичен, 3) нема никакви последици.
Наједноставниот тек има наједноставен математички опис. Тој игра меѓу стримовите истиот специјал
улога, како законот за нормална дистрибуција меѓу другите
закони за дистрибуција. Имено, кога се наддаваат доволно голем број независни, неподвижни и обични
текови (споредливи едни со други по интензитет), резултатот е проток близок до наједноставниот.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
31

32. Протоци на настани

Марков процеси
Потоци на настани
За наједноставен проток со интензитет
интервал
времето Т помеѓу соседните настани има експоненцијална
дистрибуција со густина
p(x) e x, x 0.
За случајна променлива Т со експоненцијална распределба, математичкото очекување е реципрочното на параметарот.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
32

33. Марков обработува со континуирано време

Марков процеси
Континуирано време Марков процеси
Со оглед на процесите со дискретни состојби и континуирано време, можеме да претпоставиме дека сите транзиции на системот S од состојба во состојба се случуваат под влијание
едноставни текови на настани (текови на повици, текови на неуспех, текови за обновување итн.).
Ако сите текови на настани што го пренесуваат системот S од состојба во состојба се наједноставни, тогаш процесот се случува во
системот ќе биде марковски.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
33

34. Марков обработува со континуирано време

Марков процеси
Континуирано време Марков процеси
Нека се постапува по системот во државата
наједноставниот тек на настаните. Штом се појави првиот настан од овој тек, системот „скока“ од државата
во состојба.
- интензитетот на текот на настаните кои го пренесуваат системот
од државата
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
В
.
34

35. Марков обработува со континуирано време

Марков процеси
Континуирано време Марков процеси
Нека има системот S што се разгледува
можни состојби
. Веројатност p ij (t) е веројатноста за премин од состојба i во состојба j во време t.
Веројатност за i -та состојба
е веројатноста дека
дека во моментот т системот ќе биде во состојба
. Очигледно, за секој момент во времето износот
од сите државни веројатности е еднаква на една:
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
35

36. Марков обработува со континуирано време

Марков процеси
Континуирано време Марков процеси
Да се ​​најдат сите државни веројатности
Како
функции на времето, се составуваат и решаваат Колмогоров диференцијални равенки - посебен вид равенки во кои непознатите функции се веројатностите на состојбите.
За веројатности за транзиција:
p ij (t) p ik (t) kj
к
За безусловни веројатности:
p j (t) p k (t) kj
к
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
36

37. Колмогоров Андреј Николаевич

Марков процеси
Колмогоров Андреј Николаевич
1903-1987
Голем руски
математичар.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
37

38. Марков обработува со континуирано време

Марков процеси
Континуирано време Марков процеси
- интензитет на проток на дефект;
- интензитет на проток на закрепнување.
Нека биде системот во државата
S0. Со протокот се пренесува во состојба S1
неуспеси на првиот уред. Нејзиниот интензитет е
Каде
- просечно време на работа на уредот.
Системот се пренесува од состојбата S1 во S0 со текот на реставрации
првиот уред. Нејзиниот интензитет е
Каде
- просечно време за поправка на првата машина.
На сличен начин се пресметуваат и интензитетите на тековите на настани кои го пренесуваат системот по сите лаци на графикот.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
38

39. Системи за редици

Марков процеси

Примери на системи за сервисирање во редици (QS): телефонски централи, поправки,
билет
каси,
референца
Бирото,
машински алати и други технолошки системи,
системи
управување
флексибилни
системи за производство,
обработка на информации од сервери итн.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
39

40. Системи за редици

Марков процеси
Системи за редици
QS се состои од одреден број на порции
единици наречени сервисни канали (ова се
машини, роботи, комуникациски линии, касиери итн.). Секое SMO
е дизајниран да го сервисира протокот на апликации (барања) кои пристигнуваат во случајни времиња.
Услугата на барањето продолжува по случаен избор, по што каналот се ослободува и е подготвен да го прими следното
апликации.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
40

41. Системи за редици

Марков процеси
Системи за редици
Процесот на операција QS е случаен процес со дискретни
состојби и континуирано време. Состојбата на QS нагло се менува во моментите на појава на некои настани
(пристигнување на ново барање, крај на услугата, момент,
кога апликацијата која е уморна од чекање ќе ја напушти редот).
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
41

42. Системи за редици

Марков процеси
Системи за редици
Класификација на системи за редици
1. QS со дефекти;
2. Ред со редица.
Во QS со одбивања, апликацијата примена во време кога сите канали се зафатени добива одбивање, го напушта QS и повеќе не е
служи.
Во QS со редица, барањето што пристигнува во време кога сите канали се зафатени не заминува, туку останува во ред и чека прилика да биде услужена.
QS со редици се поделени на различни типови во зависност од
зависи од тоа како е организирана редицата - ограничена или неограничена. Ограничувањата може да важат и за должината и за времето на редот
очекувања, „услужна дисциплина“.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
42

43. Системи за редици

Марков процеси
Системи за редици
Предмет на теоријата на редици е конструкцијата
математички модели кои поврзуваат дадени услови
работа на QS (број на канали, нивните перформанси, правила
работа, природата на протокот на апликации) со карактеристиките што нè интересираат - индикатори за ефективноста на QS. Овие индикатори ја опишуваат способноста на QS да се справи со протокот
апликации. Тие можат да бидат: просечниот број на апликации опслужени од QS по единица време; просечен број на зафатени канали; просечен број на апликации во редица; просечно време на чекање за услуга итн.
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“
43

44.

ВИ БЛАГОДАРАМ
ЗА ВНИМАНИЕ!!!
44

45. Конструирај граф за транзиција

Марков процеси
Изградете графикон за транзиција
0.30
0.70
0.0
0.10
0.60
0.30
0.50
0.50
0.0
КХНУРЕ, оддел Премиерот, предавач Кириченко Л.О.
„Теорија на веројатност, математичка
статистика и случајни процеси“

Многу операции кои треба да се анализираат при изборот на оптимално решение се развиваат како случајни процеси во зависност од голем број случајни фактори.

За математички опис на многу операции кои се развиваат во форма на случаен процес, може успешно да се примени математичкиот апарат развиен во теоријата на веројатност за таканаречените Марков случајни процеси.

Да го објасниме концептот на Марков случаен процес.

Нека има некој систем С,чија состојба се менува со текот на времето (според системот Сможе да значи нешто: индустриско претпријатие, технички уред, работилница за поправка итн.). Доколку состојбата на системот Ссе менува со текот на времето на случаен, непредвидлив начин однапред, велат дека во системот Спротекување случаен процес.

Примери на случајни процеси:

флуктуации на цените на берзата;

услуги на клиентите во фризерски салон или продавница за поправка;

спроведување на планот за снабдување на група претпријатија и сл.

Специфичниот тек на секој од овие процеси зависи од голем број случајни, претходно непредвидливи фактори, како што се:

доаѓањето на непредвидливи вести за политички промени на берзата;

случајна природа на протокот на апликации (барања) кои доаѓаат од клиенти;

случајни прекини во спроведувањето на планот за снабдување и сл.

ДЕФИНИЦИЈА. Случаен процес што се случува во системот се нарекува Марковијан(или процес без последици), ако го има следното својство: за секој момент од времето т 0 веројатноста за каква било состојба на системот во иднина (со t > t 0)зависи само од нејзината состојба во сегашноста (со t = t 0)и не зависи од тоа кога и како системот дошол до оваа состојба (т.е. како се развивал процесот во минатото).

Со други зборови, во Марков случаен процес, неговиот иден развој зависи само од сегашната состојба и не зависи од „праисторијата“ на процесот.

Ајде да погледнеме на пример. Нека системот Спретставува берза која постои веќе некое време. Нас нè интересира како ќе функционира системот во иднина. Јасно е, барем до прво приближување, дека карактеристиките на идните перформанси (веројатностите за пад на цената на одредена акција за една недела) зависат од состојбата на системот во моментот (различни фактори како што се бидејќи тука може да интервенираат владини одлуки или изборни резултати) и не зависат од тоа кога и како системот ја достигнал сегашната состојба (не зависи од природата на движењата на цените на овие акции во минатото).

Во пракса, често се среќаваме со случајни процеси кои, во различен степен на приближување, може да се сметаат за Маркови.

Теоријата на Марков случајни процеси има широк опсег на различни примени. Главно ќе нè интересира примената на теоријата на Марков случајни процеси во конструкцијата на математички модели на операции, чиј тек и исход значително зависат од случајни фактори.

Марков случајните процеси се поделени на часовиво зависност од тоа како и во кои моменти системот S“ може да ги менува своите состојби.

ДЕФИНИЦИЈА. Случајниот процес се нарекува процес со дискретни состојби,ако е можно состојбите на системот s x, s 2, s v... може да се наведат (нумерираат) еден по друг, а самиот процес е дека од време на време системот Сскока нагло (инстантно) од една во друга состојба.

На пример, развој на проект Ссе врши заеднички од два одделенија, од кои секоја може да направи грешка. Можни се следните состојби на системот:

5, - двете одделенија работат нормално;

с 2 - првиот оддел направи грешка, вториот работи добро;

с 3 - вториот оддел направи грешка, првиот работи добро;

с 4 - двата ресори направија грешка.

Процесот што се одвива во системот е дека тој по случаен избор во одредени моменти во времето се движи („скока“) од состојба во состојба. Системот има вкупно четири можни состојби. Пред нас е процес со дискретни состојби.

Покрај процесите со дискретни состојби, постојат случајни процеси со континуирани состојби: овие процеси се карактеризираат со постепен, непречен премин од состојба во состојба. На пример, процесот на промена на напонот во мрежата за осветлување е случаен процес со континуирани состојби.

Ќе разгледаме само случајни процеси со дискретни состојби.

Кога се анализираат случајни процеси со дискретни состојби, многу е погодно да се користи геометриска шема - таканаречен график на состојби. График на државатагеометриски ги прикажува можните состојби на системот и неговите можни транзиции од состојба во состојба.

Нека има систем Ссо дискретни состојби:

Секоја состојба ќе биде претставена со правоаголник, а можните транзиции („скокови“) од состојба во состојба ќе бидат претставени со стрелки што ги поврзуваат овие правоаголници. Пример за графикон за состојби е прикажан на сл. 4.1.

Забележете дека стрелките означуваат само директни транзиции од состојба во состојба; ако системот може да премине од состојбата и 2на 5 3 само преку s yтогаш стрелките означуваат само транзиции и 2-> и l, 1 -> 5 3, но не и 2s yАјде да погледнеме неколку примери:

1. Систем С- компанија која може да биде во една од петте можни состојби: s ]- работи со профит;

и 2- ги загуби своите изгледи за развој и престана да генерира профит;

5 3 - стана предмет за потенцијално преземање;

и 4- е под надворешна контрола;

с 5- имотот на ликвидираното друштво се продава на аукција.

Графикот на состојбата на компанијата е прикажан на сл. 4.2.

Ориз. 4.2

  • 2. Систем С- банка со две филијали. Можни се следните состојби на системот:
  • 5, - двете гранки работат со добивка;

с 2 - првата филијала работи без добивка, втората работи со добивка;

5 3 - втората гранка работи без добивка, првата работи со добивка;

с 4 - двете гранки работат без добивка.

Се претпоставува дека нема подобрување на состојбата.

Графикот на состојбата е прикажан на сл. 4.3. Забележете дека графикот не покажува можна транзиција од состојбата s ]директно до s4,што ќе се оствари доколку банката веднашќе работи со загуба. Можноста за ваков настан може да се занемари, како што потврдува практиката.

Ориз. 4.3

3. Систем С- инвестициско друштво составено од двајца трговци (одделенија): I и II; секој од нив може во одреден момент во времето да почне да работи со загуба. Доколку тоа се случи, раководството на компанијата веднаш презема мерки за враќање на профитабилното работење на одделот.

Можниот систем вели: с- активностите на двата одделенија се профитабилни; и 2- првиот оддел се обновува, вториот работи со профит;

и 3- првиот оддел работи со профит, вториот се обновува;

и 4- се обновуваат двата одделенија.

Графикот на состојбата на системот е прикажан на сл. 4.4.

4. Во услови на претходниот пример, активностите на секој трговец, пред да почне да ја обновува профитабилната работа на одделот, се предмет на проучување од страна на раководството на компанијата за да се преземат мерки за нејзино подобрување.

За погодност, ќе ги нумериме состојбите на системот не со еден, туку со два индекси; првиот ќе значи статус на првиот трговец (1 - работи со профит, 2 - неговите активности ги проучува раководството, 3 - ја враќа профитабилната активност на одделот); вториот - истото наведува и за вториот трговец. На пример, с 23ќе значи: се проучуваат активностите на првиот трговец, вториот е враќање на профитабилната работа.

Можни состојби на системот С:

ти си- активностите на двајцата трговци носат профит;

s l2- првиот трговец работи со профит, активностите на вториот ги проучува раководството на компанијата;

5 13 - првиот трговец работи со добивка, вториот ја враќа профитабилната активност на одделот;

s 2l- активностите на првиот трговец ги проучува менаџментот, вториот работи со профит;

с 22 - менаџментот ги проучува активностите на двајцата трговци;

  • 5 23 - се проучува работата на првиот трговец, вториот трговец ги обновува профитабилните активности на одделот;
  • 5 31 - првиот трговец ги обновува профитабилните активности на одделот, вториот работи со профит;
  • 5 32 - профитабилната дејност на одделот ја обновува првиот трговец, се проучува работата на вториот трговец;
  • 5 33 - и двајцата трговци ја обновуваат профитабилната работа на нивниот оддел.

Има вкупно девет држави. Графикот на состојбата е прикажан на сл. 4.5.

Чија еволуција по која било дадена вредност на временскиот параметар t не зависи од еволуцијата што му претходела т,под услов вредноста на процесот во овој момент да биде фиксирана (накратко: „иднината“ и „минатото“ на процесот не зависат едно од друго со позната „сегашност“).

Својството што дефинира магнетно поле обично се нарекува Марковијан; за прв пат беше формулиран од A. A. Markov. Меѓутоа, веќе во делото на Л. Основите на општата теорија за магнетни процеси со континуирано време беа поставени од А. Н. Колмогоров.

Марков имот. Постојат дефиниции за M. кои значително се разликуваат една од друга.Една од најчестите е следната. Нека се даде случаен процес со вредности од мерлив простор на простор на веројатност каде Т -подмножество на реалната оска Нека Nt(соодветно Nt).има s-алгебра во генерирани од количините X(s).at Каде Со други зборови, Nt(соодветно Nt) е збир на настани поврзани со еволуцијата на процесот до моментот t (почнувајќи од t) . Процесот X(t).се нарекува Марков процес ако (речиси сигурно) имотот Марков важи за сите:

или, што е исто, ако има

М. стр., за која Т е содржана во множеството природни броеви, повикани. Марков синџир(сепак, вториот поим најчесто се поврзува со случајот најмногу брои Е) . Ако е интервал повеќе од броен, се повикува M. континуирано време Марков синџир. Примери на магнетни процеси со континуирано време се дадени со дифузни процеси и процеси со независни зголемувања, вклучувајќи ги процесите Поасон и Винер.

Во продолжение, за дефинитивно, ќе зборуваме само за случајот со формулите (1) и (2) обезбедуваат јасна интерпретација на принципот на независност на „минатото“ и „иднината“ со позната „сегашност“, но дефиницијата на M. p. врз основа на нив се покажа како недоволно флексибилна во оние бројни ситуации кога е неопходно да се разгледа не еден, туку збир на услови од типот (1) или (2), што одговара на различни, иако договорени на одреден начин мерки.Од ваков вид размислувања доведоа до усвојување на следната дефиниција (види,).

Нека биде дадено следново:

а) мерлив простор каде што s-алгебрата ги содржи сите множества од една точка во E;

б) мерлив простор опремен со фамилија s-алгебри така што ако

в) функција („траекторија“) x t =xт(з) , дефинирање за секое мерливо мапирање

г) за секој и мерка на веројатност на s-алгебрата таква што функцијата е мерлива во однос на ако и

Збир на имиња (непрекинувачки) Марков процес дефиниран во ако -речиси сигурно

што и да е овде - простор на елементарни настани, - фазен простор или простор на состојби, P( с, х, т, В)- функција на транзицијаили веројатноста за транзиција на процесот X(t) . Ако Е е опремена со топологија и е збирка на Борел Е,тогаш вообичаено е да се каже дека е дадена М. стр Е.Вообичаено, дефиницијата на M. p. го вклучува барањето, а потоа да се толкува како веројатност, под услов x s =x.

Се поставува прашањето: дали секоја Марков преодна функција е P( s, x;телевизија), дадена во мерлив простор може да се смета како функција на транзиција на одреден простор M. Одговорот е позитивен ако, на пример, E е раздвоен локално компактен простор и е збирка од Borel множества во Е.Покрај тоа, нека Е -целосна метрика простор и нека

за секој каде

А - дополнување на е-соседството на точка X.Тогаш соодветното магнетно поле може да се смета за континуирано од десната страна и со граници лево (односно, неговите траектории може да се изберат како такви). Постоењето на континуирано магнетно поле е обезбедено со условот во (види, ). Во теоријата на механичките процеси главно внимание се посветува на процесите кои се хомогени (временски). Соодветната дефиниција претпоставува даден систем предметиа) - г) со таа разлика што за параметрите s и u што се појавија во неговиот опис сега е дозволена само вредноста 0. Ознаката е исто така поедноставена:

Понатаму, хомогеноста на просторот W е постулирана, т.е., потребно е за секој да постои такво што (w) за Поради ова, на s-алгебрата N,најмалата од s-алгебрите во W која содржи кој било настан од формата, дадени се операторите на временско поместување q т, кои ги зачувуваат операциите на соединување, вкрстување и одземање на множества и за кои

Збир на имиња (непрекинувачки) хомоген Марков процес дефиниран во ако -речиси сигурно

за функцијата Транзиција на процесот X(t).се смета P( т, х, В), и, освен ако нема посебни резервации, тие дополнително бараат дека Корисно е да се има предвид дека при проверка на (4) доволно е да се земат предвид само множества од формуларот каде и што во (4) секогаш Ftможе да се замени со s-алгебра еднаква на пресекот на комплетирањата Ftза сите можни мерки Често, мерката на веројатност m („почетната распределба“) е фиксирана и се разгледува случајната функција Марков каде што е мерката дадена со еднаквоста.

Се јави М. стр. прогресивно мерливо ако за секој t>0 функцијата индуцира мерливо пресликување каде е s-алгебрата

Борел подмножества во . Десните континуирани пратеници се прогресивно мерливи. Има начин да се сведе хетероген случај на хомоген (види), а во продолжение ќе зборуваме за хомогени пратеници.

Строго Марков имот.Нека мерлив простор е даден со m.

Функцијата се нарекува Марков момент,Ако за сите Во овој случај, множеството се класифицира како семејство F t ако at (најчесто F t се толкува како збир на настани поврзани со еволуцијата на X(t) до моментот t). За верувајте

Прогресивно мерлив M. p. Xnaz. стриктно Марков процес (с.м.п.), ако за било кој Марков момент m и сите и релацијата

(строго Марков својство) речиси сигурно важи за множеството W t . При проверка на (5), доволно е да се земат предвид само множества на формата каде што во овој случај симетричниот простор е, на пример, кој било десно-континуиран фелеровски димензионален простор во тополошки. простор Е.Се јави М. стр. Фелер Марков процес ако функцијата

е континуиран секогаш кога f е континуиран и ограничен.

На час со. се разликуваат одредени подкласи. Нека транзициската функција Марков P( т, х, В), дефинирани во метрички локално компактен простор Е,стохастично континуирано:

за секое соседство U на секоја точка. Тогаш ако операторите ја земат во себе класата на континуирани функции кои исчезнуваат во бесконечност, тогаш функциите P( т, х, В) го исполнува стандардот M. стр. X,односно континуирано десно со. м.п., за што

и - речиси сигурно на сетот а - Пмарков моменти кои не се намалуваат со растот.

Прекин на Марков процес.Често физички Препорачливо е да се опишат системи кои користат магнетно поле што не завршува, но само на временски интервал со случајна должина. Дополнително, дури и едноставните трансформации на магнетните процеси може да доведат до процес со траектории наведени на случаен интервал (види. „Функционална“од Марков процес). Водени од овие размислувања, се воведува концептот на скршен пратеник.

Нека е хомогено магнетно поле во фазниот простор што има функција на транзиција и нека постои точка и функција такви што за и поинаку (ако нема посебни резерви, размислете за ). Нова траекторија x т(w) е одредено само за ) со помош на еднаквоста a Ftсе дефинира како трага во множество

Поставете каде се повикува со завршување на Марков процес (о.м.п.), добиен од со прекинување (или убивање) во времето з. Се нарекува z вредноста моментот на паузата, или времето на животот, о. m.p. Фазниот простор на новиот процес е местото каде што има трага од s-алгебрата внатре Е.Преодна функција о. m.p. е ограничување на множеството Процес X(t). строго Марков процес, или стандарден Марков процес, ако го има соодветното својство.. Пратеникот што не завршува може да се смета како о. м.п.со моментот на прекин Хетероген о. На сличен начин се одредува м.п. М.

Маркови процеси и диференцијални равенки.Пратениците од типот на Брауново движење се тесно поврзани со параболични диференцијални равенки. тип. Преодна густина p(s, x, t, y) од процесот на дифузија ги задоволува, под одредени дополнителни претпоставки, инверзните и директните диференцијални равенки на Колмогоров:

Функција p( s, x, t, y).е Грин-овата функција на равенките (6) - (7), а првите познати методи за конструирање на процесите на дифузија се засновани на теореми за постоењето на оваа функција за диференцијални равенки (6) - (7). За процес хомоген во времето, операторот L( s, x)= Л(x).на мазни функции се совпаѓа со карактеристиката. оператор М. стр. (види „Полугрупа на оператори на транзиција“).

Математика. очекувањата на различни функционалности од процесите на дифузија служат како решенија за соодветните проблеми со граничните вредности за диференцијалната равенка (1). Нека - математички. очекување на мерка Тогаш функцијата задоволува на s равенка (6) и состојба

Исто така, функцијата

задоволува со s равенка

и состојба и 2 ( Т, х) = 0.

Нека tt е моментот на првото достигнување на границата dDрегион траекторија на процесот Потоа, под одредени услови, функцијата

ја задоволува равенката

и зема вредности cp на сетот

Решение на 1-виот проблем на граничната вредност за општа линеарна параболика. Равенки од втор ред

под прилично општи претпоставки може да се напише во форма

Во случај кога функционира операторот L и с, ѓне зависат од с,Можна е претстава слична на (9) за решавање на линеарна елипса. равенки Поточно, функцијата

под одредени претпоставки постои решение за проблемот

Во случај кога операторот L дегенерира (del b( s, x) = 0 ).или граница dDне е доволно „добро“; граничните вредности може да не бидат прифатени од функциите (9), (10) во поединечни точки или на цели множества. Концептот на редовна гранична точка за оператор Лима веројатност за толкување. Во редовните точки на границата, граничните вредности се постигнуваат со функциите (9), (10). Решавањето на проблемите (8), (11) ни овозможува да ги проучуваме својствата на соодветните процеси на дифузија и нивните функционалности.

Постојат методи за конструирање на MP кои не се потпираат на конструирање решенија на равенките (6), (7), на пример. метод стохастички диференцијални равенки,апсолутно континуирана промена на мерката итн. Оваа околност, заедно со формулите (9), (10), ни овозможува веројатност да ги конструираме и проучуваме својствата на проблемите со граничните вредности за равенката (8), како и својствата на решението на соодветната елипса. равенки

Бидејќи решението на стохастичката диференцијална равенка е нечувствително на дегенеративноста на матрицата b( s, x), Тоабеа користени веројатни методи за конструирање решенија за дегенерирање на елиптични и параболични диференцијални равенки. Проширувањето на просечниот принцип на N. M. Krylov и N. N. Bogolyubov на стохастички диференцијални равенки овозможи, користејќи (9), да се добијат соодветните резултати за елиптични и параболични диференцијални равенки. Се покажа дека е можно да се решат одредени тешки проблеми за проучување на својствата на решенијата на равенките од овој тип со мал параметар на највисокиот дериват користејќи веројатност. Решението на проблемот со 2-та гранична вредност за равенката (6) има и веројатност. Формулирањето на проблемите со граничната вредност за неограничен домен е тесно поврзано со повторувањето на соодветниот процес на дифузија.

Во случај на временски хомоген процес (L не зависи од s), позитивното решение на равенката, до мултипликативна константа, се совпаѓа под одредени претпоставки со стационарната густина на распределбата на MP. да бидат корисни кога се разгледуваат проблемите со граничните вредности за нелинеарни параболици. равенки. R. 3. Касмински.

Запалена.Марков А. 135-56; V a s h e l i e r L., "Ann. Scient. Ecole norm, super.", 1900, с. 17, стр. 21-86; Колмогоров А.Н., "Мат. Ен.", 1931, Bd 104, S. 415-458; рус. Превод - „Успехи Математических Наук“, 1938, век. 5, стр. 5-41; Жун Каи-лаи, Хомогени Маркови синџири, транс. од англиски, М., 1964; R e 1 1 e r W., "Ann. Math.", 1954, с. 60, стр. 417-36; Динкин Е.Б., Јушкевич А.А., „Теорија на веројатност и нејзините примени“, 1956 година, том 1, век. 1, стр. 149-55; Ксант Ј.-А., Марков процеси и потенцијали, транс. од англиски, М., 1962; D e l l a s h e r i K., Капацитети и случајни процеси, транс. од француски, М., 1975; Dynk и E.V., Основи на теоријата на Марков процеси, М., 1959; него, Маркови процеси, М., 1963; G и h man I. I., S k o r o x o d A. V., Теорија на случајни процеси, том 2, М., 1973; Фрајдлин М.И., во книгата: Резултати на науката. Теорија на веројатност, математичка статистика. - Теоретска кибернетика. 1966, М., 1967, стр. 7-58; X a sminskiy R. 3., „Теоријата на веројатност и нејзините примени“, 1963 година, том 8, во . 1, стр. 3-25; Ventzel A.D., Freidlin M.I., Флуктуации во динамички системи под влијание на мали случајни нарушувања, М., 1979; Blumenthal R. M., G e t o r R. K., Марков процеси и потенцијална теорија, N.Y.-L., 1968; Getоor R. K., Markov processes: Ray processes and right processes, V., 1975; Кузнецов С.Е., „Теорија на веројатност и нејзините примени“, 1980 година, том 25, век. 2, стр. 389-93.