Тема 1
Понятие за случаен процес

Случайните процеси възникват в много реални ситуации например изменението на температурата (с времето), концентрация на дадено вещество при протичането на химическа реакция, броя на заетите абонати в телефонна централа, стойностите на финансов актив, застрахователните искове т.н. Тяхното изучаване е интересна задача с много важни приложения.

1.1  Терминология

Разглеждаме едно вероятностно пространство V = < W, F ,Pr > .
Ж W-пространство от елементарни събития;
F -s-алгебра от подмножества на W;
Pr- вероятностна мярка върху < W, F > ;

Всички случайни величини по-нататък ще считаме, че са дефинирани в пространството V .

Определение 1 [Случаен процес] Произволна съвкупност от случайни величини {xt, t О T}, където T М R , се нарича случаен процес.

Определение 2 Съвместните разпределения на xt1,ј,xtn, ti О T се наричат крайномерни разпределения на процеса, а разпределенията на xt се наричат маргинални (както при многомерните разпределения).

Определение 3 Траектории на процеса се наричат кривите, които описва xt(w), при фиксирано w когато t описва T.

Когато времето е дискретно (

T = N = {1,2,ј}
или
T = Z = {ј,-2,-1,0,1,2,ј}
) наричаме процеса временен ред.

Примери:
1. T = Z , xi, i = ј,-1,0,1,ј са независими в съвкупност случайни величини с E xi = 0 и D xi = d < Ґ.

{xi,i О Z } се нарича бял шум.

2. T = N и S0 = 0, Sn = x1+ј+xn, където {xn,n О N } е бял шум.

Процесът {Sn,n О N } се нарича случайно лутане (random walk).
3. T = R , процесът {xt, t О R } се нарича Гаусов, ако всичките му крайномерни разпределения са многомерно нормални.

1.2  Основни понятия

Като за начало ще въведем някои основни понятия от теорията на случайните процеси, примери и анализ на които ще се появяват постоянно по-нататък.

Важно е да имаме понятие за това кога два процеса съвпадат.

Определение 4 Нека са дадени процесите {xt,t О T} и {ht,t О T}. Казваме, че те са стохастически еквивалентни, ако за всяко t О T, xt = ht почти сигурно, т.е. xt(w) = ht(w), за почти всяко w.

Основен е въпросът за съществуване на случайните процеси. Най-често той се решава от теоремата на Колмогоров, вж. [6] или [1].

Теорема 1 [Колмогоров] Нека за всяко n е дадена n-мерна функция на разпределение Fn(x1,ј,xn). Ако семейството от ф. р. е съгласувано, т.е. за произволни m,n О N и x1,ј,xn О R

Fn+m(x1,ј,xn,Ґ,ј,Ґ) = Fn(x1,ј,xn)
Тогава съществува процес {xn,n О N } с крайномерни разпределения Fn, т.е.
Fx1,ј,xn(x1,ј,xn) = Fn(x1,ј,xn).

Определение 5 Нека за процесът {xt,t О T} съществуват E xt = m(t) < Ґ и E xt2 < Ґ, тогава

A(s,t): = cov(xs,xt) = E (xt-m(t))(xs-m(s))
се нарича ковариационна функция на процеса.

Лема 1 Нека {xt,t О R } е произволен процес с ковариационна функция A(s,t). Функцията A(s,t) е неотрицателно определена, т.е. за прозволни t1,ј,tn и x1,ј,xn

(Ax,x) = n
е
i,j = 1 
A(ti,tj)xi xj і 0, където A = (A(ti,tj)),xў = (x1,ј,xn).

Доказателство: Нека x = еi = 1n xi xti, тогава

D x = cov(x,x) = n
е
i,j = 1 
cov(xi xti,xj xtj) = n
е
i,j = 1 
cov(xti,xtj)xi xj = (Ax,x),
с това всичко е доказано, тъй като D x і 0. [¯]

Определение 6 Когато за случайният процес {xt,t О R } с ковариационна функция A(t,s) и очакване m(t) е изпълнено:
1. m(t) = m = const
2. A(t,s) = R(|t-s|) - не зависи от t и s, а само от разликата им, тогава процесът се нарича слабо стационарен (или стационарен в широк смисъл).

Определение 7 Нека {xt,t О R } е произволен процес (T= R ). Той се нарича строго стационарен (или стационарен в тесен смисъл), ако за всяко h и произволни t1,ј,tn,x1,ј,xn О R е изпълнено:

Pr
{xt1 < x1,ј,xtn < xn} = Pr
{xt1+h < x1,ј,xtn+h < xn}

Очевидно всеки строго стационарен процес, който има очаквания и ковариационна функция е и слабо стационарен.

Стационарността е важно понятие, което присъства естествено в много приложения.

1.3  Гаусови процеси

По-подробно ще разгледаме важният клас от Гаусови процеси. Нека {xt,t О R } е Гаусов процес. Всичките му крайномерни разпределения са многомерни нормални и следователно се определят чрез очакването и ковариационната си матрица.

Теорема 2 За произволна функция m = m(t), t О R и произволна неотрицателно определена функция A(s,t) съществува, единствен (по отношение на крайномерните разпределения) гаусов процес {xt,t О R } с очакване m(t) = E xt и ковариационна функция A(s,t) = cov(xs,xt).

Един основен пример на гаусов процес е Винеровия процес.

Определение 8 Стохастичният процес {xt,t О T} с T = R + = [0,Ґ) се нарича Винеров, ако:
1. x0 = 0
2. xt-xs е нормално разпределена с очакване 0 и дисперсия |t-s|s2.
3. {xt} е с независими нараствания, т.е. за произволни 0 Ј t1 Ј ј Ј tn случайните величини xtn-xtn-1,ј,xt2-xt1,xt1 са независими.
4. Траекториите Wt(w) са п.с. непрекъснати.
Когато s = 1 процеса се нарича стандартен винеров процес.

Съществуването на винеров, както и на гаусовите процеси лесно се показва с помощтта на теоремата на Колмогоров (Теорема 1.1), която е вярна и в по-общия случай, за непрекъснато (неизброимо) време. По-интересен и по-труден е въпроса за траекториите на винеровия процес. Условието 4. за непрекъснатост на траекториите е излишно. Ако процеса изпълнява само условията 1., 2. и3. може да се избере версия (с точност до стохастична еквивалентност) на винеровия процес, която е с непрекъснати траектории. Затова без ограничения може да се приеме, че винеровия процес има п.с. непрекъснати траектории.

Ще докажем, че Винеровият процес е Гаусов.

Теорема 3 Нека {xt,t О R +} е Винеров процес, тогава съвместната плътност е:

fxt1,ј,xtn(x1,ј,xn) = 1
(2 p)n/2 t11/2ј(tn-tn-1)1/2
exp{- n
е
i = 1 
(xi-xi-1)2
2(ti-ti-1)
},
където за удобство въвеждаме x0 = 0 и t0 = 0.

Очевидно това е многомерна нормална плътност и следователно процеса е гаусов.
Доказателство: Нека за удобство x0 = 0 и t0 = 0, тогава от определението за винеров процес имаме, че hk = xtk-xtk-1,k = 1,ј,n са независими и нормално разпределени с нулеви очаквания и дисперсии tk-tk-1, съответно.

xtk = h1+ј+hk,k = 1,ј,n, и тогава по теоремата за съвместната плътност

fxt1,ј,xtn(x1,ј,xn) = fh1,ј,hn(x1-x0,ј,xn-xn-1),
тъй като якобияна на линейната трансформация е 1. От независимостта на {hk,k = 1,ј,n} веднага получаваме
fh1,ј,hn(y1,ј,yn) = n
Х
k = 1 
1
(2 p(tk-tk-1)1/2
exp{- yk2
2(tk-tk-1)
},
откъдето след заместване на yk с xk-xk-1 се получава търсената плътност. [¯]

Това, че винеровия процес е гаусов следва директно като забележим, че векторът x = (xt1 јxtn)ў се получава чрез линейна трансформация на вектор от независими, стандартно нормално разпределени случайни величини. Следователно x има многомерно нормално разпределение.

Определение 9 [Марковски процес] Случайният процес {xt,t О T} се нарича марковски, ако за всеки s < t, s,t О T е изпълнено

E (xt|{xt,t Ј s}) = E (xt|xs).

Примери
1. Даден е процеса на случайно лутане {Sn,n О N }, т.е. Sn = x1+ј+xn,n О N , където {xn,n О N } е бял шум. Този процес е марковски.

Наистина, за произволни m < n, m,n О N

E (Sn|{Sk, k Ј m}) = E (Sn-Sm|{Sk, k Ј m})+ E (Sm|{Sk, k Ј m}),
но Sn-Sm = xm+1+ј+xn не зависи от Sk,k Ј m, следователно E (Sn-Sm|{Sk, k Ј m}) = E (Sn-Sm) = 0. Очевидно E (Sm|{Sk,k Ј m}) = Sm, откъдето
E (Sn|{Sk,k Ј m}) = Sm, т.е. процесът емарковски.
[¯]

Задачи
1. Случайният вектор x = (x1,x2)ў е гаусов с cov(x1,x2) = r. Нека h = c1x1+c2x2, c1,c2 О R . Докажете, че

E (h|x1) = c1x1+c2 ж
з
и
r x1- E x1
D x1
+ E x2 ц
ч
ш
.

2. Нека x = (x1,ј,xn)ў е гаусов случаен вектор с очакване (a1,ј,an)ў и неособена ковариационна матрица C = (cov(xi,xj))nxn. Докажете, че условната плътност fx1|x2 = x2,ј,xn = xn(x1) е нормална и

E (x1 | x2,ј,xn) = c2x2+ј+cnxn,където ci О R ,i = 2,ј,n.

3. Нека {Wt,t О R +} е стандартен винеров процес и 0 < a = t0 < t1 < ј < tn = b е разбиване на интервала [a,b]. Докажете, че когато диаметъра на разбиването dn = min{tk-tk-1,k = 1,ј,n} клони към 0, то

E n
е
k = 1 
(Wtk-Wtk-1)2

®
 
dn® 0 
b-a.

[¯]


Начало на лекцията | Съдържание


File translated from TEX by TTH, version 2.10.
On 16 Jun 1999, 11:38.