Нормированная корреляционная функция. Корреляционные функции случайных процессов

1. Математическое ожидание неслучайного процесса j(t ) равно самому неслучайному процессу:

Из выражения (1.9) следует, что любая центрированная неслучайная функция равна нулю, поскольку

2. Если случайная величина Y (t ) представляет собой линейную комбинацию функций X i (t ):

, (1.11)

где - неслучайные функции t , то

. (1.12)

Последнее соотношение следует из того, что операция определения математического ожидания линейна.

3. Корреляционная функция неслучайного процесса тождественно равна нулю. Это свойство следует непосредственно из (1.10).

4. Корреляционная функция не изменяется от прибавления к случайной функции любой неслучайной функции . Действительно, если , то

Отсюда следует, что корреляционные функции случайных процессов и

Совпадают. Поэтому при определении корреляционных функций всегда можно считать, что рассматриваемый процесс является центрированным.

5. Если случайный процесс Y (t ) представляет собой линейную комбинацию случайных процессов X i (t ):

,

где - неслучайные функции, то

, (1.14)

где - собственная корреляционная функция процесса X i (t ), - взаимная корреляционная функция процессов и .

Действительно:

, =

.

Если случайные процессы попарно некоррелированы, то

. (1.15)

Полагая в (1.14) , получим выражение для дисперсии линейной комбинации случайных процессов:

В частном случае некоррелированных случайных процессов

. (1.17)

6. Корреляционная функция является неотрицательно определенной функцией:

. (1.18)

Действительно, представим (1.18) в виде:

.

Так как интеграл есть предел интегральной суммы, то последнее выражение можно представить в виде предела суммы математических ожиданий, которая, в свою очередь, равна математическому ожиданию суммы. Поэтому операции интегрирования и математического ожидания можно менять местами. В результате получим:

7. Корреляционная функция симметрична относительно своих аргументов. Взаимная корреляционная функция этим свойством не обладает.

Симметричность корреляционной функции вытекает непосредственно из её определения:

В то же время для взаимной корреляционной функции имеем:

Взаимная корреляционная функция удовлетворяет следующему соотношению:

8. Корреляционная функция и взаимная корреляционная функция удовлетворяют следующим неравенствам:

Часто вместо собственной и взаимной корреляционных функций рассматривают нормированные корреляционные функции :



, (1.23)

. (1.24)

Нас основании (1.21) и (1.22) для нормированных корреляционных функций справедливы неравенства:

. (1.25)

Пример Заданный случайных процесс представляет собой сумму случайного и неслучайного процессов: . Заданы , определить

Используя (1.9) и (1.12), будем иметь:

Согласно (1.15)

и, наконец, в соответствии с (1.17) .

КЛАССИФИКАЦИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ

Стационарные процессы

Случайный процесс называется стационарным , если его многомерный закон распределения зависит лишь от взаимного расположения моментов времени t 1 , t 2 , . . .t n , т.е. не меняется при одновременном сдвиге этих моментов времени на одинаковые величины:

Если выражение (2.1) удовлетворяется при любом n , то такой процесс называется стационарным в узком смысле.

При n =1 выражение (2.1) приобретает вид:

И при , 2.2)

т.е. одномерный закон распределения стационарного процесса не зависит от времени. Следовательно, от времени не будут зависеть и характеристики случайного процесса, зависящие от одномерного закона распределения: математическое ожидание и дисперсия случайного процесса:

, . (2.3)

При n =2 выражение (2.1) переписывается следующим образом:

Следовательно корреляционная функция стационарного процесса, определяемая двумерным законом распределения, будет зависеть лишь от интервала времени t

По определению А.Я.Хинчина процесс является стационарным в широком смысле , если условие стационарности (2.1) удовлетворяется лишь при n= 1 и 2.

Следовательно, условия стационарности процесса в широком смысле можно сформулировать в виде:

· математическое ожидание и дисперсия такого процесса не зависят от времени - и D X ;

· корреляционная функция процесса зависит лишь от интервала между сечениями по времени - .

K XX (t) является четной функцией своего аргумента:



Следует помнить, что взаимная корреляционная функция представляет собой нечетную функцию:

, (). (2.7)

Нормальные процессы

Случайный процесс является нормальным , если нормальным является любой многомерный закон:

× ), (2.8)

где (2.9)

Относительные собственные и взаимные корреляционные функции, и двух значениях случайной величины Y – y 1 и y 2 . Из рисунка видно, что математическое ожидание реализации при Y =y 1 равно y 1 , а при Y =y 2 – y 2 .



Рис.2.1. Пример стационарного неэргодического процесса

Таким образом, по единственной реализации стационарного, но неэргодического процесса нельзя судить о характеристиках процесса в целом.

Марковские процессы

Если вероятностные свойства случайного процесса полностью определяются значением его ординаты в заданный момент времени и не зависят от значений ординат процесса в предыдущие моменты времени, то такой случайный процесс называется Марковским. Иногда такие процессы называют процессами без последействия.

9. Корреляционная функция и её основные свойства.

Для полного описания случайных процессов вводится понятие коррел ф-и .

равных математическом ожидании, дисперсии, СКО

Предп, что закон распределения нормальный. На графиках видно резкое отличие процессов,несмотря на их равные вероятностные хар-ки.

(t )m

(t ) ,

(t )D

(t ) ,

(t )

(t ) .

Например, слежение за самолетом. Если он в момент времени t занял положениех 1 то этим самым его возможное положениех 2 в следующий моментt 2 ограничено, т. е. события (x 1 ,t 1 ) и (x 2 ,t 2 ) не будут независимыми. Чем более инерционен изучаемый объект, тем больше эта взаимозависимость, иликорреляция . Корр ф-я математически выражает корреляцию двух функций или корреляцию функции с самой собой (автокорр-я функция ). Коррфункция описывается в следующем виде:

где t 1 иt 2 – любые моменты времени, то естьt 1 иt 2 Т

Корреляция - статистическая взаимосвязь двух или нескольких случайных величин.

Корреляционная функция – такая неслучайная функцияR x (t 1 ,t 2 ) двух аргументов, которая для любой пары фиксированных значений аргументовt 1 иt 2 равна корреляционному моменту, соответствующих этим сечениям случайных величинx (t 1 ) иx (t 2 ).

Корреляционная функция - функция времени, которая задает корреляцию в системах со случайными процессами.

При совпадении моментов t 1 иt 2 корреляционная функция равна дисперсии. Нормированная корреляционная функция вычисляется по формуле:

) 1,

где x (t 1 ) иx (t 2 ) с.к.о. случайной функцииx (t ) приt =t 1 иt =t 2 соответственно. Для вычисления

корреляционной функции требуется

плотность (двумерную)

вероятности

(x ,x

; t, t

) dx dx

Свойства корреляционных функций

1. Корреляционная функция R x (t 1 ,t 2 ) симметрична относительно своих аргументов:

R x (t 1 ,t 2 ) =R x (t 2 ,t 1 )

в соответствии с определением корреляционной функции X (t ).

2. При добавлении к случайной функции X (t ) произвольного неслучайного слагаемого

(t ), корреляционная функцияZ (t ) X (t ) (t ),

то R z (t 1 ,t 2 ) =R x (t 1 ,t 2 ).

3. При умножении случайной функции X (t ) на произвольный неслучайный множитель ψ(t ) корреляционная функцияR x (t 1 ,t 2 ) умножается на ψ(t 1 )ψ(t 2 ).

При исследовании вопросов зависимости или независимости двух или более сечений случайных процессов знание лишь математического ожидания и дисперсии с.п. не достаточно.

Для определения связи между различными случайными процессами используется понятие корреляционной функции – аналог понятия ковариации случайных величин (см. Т.8)

Корреляционной (ковариационной, автоковариационной, автокорреляционной) функцией случайного процесса
называется неслучайная функция двух аргументов

равна корреляционному моменту соответствующих сечений
и
:

или (с учётом обозначения центрированной случайной функции
) имеем

Приведём основные свойства корреляционной функции
случайного процесса
.

1. Корреляционная функция при одинаковых значениях аргументов равна дисперсии с.п.

Действительно,

Доказанное свойство позволяет вычислить м.о. и корреляционную функцию являющимися основными характеристиками случайного процесса, необходимость в подсчёте дисперсии отпадает.

2. Корреляционная функция не меняется относительно замены аргументов, т.е. является симметрической функцией относительно своих аргументов: .

Это свойство непосредственно выводится из определения корреляционной функции.

3. Если к случайному процессу прибавить неслучайную функцию, то корреляционная функция не меняется, т.е. если
, то. Другими словами

является периодической функцией относительно любой неслучайной функции.

Действительно, из цепочки рассуждений

следует, что . Отсюда получим требуемое свойство 3.

4. Модуль корреляционной функции не превосходит произведения с.к.о., т.е.

Доказательство свойства 4. проводится аналогично как в пункте 12.2. (теорема 12..2), с учётом первого свойства корреляционной функции с.п.
.

5. При умножении с.п.
на неслучайный множитель
её корреляционная функция умножится на произведение
, т.е., если
, то

5.1. Нормированная корреляционная функция

Наряду с корреляционной функцией с.п. рассматривается также нормированная корреляционная функция (или автокорреляционная функция )
определяемая равенством

.

Следствие. На основании свойства 1 имеет место равенство

.

По своему смыслу
аналогичен коэффициенту корреляции для с.в., но не является постоянной величиной, а зависит от аргументови.

Перечислим свойства нормированной корреляционной функции :

1.

2.

3.
.

Пример 4. Пусть с.п. определяется формулой, т.е.
с.в.,

распределена по нормальному закону с

Найти корреляционную и нормированную функции случайного процесса

Решение. По определению имеем

т.е.
Отсюда с учётом определения нормированной корреляционной функции и результатов решения предыдущих примеров получим
=1, т.е.
.

5.2. Взаимная корреляционная функция случайного процесса

Для определения степени зависимости сечений двух случайных процессов используют корреляционную функцию связи или взаимную корреляционную функцию.

Взаимной корреляционной функцией двух случайных процессов
и
называется неслучайная функция
двух независимых аргументови, которая при каждой паре значенийиравна корреляционному моменту двух сечений
и

Два с.п.
и
называютсянекоррелированными, если их взаимная корреляционная функция тождественно равна нулю, т.е. если для любыхиимеет место
Если же для любыхиокажется
, то случайные процессы
и
называютсякоррелированными (илисвязанными ).

Рассмотрим свойства взаимной корреляционной функции, которые непосредственно выводятся из её определения и свойств корреляционного момента (см. 12.2):

1.При одновременной перестановке индексов и аргументов взаимная корреляционная функция не меняется, то есть

2. Модуль взаимной корреляционной функции двух случайных процессов не превышает произведения их средних квадратичных отклонений, то есть

3. Корреляционная функция не изменится, если к случайным процессам
и
прибавить неслучайные функции
и
соответственно, то есть
, где соответственно
и

4. Неслучайные множители
можно вынести за знак корреляции, то есть, если
и, то

5. Если
, то.

6. Если случайные процессы
и
некоррелированные , то корреляционная функция их суммы равна сумме их корреляционных функций, то есть.

Для оценки степени зависимости сечений двух с.п. используют также нормированную взаимную корреляционную функцию
, определяемую равенством:

Функция
обладает теми же свойствами, что и функция
, но свойство 2

заменяется на следующее двойное неравенство
, т.е. модуль нормированной взаимной корреляционной функции не превышает единицы.

Пример 5. Найти взаимную корреляционную функцию двух с.п.
и
, где
случайная величина, при этом

Решение. Так как,.

Корреляционная функция стационарного процесса

Корреляционная функция слу­чайного процесса определяется как математическое ожидание произведения двух центрированных сечений процесса, взятых в мо­менты t 1 и t 2 . При этом математическое ожидание вычисляется с использованием двумерной плотности вероятности . Для стационарного случайного процесса двумерная плотность вероятности и, соответственно, корреляционная функция зависят не от t 1 и t 2 в отдельности, а только от их разности = t 2 - t 1 . В соответствии с этим корреляционная функция стационар­ного процесса определяется выражением

(3.1)

где - математическое ожидание стационарного процесса; х 1 , х 2 - возможные значения случайного процесса соответственно, в моменты времени t 1 , t 2 ; = t 2 – t 1 - интервал времени между сечения­ми; - двумерная плотность вероятности стационарно­го процесса. Второе выражение для получено путём раскрытия квадратных скобок первого выражения и учета свойств математичес­кого ожидания.

В научно-технической литературе используется также такая характеристика случайного процесса, как ковариационная функция K (t ), под которой понимается математическое ожидание произведения двух значений процесса, взятых соответ­ственно в моменты t 1 и t 2:

(3.2)

так что справедливо соотношение

(3.3)

Если , то понятия и совпадают. Если же до­полнительно обладает эргодическим свойством, то корреляцион­ная функция может быть определена по одной длинной реализации:

(3.4)

где Т - интервал наблюдения единственной реализации x (t ) процесса ; - эта же реализация x (t ), задержанная на время .

Формула (3.4) может быть положена в основу построения Структурная схема уст­ройства, измеряющего корреляционную функцию, которое называется коррелометром . Для построения коррелометра требуются перемножитель, устройство задержки с переменным временем задержки и интегратор (рис. 3.1). Это устройство измеряет или в зависимости от того, равно нулю или нет.

Корреляционная функция стационарного случайного про­цесса, как и вообще корреляционная функция случайного процесса, является действительной функцией аргумента . При этом характеризует с двух сторон. Во-первых, определяет среднюю удельную мощность флюктуаций. А во-вторых, позволяет судить о степени линейной связи между двумя сечениями случайного процесса, отстоящими друг от друга на интервал времени . Размерность совпадает с размерностью квадрата случайного процесса. Рассмотрим свойства корреляционной функции.

1. Корреляционная функция при = 0 равна дисперсии процесса

(3.5)

Это свойство вытекает непосредственно из формулы (3.1), если в ней положить = 0.

2. Корреляционная функция стационарного процесса является чётной функцией аргумента :

(3.6)

Это свойство непосредственно вытекает из определения стационарно­го процесса, для которого важны не сами значения моментов и t 2 , а расстояние во времени одного сечения от другого |t 2 -t 1 |.

3. Корреляционная функция при любом t не может превзойти своего значения при = 0:

(3.7)

Это свойство физически означает, что наибольшая степень линейной связи обеспечивается между одним и тем же сечением, то есть при =0. Правда, если является периодическим процессом, то может найтись еще какое-либо , соизмеримое с периодом процесса, для которого выполняется жесткая функциональная связь между и . Поэтому в формуле (3.7) в общем случае может выполняться не только неравенство, но и равенство.

4. Корреляционная функция может быть представлена в виде

(3.8)

где r (t ) нормированная корреляционная функция, имеющая смысл коэффициента корреляции, зависящего от и заключенная в пределах

. (3.9)

Она характеризует только степень линейной связи между сечениями слу­чайного процесса, взятыми через интервал . В свою очередь, дисперсия процесса характеризует только среднюю удельную мощность флюктуаций случайного процесса.

Погрешности измерений, обусловленные наведенными помехами и собственными шумами электронных приборов, описываются с помощью математической теории, получившей название "теория случайных процессов ". Напомним основные понятия этой теории, которые мы будем использовать в дальнейшем изложении и которые используются ГОСТ 8.009 [ГОСТ ] при нормировании случайной составляющей погрешности измерений.

,
.
.

В пределе, при приведенные оценки параметров стремятся к их истинным значениям. В приведенных формулах для оценок параметров и самих параметров использованы одни и те же обозначения, поскольку в дальнейшем мы будем использовать только оценки, если иное не оговорено специально.

Отдельно взятая реализация случайного процесса является детерминированной (неслучайной) функцией, поэтому для нее можно найти спектральную характеристику с помощью преобразования Фурье:

В соответствии с этим определением, шума измеряется в или , и т. п. Отметим, что в теории случайных процессов понятие мощности отличается от общепринятого: предполагается, что энергия шума выделяется на сопротивлении в 1 Ом, но размерность не указывается, поэтому вместо размерности мощности используется , . Аналогично, энергия измеряется не в , а в .

Автокорреляционная функция и спектральная плотность мощности связаны между собой преобразованием Фурье (теорема Винера-Хинчина [Баскаков ]):

;
,

Если энергетический спектр лежит в диапазоне частот от >0 до , например, благодаря применению фильтра, то можно считать, что за пределами указанного диапазона частот его значения равны нулю и это позволяет изменить пределы интегрирования в (4.16):

.

При использовании формул (4.16) и (4.19) надо помнить, что в ней применен двусторонний энергетический спектр (симметричный относительно начала оси ординат). В случае одностороннего спектра , заданного в диапазоне частот , коэффициент "2" должен отсутствовать:

В зарубежной справочной литературе на графиках спектральной плотности мощности шума транзисторов, операционных усилителей и др. обычно по оси ординат откладывается корень квадратный из спектральной плотности мощности шума , имеющий размерность , и т. п. В этом случае напряжение шума (среднеквадратическое значение) можно найти как

.

Для белого шума и предыдущее выражение упрощается:

.

Рассмотрим суммирование двух случайных погрешностей и с нулевым математическим ожиданием (т. е. центрированных случайных величин). Дисперсия суммы двух случайных величин по определению равна математическому ожиданию квадрата их суммы:

= ,

где и - операторы дисперсии и математического ожидания ; , - среднеквадратические отклонения случайных величин и . Величина

называется ковариацией ("совместной вариацией") случайных величин и .

Ковариацию дискретных случайных величин можно оценить по их дискретным значениям и с помощью формулы среднего арифметического:

.

Коэффициентом корреляции называют отношение ковариации к произведению среднеквадратических отклонений и случайных величин и :

.

Здесь знак "-" используется когда случайные величины вычитаются, например, если находится разность напряжений двух измерительных каналов. При этом наличие корреляции между каналами частично уменьшает погрешность разности.

В случае, когда случайные величины статистически независимы (), предыдущее выражение упрощается:

.

Такое суммирование называют геометрическим , поскольку оно выполняется аналогично нахождению гипотенузы прямоугольного треугольника.

Если коэффициент корреляции , то, то коэффициент корреляции можно оценить как. Тангенс угла наклона линии называется коэффициентом регрессии. Уравнение линии регрессии можно получить

Статистическая зависимость между погрешностями средств измерений в общем случае нелинейная, однако этой нелинейностью обычно пренебрегают.