В главе 5 мы ввели в рассмотрение числовые характеристики одной случайной величины - начальные и центральные моменты различных порядков. Из этих характеристик важнейшими являются две: математическое ожидание и дисперсия .
Аналогичные числовые характеристики - начальные и центральные моменты различных порядков - можно ввести и для системы двух случайных величин.
Начальным моментом порядка , системы называется математическое ожидание произведения на :
. (8.6.1)
Центральным моментом порядка системы называется математическое ожидание произведения -й и -й степени соответствующих центрированных величин:
,
(8.6.2)
Выпишем формулы, служащие для непосредственного подсчета моментов. Для прерывных случайных величин
, (8.6.3)
, (8.6.4)
где 
- вероятность того, что система примет значения , а суммирование
распространяется по всем возможным значениям случайных величин , .
Для непрерывных случайных величин:
, (8.6.5)
,
(8.6.6)
где - плотность распределения системы.
Помимо и , характеризующих порядок момента по отношению к отдельным величинам, рассматривается еще суммарный порядок момента , равный сумме показателей степеней при и . Соответственно суммарному порядку моменты классифицируются на первые, вторые и т. д. На практике обычно применяются только первые и вторые моменты.
Первые начальные моменты представляют собой уже известные нам математические ожидания величин и , входящих в систему:
Совокупность математических ожиданий представляет собой характеристику положения системы. Геометрически это координаты средней точки на плоскости, вокруг которой происходит рассеивание точки .
Кроме первых начальных моментов, на практике широко применяются еще вторые центральные моменты системы. Два из них представляют собой уже известные нам дисперсии величин и :
характеризующие рассеивание случайной точки в направлении осей и .
Особую роль как характеристика системы играет второй смешанный центральный момент:
,
т.е. математическое ожидание произведения центрированных величин.
Ввиду того, что этот момент играет важную роль в теории, введем для него особое обозначение:
. (8.6.7)
Характеристика называется корреляционным моментом (иначе - «моментом связи») случайных величин , .
Для прерывных случайных величин корреляционный момент выражается формулой
, (8.6.8)
а для непрерывных - формулой
. (8.6.9)
Выясним смысл и назначение этой характеристики.
Корреляционный момент есть характеристика системы случайных величин, описывающая, помимо, рассеивания величин и , еще и связь между ними. Для того чтобы убедиться в этом, докажем, что для независимых случайных величин корреляционный момент равен нулю.
Доказательство проведем для непрерывных случайных величин. Пусть , - независимые непрерывные величины с плотностью распределения . В 8.5 мы доказали, что для независимых величин
. (8.6.10)
где , - плотности распределения соответственно величин и .
Подставляя выражение (8.6.10) в формулу (8.6.9), видим, что интеграл (8.6.9) превращается в произведение двух интегралов:
.
Интеграл
представляет собой не что иное, как первый центральный момент величины , и, следовательно, равен нулю; по той же причине равен нулю и второй сомножитель; следовательно, для независимых случайных величин .
Таким образам, если корреляционный момент двух случайных величин отличен от нуля, это есть признак наличия зависимости между ними.
Из формулы (8.6.7) видно, что корреляционный момент характеризует не только зависимость величин, но и их рассеивание. Действительно, если, например, одна из величин весьма мало отклоняется от своего математического ожидания (почти не случайна), то корреляционный момент будет мал, какой бы тесной зависимостью ни были связаны величины . Поэтому для характеристики связи между величинами в чистом виде переходят от момента к безразмерной характеристике
где , - средние квадратические отклонения величин , . Эта характеристика называется коэффициентом корреляции величин и . Очевидно, коэффициент корреляции обращается в ноль одновременно с корреляционным моментом; следовательно, для независимых случайных величин коэффициент корреляции равен нулю.
Случайные величины, для которых корреляционный момент (а значит, и коэффициент корреляции) равен нулю, называются некоррелированными (иногда – «несвязанными»).
Выясним, эквивалентно ли понятие некоррелированности случайных величин понятию независимости. Выше мы доказали, что две независимые случайные величины всегда являются некоррелированными. Остается выяснить: справедливо ли обратное положение, вытекает ли из некоррелированности величин их независимость? Оказывается - нет. Можно построить примеры таких случайных величин, которые являются некоррелированными, но зависимыми. Равенство нулю коэффициента корреляции - необходимое, но не достаточное условие независимости случайных величин. Из независимости случайных величин вытекает их некоррелированность; напротив, из некоррелированности величин еще не следует их независимость. Условие независимости случайных величин – более жесткое, чем условие некоррелированности.
Убедимся в этом на примере. Рассмотрим систему случайных величин , распределенную с равномерной плотностью внутри круга радиуса с центром в начале координат (рис.8.6.1).
Плотность распределения величин выражается формулой
Из условия 
находим .
Нетрудно убедиться, что в данном примере величины являются зависимыми. Действительно, непосредственно ясно, что если величина приняла, например, значение 0, то величина может с равной вероятностью принимать все значения от до ; если же величина приняла значение , то величина может принять только одно-единственное значение, в точности равное нулю; вообще, диапазон возможных значений зависит от того, какое значение приняла .
Посмотрим, являются ли эти величины коррелированными. Вычислим корреляционный момент. Имея в виду, что по соображениям симметрии , получим:
. (8.6.12)
Для вычисления интеграла разобьем область интегрирования (круг ) на четыре сектора , соответствующие четырем координатным углам. В секторах и подынтегральная функция положительна, в секторах и - отрицательна; по абсолютной же величине интегралы по этим секторам равны; следовательно, интеграл (8.6.12) равен нулю, и величины не коррелированы.
Таким образом, мы видим, что из некоррелированности случайных величин не всегда следует их независимость.
Коэффициент корреляции характеризует не всякую зависимость, а только так называемую линейную зависимость. Линейная вероятностная зависимость случайных величин заключается в том, что при возрастании одной случайной величины другая имеет тенденцию возрастать (или же убывать) по линейному закону. Эта тенденция к линейной зависимости может быть более или менее ярко выраженной, более или менее приближаться к функциональной, т. е. самой тесной линейной зависимости. Коэффициент корреляции характеризует степень тесноты линейной зависимости между случайными величинами. Если случайные величины и связаны точной линейной функциональной зависимостью:
то , причем знак «плюс» или «минус» берется в зависимости от того, положителен или отрицателен коэффициент . В общем случае, когда величины и связаны произвольной вероятностной зависимостью, коэффициент корреляции может иметь значение в пределах: меняется только диапазон изменения , а его среднее значение не меняется; естественно, величины оказываются некоррелированными.
Рис. 8.6.2 Рис.8.6.3
Приведем несколько примеров случайных величин с положительной и отрицательной корреляцией.
1. Вес и рост человека связаны положительной корреляцией.
2. Время, потраченное на регулировку прибора при подготовке его к работе, и время его безотказной работы связаны положительной корреляцией (если, разумеется, время потрачено разумно). Наоборот, время, потраченное на подготовку, и количество неисправностей, обнаруженное при работе прибора, связаны отрицательной корреляцией.
3. При стрельбе залпом координаты точек попадания отдельных снарядов связаны положительной корреляцией (так как имеются общие для всех выстрелов ошибки прицеливания, одинаково отклоняющие от цели каждый из них).
4. Производится два выстрела по цели; точка попадания первого выстрела регистрируется, и в прицел вводится поправка, пропорциональная ошибке первого выстрела с обратным знаком. Координаты точек попадания первого и второго выстрелов будут связаны отрицательной корреляцией.
Если в нашем распоряжении имеются результаты ряда опытов над системой случайных величин , то о наличии или отсутствии существенной корреляции между ними легко судить в первом приближении по графику, на котором изображены в виде точек все полученные из опыта пары значений случайных величин. Например, если наблюденные пары значений величин расположились так, как показано на рис. 8.6.2, то это указывает на наличие явно выраженной положительной корреляции между величинами. Еще более ярко выраженную положительную корреляцию, близкую к линейной функциональной зависимости, наблюдаем на рис. 8.6.3. На рис. 8.6.4 показан случай сравнительно слабой отрицательной корреляции. Наконец, на рис. 8.6.5 иллюстрируется случай практически некоррелированных случайных величин. На практике, перед тем, как исследовать корреляцию случайных величин, всегда полезно предварительно построить наблюденные пары значений на графике для первого качественного суждения о типе корреляции.
ГОСУДАРСТВЕННЫЙ КОМИТЕТ ПО НАУКЕ И ТЕХНИКЕ АЗЕРБАЙДЖАНСКОЙ РЕСПУБЛИКИ
БАКИНСКИЙ НАУЧНО-УЧЕБНЫЙ ЦЕНТР
АСПИРАНТА КАФЕДРЫ ДЕТСКОЙ ХИРУРГИИ
АМУ имени Н. НАРИМАНОВА
МУХТАРОВА ЭМИЛЯ ГАСАН оглы
КОРРЕЛЯЦИОННЫЕ МОМЕНТЫ. КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ
ВВЕДЕНИЕ
Теория вероятности есть математическая наука, изучающая закономерности в случайных явлениях.
Что же понимается под случайными явлениями?
При научном исследовании физических и технических задач, часто приходится встречаться с явлениями особого типа, которые принято называть случайными. Случайное явление - это такое явление, которое при неоднократном воспроизведении одного и того же опыта протекает несколько по-иному.
Приведем пример случайного явления.
Одно и то же тело несколько раз взвешивается на аналитических весах: результаты повторных взвешиваний несколько отличаются друг от друга. Эти различия обусловливаются влиянием различных второстепенных факторов, сопровождающих операцию взвешивания, таких как случайные вибрации аппаратуры, ошибки отсчета показаний прибора и т.д.
Очевидно, что в природе нет ни одного физического явления, в котором не присутствовали бы в той или иной мере элементы случайности. Как бы точно и подробно ни были фиксированы условия опыта, невозможно достигнуть того, чтобы при повторении опыта результаты полностью и в точности совпадали.
Случайности неизбежно сопутствуют любому закономерному явлению. Тем не менее, в ряде практических задач этими случайными элементами можно пренебречь, рассматривая вместо реального явления его упрощенную схему, т.е. модель , и предполагая, что в данных условиях опыта явление протекает вполне определенным образом. При этом из бесчисленного множества факторов, влияющих на данное явление, выделяют самые главные, основные, решающие. Влиянием остальных, второстепенных факторов просто пренебрегают. Изучая закономерности в рамках некоторой теории, основные факторы, влияющие на то или иное явление, входят в понятия или определения, которыми оперирует рассматриваемая теория.
Как и всякая наука, развивающая общую теорию какого-либо круга явлений, теория вероятностей также содержит ряд основных понятий, на которых она базируется. Естественно, что не все основные понятия могут быть строго определены, так как определить понятие - это значит свести его к другим, более известным. Этот процесс должен быть конечным и заканчиваться на первичных понятиях, которые только поясняются.
Одним из первых понятий в теории вероятности вводится понятие события.
Под событием понимается всякий факт, который в результате опыта может произойти или не произойти.
Приведем примеры событий.
А - рождение мальчика или девочки;
В - избрание того или иного дебюта в шахматной игре;
С - принадлежность к тому или иному зодиакальному знаку.
Рассматривая вышеперечисленные события, мы видим, что каждое из них обладает какой-то степенью возможности: одна большей, другие - меньшей. Для того чтобы количественно сравнивать между собой события по степени их возможности, очевидно, нужно с каждым событием связать определенное число, которое тем больше, чем более возможно событие. Такое число называют вероятностью события. Таким образом, вероятность события есть численная характеристика степени объективной возможности события.
За единицу вероятности принимают вероятность достоверного события, равную 1, а диапазон изменения вероятностей любых событий - числа от 0 до 1.
Вероятность обычно обозначают буквой Р.
Рассмотрим на примере извечной проблемы шекспировского Гамлета "быть или не быть?" как можно определить вероятность события.
Вполне очевидно, что человек, предмет и всякое иное явление может находиться в одном из двух и не более состояний: наличия ("быть") и отсутствия ("не быть"). Т.е., возможных событий две, а произойти может только одно. Это означает, что вероятность, например бытия, равна 1/2.
Помимо понятия события и вероятности, одним из основных понятий теории вероятностей является понятие случайной величины.
Случайной величиной называется величина, которая в результате опыта может принять то или иное значение, причем неизвестно заранее какое именно.
Случайные величины, принимающие только отдельные друг от друга значения, которые можно заранее перечислить, называются прерывными или дискретными случайными величинами.
Например:
1. Число выживших и умерших больных.
2. Общее количество детей из поступивших за ночь в больницу больных.
Случайные величины, возможные значения которых непрерывно заполняют некоторый промежуток, называют непрерывными случайными величинами.
Например, ошибка взвешивания на аналитических весах.
Отметим, что современная теория вероятности преимущественно оперирует случайными величинами, а не событиями, на которые в основном опиралась "классическая" теория вероятностей.
КОРРЕЛЯЦИОННЫЕ МОМЕНТЫ. КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ.
Корреляционные моменты, коэффициент корреляции - это числовые характеристики, тесно связанные во введенным выше понятием случайной величины, а точнее с системой случайных величин. Поэтому для введения и определения их значения и роли необходимо пояснить понятие системы случайных величин и некоторые свойства присущие им.
Два или более случайные величины, описывающих некоторое явление называют системой или комплексом случайных величин.
Систему нескольких случайных величин X, Y, Z, …, W принято обозначать через (X, Y, Z, …, W).
Например, точка на плоскости описывается не одной координатой, а двумя, а в пространстве - даже тремя.
Свойства системы нескольких случайных величин не исчерпываются свойствами отдельных случайных величин, входящих в систему, а включают также взаимные связи (зависимости) между случайными величинами. Поэтому при изучении системы случайных величин следует обращать внимание на характер и степень зависимости. Эта зависимость может быть более или менее ярко выраженной, более или менее тесной. А в других случаях случайные величины оказаться практически независимыми.
Случайная величина Y называется независимой от случайной величины Х, если закон распределения случайной величины Y не зависит от того какое значение приняла величина Х.
Следует отметить, что зависимость и независимость случайных величин есть всегда явление взаимное: если Y не зависит от Х, то и величина Х не зависит от Y. Учитывая это, можно привести следующее определение независимости случайных величин.
Случайные величины Х и Y называются независимыми, если закон распределения каждой из них не зависит от того, какое значение приняла другая. В противном случае величины Х и Y называются зависимыми.
Законом распределения случайной величины называется всякое соотношение, устанавливающее связь между возможными значениями случайной величины и соответствующими им вероятностями.
Понятие "зависимости" случайных величин, которым пользуются в теории вероятностей, несколько отличается от обычного понятия "зависимости" величин, которым пользуются в математике. Так, математик под "зависимостью" подразумевает только один тип зависимости - полную, жесткую, так называемую функциональную зависимость. Две величины Х и Y называются функционально зависимыми, если, зная значение одного из них, можно точно определить значение другой.
В теории вероятностей встречаются несколько с иным типом зависимости - вероятностной зависимостью . Если величина Y связана с величиной Х вероятностной зависимостью, то, зная значение Х, нельзя точно указать значение Y, а можно указать её закон распределения, зависящий от того, какое значение приняла величина Х.
Вероятностная зависимость может быть более или менее тесной; по мере увеличения тесноты вероятностной зависимости она все более приближается к функциональной. Т.о., функциональную зависимость можно рассматривать как крайний, предельный случай наиболее тесной вероятностной зависимости. Другой крайний случай - полная независимость случайных величин. Между этими двумя крайними случаями лежат все градации вероятностной зависимости - от самой сильной до самой слабой.
Вероятностная зависимость между случайными величинами часто встречается на практике. Если случайные величины Х и Y находятся в вероятностной зависимости, то это не означает, что с изменением величины Х величина Y изменяется вполне определенным образом; это лишь означает, что с изменением величины Х величина Y
имеет тенденцию также изменяться (возрастать или убывать при возрастании Х). Эта тенденция соблюдается лишь в общих чертах, а в каждом отдельном случае возможны отступления от неё.
Примеры вероятностной зависимости.
Выберем наугад одного больного с перитонитом. случайная величина Т - время от начала заболевания, случайная величина О - уровень гомеостатических нарушений. Между этими величинами имеется явная зависимость, так как величина Т является одной из наиболее главных причин, определяющих величину О.
В то же время между случайной величиной Т и случайной величиной М, отражающей летальность при данной патологии, имеется более слабая вероятностная зависимость, так как случайная величина хоть и влияет на случайную величину О, однако не является главной определяющей.
Тем более, если рассматривать величину Т и величину В (возраст хирурга), то данные величины практически независимы.
До сих пор мы обсуждали свойства систем случайных величин, давая только словесное разъяснение. Однако существуют числовые характеристики, посредством которых исследуются свойства как отдельных случайных величин, так и системы случайных величин.
Для описания системы двух случайных величин, кроме математических ожиданий и дисперсий составляющих пользуются и другими характеристиками, к числу которых относятся корреляционный момент икоэффициент корреляции (кратко было упомянуто в конце Т.8.п.8.6).
Корреляционным моментом (иликовариацией, или моментом связи ) двух случайных величинX иY называется м. о. произведения отклонений этих величин (см. равенство (5) п. 8.6):
Следствие 1. Длякорреляционного момента с.в. X иY также справедливы равенства:
,
где соответствующие централизованные с.в.X иY (см. п.8.6.).
При
этом: если
-
двумерная д.с.в., то ковариация вычисляется
по формуле
(8)
;
если
-
двумерная н.с.в., то ковариация вычисляется
по формуле
(9)
Формулы (8) и (9) получены на основании формул (6) п.12.1. Имеет место вычислительная формула
(10)
которая выводится из определения (9) и на основании свойств м.о., действительно,
Следовательно, формул (36) и (37) можно переписать в виде
(11)
;
Корреляционный момент служит для характеристики связи между величинами X иY .
Как будет показано ниже, корреляционный момент равен нулю, если X иY являются независимыми;
Следовательно, если корреляционный момент не равен нулю, то X и Y – зависимые случайные величины.
Теорема12.1.
Корреляционный момент
двух независимых случайных величин
X
и
Y
равен нулю,
т.е. для независимых с.в.
X
и
Y
,
Доказательство. Так какX иY независимые случайные величины, то их отклонения
и
т
акже независимы. Пользуясь свойствами
математического ожидания (математическое
ожидание произведения независимых с.
в. равно произведению математических
ожиданий сомножителей
,
,
поэтому
Замечание.
Из этой теоремы следует,
что если
то с.в.
X
иY
зависимы и в таких случаях с.в.
X
иY
называюткоррелированными
. Однако из того,
что
не следует независимость с.в.X
иY
.
В этом случае (
с.в.X
иY
называютнекоррелированными,
тем
самым из независимости вытекаетнекоррелированность
; обратное
утверждение, вообще говоря, неверно
(см. далее пример 2.)
Рассмотрим основные свойства корреляционного момента.
C войства ковариации:
1.
Ковариация симметрична, т.е.
.
Непосредственно следует из формулы (38).
2. Имеют место равенства:т.е. дисперсия с.в. является ковариацией её с самой собой.
Эти равенства прямо следуют из определения
дисперсии и равенство (38) соответственно
при
3. Справедливы равенства:
Эти
равенства выводятся из определения
дисперсии, ковариации с.в.
и
,
свойств 2.
По определению дисперсии (с учётом
централизованности с.в.
)
мы имеем
теперь, на основании (33) и свойств 2 и 3, получим первое (со знаком плюс) свойство 3.
Аналогично, вторая часть свойства3, выводится из равенство
4.
Пусть
постоянные
числа,
тогда справедливы равенства:
Обычно эти свойства называются свойствами однородностью первого порядка и периодичностью по аргументам.
Докажем
первое равенство, при этом будем
использовать свойства м.о.
.
Теорема 12.2. Абсолютное значение корреляционного момента двух произвольных случайных величин X и Y не превышает среднего геометрического их дисперсий: т.е.
Доказательство.
Заметим, чтодля
независимых с.в. неравенство выполняется
(с.м. теорему 12.1.). Итак, пусть с.в.X
и
Y
зависимые.
Рассмотрим стандартные с.в.
и
и вычислим дисперсию с.в.
с учётом свойства 3, имеем: с одной
стороны
С другой стороны
Следовательно,
с учётом того, что
и
-
нормированные (стандартизированные)
с.в., то для них м.о. равна нулю, а дисперсия
равна 1, поэтому, пользуясь свойством
м.о.
получим
а
следовательно, на основании того, что
получим
Отсюда следует, что т.е.
=
Утверждение доказано.
Из определения и свойства ковариации
следует, что она характеризует и степень
зависимости с.в., и их рассеяния вокруг
точки
Размерность ковариации равна произведению
размерностей случайных величинX
иY
. Другими словами,
величина корреляционного момента
зависит от единиц измерения случайных
величин. По этой причине для одних и тех
же двух величинX
иY
,
величина корреляционного момента
будет иметь различные значения в
зависимости от того, в каких единицах
были измерены величины.
Пусть, например, X
и Y
были измерены в
сантиметрах и
;
если измерить X
иY
в миллиметрах,
то
Эта особенность корреляционного момента
и есть недостатком этой числовой
характеристики, так как сравнение
корреляционных моментов различных
систем случайных величин становится
затруднительным.
Для того чтобы устранить этот недостаток, вводят новую числовую характеристику- - «коэффициент корреляции ».
Коэффициентом корреляции
случайных величин
и
называют отношение корреляционного
момента к произведению средних
квадратических отклонений этих величин:
(13)
.
Так как размерность
равна произведению размерностей величин
и
,
имеет размерность величины
σ y
имеет размерность величины
,
то
есть просто число (т.е. «безразмерная
величина»
). Таким образом, величина
коэффициента корреляции не зависит от
выбора единиц измерения с.в., в этом
состоитпреимущество
коэффициента
корреляции перед корреляционным
моментом.
В Т.8. п.8.3 нами было введено понятие
нормированной
с.в.
,
формула (18), и доказана теорема о том,
что
и
(см.
там же теорема 8.2.). Здесь докажем следующее
утверждение.
Теорема 12.3.
Длялюбых двух случайных
величин
и
справедливо
равенство
.Другими словами, коэффициент корреляции
любых двух с
.в
.X
и
Y
равно
корреляционному моменту их соответствующих
нормированных
с.в.
и
.
Доказательство.
По определениюнормированных случайных величин
и
и
.
Учитывая свойство математического ожидания: и равенство (40) получим
Утверждение доказано.
Рассмотрим некоторые часто встречающие свойства коэффициента корреляции.
Свойства коэффициента корреляции:
1. Коэффициент корреляции по абсолютной величине непревосходит 1, т.е.
Это свойство прямо следует из формулы (41) - определения коффициента корреляции и теоремы 13.5. (см. равенство (40)).
2. Если случайные величины
и
независимы,
токоэффициент корреляции
равен нулю, т.е.
.
Это свойство является прямым следствием равенства (40) и теоремы 13.4.
Следующее свойство сформулируем в виде отдельной теоремы.
Теорема 12.4.
Если
с.в.
и
между
собой связаны линейной функциональной
зависимостью, т.е.
то
при этом
и
наоборот, если
,
то
с.в.
и
между собой связаны линейной функциональной
зависимостью, т.е. существуют постоянные
и
такие, что имеет место равенство
Доказательство.
Пусть
тогда
на основании
свойства 4 ковариации, имеем
и поскольку, , поэтому
Следовательно,
.
Равенство в одну сторону получено. Пусть
далее,
,
тогда
следует рассматривать два
случая:1)
и
2)
Итак, рассмотрим первый случай. Тогда
по определению
и
следовательно из равенства
,
где
.
В нашем случае
,
поэтому из равенства (см. доказательство
теоремы 13.5.)
=
,
получаем, что
,
значит
постоянна.
Так как
и поскольку,
то
действительно,
.
Следовательно,
.
Аналогично,
показывается, что для
имеет место (проверьте самостоятельно!)
,
.
Некоторые выводы:
1. Если
и
независимыес.в., то
2. Если с.в.
и
между
собой связаны линейно, то
.
3. В остальных случаях
:
В этом случае говорят, что с.в.
и
связаны между собойположительной
корреляцией,
если
в случаях же
отрицательной
корреляцией
. Чем ближе
к единице, тем больше оснований считать,
чтос.в.
и
связаны линейной зависимостью.
Отметим, что корреляционные моменты и дисперсии системы с.в. обычно задаются корреляционной матрицей :
.
Очевидно, что определитель корреляционной матрицы удовлетворяет:
Как уже было отмечено, если две случайные величины зависимы, то они могут быть как коррелированными , так инекоррелированными. Другими словами, корреляционный момент двух зависимых величин может бытьне равен нулю , но может иравняться нулю.
Пример 1. Закон распределения дискретной с.в.задан таблицей
|
| |||
|
|
|
|
|
|
|
|
|
Найти
коэффициент корреляции
Решение.
Находим законы распределения
составляющих
и
:
Теперь вычислим м.о. составляющих:
Этих
величин можно было находить на основании
таблицы распределения с.в.
Аналогично,
находите
самостоятельно.
Вычислим дисперсии составляющих при это будем пользоваться вычислительной формулой:
Составим
закон распределения
,
а затем найдём
:
При составлении таблицы закона распределения следует выполнять действия:
1) оставить лишь различные значения
всевозможных произведений
.
2) для определения вероятности данного
значения
,
нужно
складывать все соответствующие вероятности, находящиеся на пересечении основной таблицы, благоприятствующие наступлению данного значения.
В нашем примере с.в.
принимает
всего три различных значения
.
Здесь первое значение (
)
соответствует произведению
из второй строки и
из первого столбца, поэтому на их
пересечении находится вероятностное
число
аналогично
которое получено из суммы вероятностей,
находящихся на пересечениях соответственно
первой строки и первого столбца (0,15 ;
0,40; 0,05) и одно значение
,
которое находится на пересечении второй
строки и второго столбца, и наконец,
,
которое находится на пересечении второй
строки и третьего столбца.
Из нашей таблицы находим:
Находим корреляционный момент, используя формулу (38):
Находим коэффициент корреляции по формуле (41)
Таким образом, отрицательная корреляция.
Упражнение. Закон распределения дискретной с.в. задан таблицей
|
| |||
|
|
|
|
|
|
|
|
|
Найти коэффициент корреляции
Рассмотрим пример, где окажется две зависимые случайные величины могут бытьнекоррелированными.
Пример 2.
Двумерная случайная величина
)
задана функцией плотностью
Докажем, что
и
зависимые
,
нонекоррелированные
случайные величины.
Решение.
Воспользуемся ранее
вычисленными плотностями распределения
составляющих
и
:
Так
как
,то 
и
зависимые
величины. Для того, чтобы доказать
некоррелированность
и
,
достаточно убедиться в том, что
Найдем корреляционный момент по формуле:
Поскольку дифференциальная
функция
симметрична относительно
оси OY
,
то
аналогично
,
в силу симметрии
относительно оси OX
.
Поэтому, вынося постоянный множитель
Внутренний интеграл равен
нулю (подынтегральная функция нечетна,
пределы интегрирования симметричны
относительно начала координат),
следовательно,
,
т.е. зависимые случайные величины
и
между собой некоррелируют.
Итак, из коррелированности двух случайных величин следует их зависимость, но из некоррелированности ещё нельзя заключить о независимости этих величин.
Однако, для нормально распределённых с.в. такой вывод является исключением, т.е. из некоррелированности нормально распределенных с.в. вытекает их независимость .
Этому вопросу посвящается следующий пункт.
Ковариация и коэффициент корреляции.
Между случайными величинами может существовать функциональная или стохастическая (вероятностная) зависимость. Стохастическая зависимость проявляется в том, что условный закон распределения одной случайной величины изменяется в зависимости от значений, принимаемых другой случайной величиной. Одной из характеристик стохастической зависимости двух случайных величин является ковариация случайных величин.
Ковариацией случайных величин (X ,Y ) называется число равное математическому ожиданию произведения отклонений случайных величин X и Y от своих математических ожиданий:
Иногда ковариацию называют корреляционным моментом или вторым смешанным центральным моментом случайных величин (X ,Y ).
Используя определение математического ожидания, получим:
для дискретного распределения
для непрерывного распределения
При Y = X ковариация совпадает с дисперсией Х .
Величина корреляционного момента зависит от единиц измерения случайных величин. Это затрудняет сравнение корреляционных моментов различных систем случайных величин. Для устранения этого недостатка вводится новая числовая характеристика – коэффициент корреляции , который является
безразмерной величиной.
Для его вычисления заменим отклонения случайных величин от математических ожиданий их нормированными отклонениями, т.е.
Свойства коэффициента корреляции :
Пусть t – переменная величина в смысле математического анализа. Рассмотрим дисперсию случайной величины D (Y – tX ) как функцию переменной t .
По свойству дисперсии . Дискриминант в этом случае должен быть меньше либо равен нулю, т.е.
Откуда получим
2. Модуль коэффициента корреляции не меняется при линейных преобразованиях случайных переменных: , где , , – произвольные числа.
3. , тогда и только тогда, когда случайные величины X
и Y
связаны линейно, т.е. существуют такие числа a, b,
что 
.
Если , то рассматриваемый в п.1 дискриминант равен нулю, а поэтому при некотором значение 
. Следовательно, величина 
и для некоторого С
справедливо равенство , что требовалось доказать.
4. Если X и Y статистически независимы, то .
Свойства 2,4 проверяются непосредственно.
4.5.2. Коррелированность и зависимость системы случайных величин .
Необходимым условием независимости случайных величин X и Y является равенство нулю их корреляционного момента (или коэффициента корреляции). Однако равенство (или ) есть только необходимое, но недостаточное условие независимости.
Пример 1.
 |
На рисунке изображены точки, лежащие на параболе 
, а .
В связи с этим вводится более узкое понятие некоррелированности (если ) или коррелированности (если ) случайных величин. Поэтому независимость случайных величин означает и некоррелированность () и, наоборот, коррелированность () – зависимость .
В общем случае, когда , точки (X,Y) будут разбросаны вокруг прямой тем более тесно, чем больше величина . Таким образом, коэффициент корреляции характеризует не любую зависимость между X и Y , а степень тесноты линейной зависимости между ними.
Так, в частности, даже при , т.е. при полном отсутствии линейной зависимости, между X и Y может существовать сколь угодно сильная статистическая и даже нелинейная функциональная зависимость (см. пример1).
При значениях говорят о положительной корреляции между X и Y , означающей, что обе переменные имеют одинаковую тенденцию к возрастанию или убыванию. При говорят об отрицательной корреляции, означающей противоположную тенденцию в изменении случайных величин X и Y , т.е. одна возрастает, а другая убывает или наоборот.
Если случайные величины X и Y распределены нормально, то из их некоррелированности следует и их независимость, так как
Если , то .
Для вычисления коэффициента корреляции продолжим пример 2 из §4.1. Воспользуемся формулой
.
M (X ×Y )=(-200)×(-100)×0,2 + (-200)×0×0,1 + (-200)×(100)×0,05 + 0×(-100)×0,05 + 0×0×0,25 + 0×100×0,02 + 200×(-100)×0,01 + 200×0×0,02 + 200×100×0,3 = 8800$;
; 
;
.
Пример 2. Закон распределения системы двух случайных величин задан таблицей распределения
| X Y | ||||
| -1 | 0,01 | 0,06 | 0,05 | 0,04 |
| 0,04 | 0,24 | 0,15 | 0,07 | |
| 0,05 | 0,01 | 0,01 | 0,09 |
Найти одномерные (маргинальные) законы распределения X и Y , их математические ожидания, дисперсии и коэффициент корреляции между X и Y .
Решение. Вероятности возможных значений дискретной случайной величины Х , входящей в систему, определяются формулой
, к
=1, 2, 3, 4.
Поэтому одномерное распределение величины Х имеет следующий вид
Математические ожидания случайных величин X и Y :
M (X )=1,6; M (Y )=0,18.
Дисперсии случайных величин X и Y :
D (X )=0,84; D (Y )=0,47.
Коэффициент корреляции между X и Y вычисляется по формуле
; ;
; 
;
Вопросы для самопроверки.
1. Дайте определение многомерной случайной величины и функции распределения вероятностей.
2. Что называется совместным распределением двумерной дискретной случайной величины (X ,Y )? Как оно записывается?
3. Как по известному совместному распределению двумерной случайной величины (X ,Y ) найти маргинальные распределения составляющих X и Y ?
4. Что называется условным распределением составляющей X двумерной дискретной величины (X ,Y )?
5. Что называется ковариацией?
6. Что называется коэффициентом корреляции?
7. Укажите свойства коэффициента корреляции.
8. Чему равен коэффициент корреляции случайных величин X и Y = 1 – 2X ?
9. В какую величину превращается ковариация двух случайных величин X и Y , если X = Y ?
10. Равносильны ли понятия независимости и некоррелированности?
Задачи
4.1. На двух различных рынках города продаются три типа автомобилей (А,В,С). Ниже приведены данные о числе проданных автомобилей за год:
Найти следующие вероятности: Р (а, А ), P (a, B ), P (a, C ), P (b, A ), P (b, B ), P (b,С ), P (A ), P (a/A ), P (A/a ). Составить таблицу совместных вероятностей.
4.2. Отдыхающие на некотором курорте являются, как правило, бизнесменами (B )или людьми свободных профессий (P )(адвокатами, художниками, врачами и т.д.). Владелец курорта хочет установить, не выгоднее ли ему будет выпускать рекламу двух видов, а не одного. Для этого он поручил своему рекламному отделу подготовить рекламу двух типов – одну для бизнесменов (тип I), другую – для людей свободных профессий (тип II). Реклама была подготовлена, материалы разосланы возможным клиентам, и было получено 800 заявок. Они распределились следующим образом.
а). Найдите вероятности P (B,I ); P (B,II ); P (I/B ).
Как часто Вам приходилось слышать высказывания, в которых говорилось о том, что одно явление коррелируется с другим?
«Высокий рост коррелируется с хорошим образованием и счастьем, установили эксперты социологической службы Gallup.»
«Цена на нефть коррелируется с курсами валют.»
«Боль в мышцах после тренировки не коррелируется с гипертрофией мышечных волокон.»
Складывается впечатление, что понятие «корреляция» стало широко использоваться не только в науке, но и в повседневной жизни. Корреляция отражает степень линейной зависимости между двумя случайными явлениями. Так, когда цены на нефть начинают падать, то курс доллара относительно рубля начинает расти.
Из всего выше сказанного, можно сделать вывод о том, что при описании двумерных случайных величин бывает недостаточно таких хорошо известных характеристик, как математическое ожидание, дисперсия, среднее квадратическое отклонение. Поэтому часто для их описания используются еще две очень важные характеристики: ковариация и корреляция .
Ковариация
Ковариацией $cov\left(X,\ Y\right)$ случайных величин $X$ и $Y$ называется математическое ожидание произведения случайных величин $X-M\left(X\right)$ и $Y-M\left(Y\right)$, то есть:
$$cov\left(X,\ Y\right)=M\left(\left(X-M\left(X\right)\right)\left(Y-M\left(Y\right)\right)\right).$$
Бывает удобно вычислять ковариацию случайных величин $X$ и $Y$ по следующей формуле:
$$cov\left(X,\ Y\right)=M\left(XY\right)-M\left(X\right)M\left(Y\right),$$
которая может быть получена из первой формулы, используя свойства математического ожидания. Перечислим основные свойства ковариации .
1 . Ковариация случайной величины с самой собой есть ее дисперсия.
$$cov\left(X,\ X\right)=D\left(X\right).$$
2 . Ковариация симметрична.
$$cov\left(X,\ Y\right)=cov\left(Y,\ X\right).$$
3 . Если случайные величины $X$ и $Y$ независимы, то:
$$cov\left(X,\ Y\right)=0.$$
4 . Постоянный множитель можно выносить за знак ковариации.
$$cov\left(cX,\ Y\right)=cov\left(X,\ cY\right)=c\cdot cov\left(X,\ Y\right).$$
5 . Ковариация не изменится, если к одной из случайных величин (или двум сразу) прибавить постоянную величину:
$$cov\left(X+c,\ Y\right)=cov\left(X,\ Y+c\right)=cov\left(X+x,\ Y+c\right)=cov\left(X,\ Y\right).$$
6 . $cov\left(aX+b,\ cY+d\right)=ac\cdot cov\left(X,\ Y\right)$.
7 . $\left|cov\left(X,\ Y\right)\right|\le \sqrt{D\left(X\right)D\left(Y\right)}$.
8 . $\left|cov\left(X,\ Y\right)\right|=\sqrt{D\left(X\right)D\left(Y\right)}\Leftrightarrow Y=aX+b$.
9 . Дисперсия суммы (разности) случайных величин равна сумме их дисперсий плюс (минус) удвоенная ковариация этих случайных величин:
$$D\left(X\pm Y\right)=D\left(X\right)+D\left(Y\right)\pm 2cov\left(X,\ Y\right).$$
Пример 1 . Дана корреляционная таблица случайного вектора $\left(X,\ Y\right)$. Вычислить ковариацию $cov\left(X,\ Y\right)$.
$\begin{array}{|c|c|}
\hline
\hline
-2 & 0,1 & 0 & 0,2 \\
\hline
0 & 0,05 & p_{22} & 0 \\
\hline
1 & 0 & 0,2 & 0,05 \\
\hline
7 & 0,1 & 0 & 0,1 \\
\hline
\end{array}$
События $\left(X=x_i,\ Y=y_j\right)$ образуют полную группу событий, поэтому сумма всех вероятностей $p_{ij}$, указанных в таблице, должна быть равна 1. Тогда $0,1+0+0,2+0,05+p_{22}+0+0+0,2+0,05+0,1+0+0,1=1$, отсюда $p_{22}=0,2$.
$\begin{array}{|c|c|}
\hline
X\backslash Y & -6 & 0 & 3 \\
\hline
-2 & 0,1 & 0 & 0,2 \\
\hline
0 & 0,05 & 0,2 & 0 \\
\hline
1 & 0 & 0,2 & 0,05 \\
\hline
7 & 0,1 & 0 & 0,1 \\
\hline
\end{array}$
Пользуясь формулой $p_{i} =\sum _{j}p_{ij} $, находим ряд распределения случайной величины $X$.
$\begin{array}{|c|c|}
\hline
X & -2 & 0 & 1 & 7 \\
\hline
p_i & 0,3 & 0,25 & 0,25 & 0,2 \\
\hline
\end{array}$
$$M\left(X\right)=\sum^n_{i=1}{x_ip_i}=-2\cdot 0,3+0\cdot 0,25+1\cdot 0,25+7\cdot 0,2=1,05.$$
$$D\left(X\right)=\sum^n_{i=1}{p_i{\left(x_i-M\left(X\right)\right)}^2}=0,3\cdot {\left(-2-1,05\right)}^2+0,25\cdot {\left(0-1,05\right)}^2+0,25\cdot {\left(1-1,05\right)}^2+$$
$$+\ 0,2\cdot {\left(7-1,05\right)}^2=10,1475.$$
$$\sigma \left(X\right)=\sqrt{D\left(X\right)}=\sqrt{10,1475}\approx 3,186.$$
Пользуясь формулой $q_{j} =\sum _{i}p_{ij} $, находим ряд распределения случайной величины $Y$.
$\begin{array}{|c|c|}
\hline
Y & -6 & 0 & 3 \\
\hline
p_i & 0,25 & 0,4 & 0,35 \\
\hline
\end{array}$
$$M\left(Y\right)=\sum^n_{i=1}{y_ip_i}=-6\cdot 0,25+0\cdot 0,4+3\cdot 0,35=-0,45.$$
$$D\left(Y\right)=\sum^n_{i=1}{p_i{\left(y_i-M\left(Y\right)\right)}^2}=0,25\cdot {\left(-6+0,45\right)}^2+0,4\cdot {\left(0+0,45\right)}^2+0,35\cdot {\left(3+0,45\right)}^2=11,9475.$$
$$\sigma \left(Y\right)=\sqrt{D\left(Y\right)}=\sqrt{11,9475}\approx 3,457.$$
Поскольку $P\left(X=-2,\ Y=-6\right)=0,1\ne 0,3\cdot 0,25$, то случайные величины $X,\ Y$ являются зависимыми.
Определим ковариацию $cov\ \left(X,\ Y\right)$ случайных величин $X,\ Y$ по формуле $cov\left(X,\ Y\right)=M\left(XY\right)-M\left(X\right)M\left(Y\right)$. Математическое ожидание произведения случайных величин $X,\ Y$ равно:
$$M\left(XY\right)=\sum_{i,\ j}{p_{ij}x_iy_j}=0,1\cdot \left(-2\right)\cdot \left(-6\right)+0,2\cdot \left(-2\right)\cdot 3+0,05\cdot 1\cdot 3+0,1\cdot 7\cdot \left(-6\right)+0,1\cdot 7\cdot 3=-1,95.$$
Тогда $cov\left(X,\ Y\right)=M\left(XY\right)-M\left(X\right)M\left(Y\right)=-1,95-1,05\cdot \left(-0,45\right)=-1,4775.$ Если случайные величины независимы, то их ковариации равна нулю. В нашем случае $cov(X,Y)\ne 0$.
Корреляция
Коэффициентом корреляции случайных величин $X$ и $Y$ называется число:
$$\rho \left(X,\ Y\right)={{cov\left(X,\ Y\right)}\over {\sqrt{D\left(X\right)D\left(Y\right)}}}.$$
Перечислим основные свойства коэффициента корреляции .
1 . $\rho \left(X,\ X\right)=1$.
2 . $\rho \left(X,\ Y\right)=\rho \left(Y,\ X\right)$.
3 . $\rho \left(X,\ Y\right)=0$ для независимых случайных величин $X$ и $Y$.
4 . $\rho \left(aX+b,\ cY+d\right)={sgn \left(ac\right)\rho \left(X,\ Y\right)\ }$, где ${sgn \left(ac\right)\ }$ - знак произведения $ac$.
5 . $\left|\rho \left(X,\ Y\right)\right|\le 1$.
6 . $\left|\rho \left(X,\ Y\right)\right|=1\Leftrightarrow Y=aX+b$.
Ранее было сказано, что коэффициент корреляции $\rho \left(X,\ Y\right)$ отражает степень линейной зависимости между двумя случайными величинами $X$ и $Y$.
При $\rho \left(X,\ Y\right)>0$ можно сделать вывод о том, что с ростом случайной величины $X$ случайная величина $Y$ имеет тенденцию к увеличению. Это называется положительной корреляционной зависимостью. Например, рост и вес человека связаны положительной корреляционной зависимостью.
При $\rho \left(X,\ Y\right)<0$ можно сделать вывод о том, что с ростом случайной величины $X$ случайная величина $Y$ имеет тенденцию к уменьшению. Это называется отрицательной корреляционной зависимостью. Например, температура и время сохранности продуктов питания связаны между собой отрицательной корреляционной зависимостью.
При $\rho \left(X,\ Y\right)=0$ случайные величины $X$ и $Y$ называются некоррелированными. Стоит отметить, что некоррелированность случайных величин $X$ и $Y$ не означает их статистическую независимость, это говорит лишь о том, что между ними нет линейной зависимости.
Пример 2 . Определим коэффициент корреляции $\rho \left(X,\ Y\right)$ для двумерной случайной величины $\left(X,\ Y\right)$ из примера 1.
Коэффициент корреляции случайных величин $X,\ Y$ равен $r_{XY} ={cov(X,Y)\over \sigma (X)\sigma (Y)} ={-1,4775\over 3,186\cdot 3,457} =-0,134.$ Поскольку $r_{XY}<0$, то с ростом $X$ случайная величина $Y$ имеет тенденцию к уменьшению (отрицательная корреляционная зависимость).