Условная вероятность

Условная вероятность -- вероятность одного события при условии, что другое событие уже произошло.

Пусть -- фиксированное вероятностное пространство. Пусть два случайных события, причём. Тогда условной вероятностью события при условии события называется

Замечания:

· Прямо из определения очевидно следует, что вероятность произведения двух событий равна:

· Если, то изложенное определение условной вероятности неприменимо.

· Условная вероятность является вероятностью, то есть функция, заданная формулой

удовлетворяет всем аксиомам вероятностной меры.

Случайные величины

Случайная величина -- это величина, которая принимает в результате опыта одно из множества значений, причём появление того или иного значения этой величины до её измерения нельзя точно предсказать.

Формальное математическое определение следующее: пусть -- вероятностное пространство, тогда случайной величиной называется функция, измеримая относительно и борелевской?-алгебры на. Вероятностное поведение отдельной (независимо от других) случайной величины полностью описывается её распределением.

Классификация:

Случайные величины могут принимать дискретные, непрерывные и дискретно-непрерывные значения. Соответственно случайные величины классифицируют на дискретные, непрерывные и дискретно-непрерывные (смешанные). комбинаторика вероятность дисперсия математический

На схеме испытаний может быть определена как отдельная случайная величина (одномерная/скалярная), так и целая система одномерных взаимосвязанных случайных величин (многомерная/векторная).

· Пример смешанной случайной величины -- время ожидания при переходе через автомобильную дорогу в городе на нерегулируемом перекрёстке.

· В бесконечных схемах (дискретных или непрерывных) уже изначально элементарные исходы удобно описывать количественно. Например, номера градаций типов несчастных случаев при анализе ДТП; время безотказной работы прибора при контроле качества и т. п.

· Числовые значения, описывающие результаты опытов, могут характеризовать не обязательно отдельные элементарные исходы в схеме испытаний, но и соответствовать каким-то более сложным событиям.

· Например, координаты (абсцисса, ордината) какого-то разрыва снаряда при стрельбе по наземной цели; метрические размеры (длина, ширина и т. д.) детали при контроле качества; результаты медобследования (температура, давление, пульс и пр.) при диагностике больного; данные переписи населения (по возрасту, полу, достатку и пр.).

Математические ожидания и дисперсия

Математическое ожидание -- среднее значение случайной величины, распределение вероятностей случайной величины рассматривается в теории вероятностей. В англоязычной литературе обозначается через (например, от англ. Expected value или нем. Erwartungswert ), в русской -- (возможно, от англ. Mean value или нем. Mittelwert , а возможно от «Математическое ожидание»). В статистике часто используют обозначение

Пусть задано вероятностное пространство и определённая на нём случайная величина. То есть, по определению, -- измеримая функция. Если существует интеграл Лебега от по пространству, то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается или.

Основные формулы:

· Если -- функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега -- Стилтьеса:

· Математическое ожидание дискретного распределения

Если -- дискретная случайная величина, имеющая распределение

то прямо из определения интеграла Лебега следует, что

· Математическое ожидание абсолютно непрерывного распределения

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью, равно

· Математическое ожидание преобразования случайной величины

Пусть -- борелевская функция, такая что случайная величина имеет конечное математическое ожидание. Тогда для него справедлива формула:

если имеет дискретное распределение;

если имеет абсолютно непрерывное распределение.

Если распределение случайной величины общего вида, то

Свойства:

· Математическое ожидание числа есть само число.

Константа;

· Математическое ожидание линейно, то есть

где -- случайные величины с конечным математическим ожиданием, а -- произвольные константы;

· Математическое ожидание сохраняет неравенства, то есть если почти наверное, и -- случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины также конечно, и более того

· Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если почти наверное, то

· Математическое ожидание произведения двух независимых случайных величин равно произведению их математических ожиданий

Дисперсия случайной величиным -- мера разброса данной случайной величины, то есть её отклонения от математического ожидания. Обозначается в русской литературе и (англ. variance ) в зарубежной. В статистике часто употребляется обозначение или. Квадратный корень из дисперсии, равный, называется среднеквадратичным отклонением, стандартным отклонением или стандартным разбросом. Стандартное отклонение измеряется в тех же единицах, что и сама случайная величина, а дисперсия измеряется в квадратах этой единицы измерения.

Пусть -- случайная величина, определённая на некотором вероятностном пространстве. Тогда

где символ обозначает математическое ожидание.

Распределение одной сл\в, входящей в систему, найденное при условии, что другая сл\в приняла определенное значение, называется условным законом распределения .

Усл закон распр можно задавать как функцией распределения так и плотностью распределения.

Усл плотность распределения вычисляется по формулам:

; . Усл плотность распр обладает всеми св-ми плотности распределения одной сл\в.

Условным м\о искретной сл\в Y при X = x (х – определенное возможное значение Х) называется произведение всех возможных значений Y на их условные вероятности.

Для непрерывных сл\в: , где f(y/x) – усл плотность сл\в Y при X=x.

Усл м\о M(Y/x)=f(x) является функцией от х и называется функцией регрессии Х на Y.

Пример . Найти условное математическое ожидание составляющей Y при X= x1=1 для дискретной двумерной сл\в, заданной таблицей:

Y	X
x1=1	x2=3	x3=4	x4=8
y1=3	0,15	0,06	0,25	0,04
y2=6	0,30	0,10	0,03	0,07

Аналогично определяются усл дисперсия и условные моменты системы сл\в.

28. Неравенство Маркова (лемма Чебышева) с док-вом для дискретной сл\величины. Пример.

Теорема. Если сл\в Х принимет только неотриц знач и имеет мат\о, то для любого положительного числа А верно неравенство: . Доказательство для дискретной сл\в Х: Расположим значения дискр сл\в Х в порядке возрастания, из кот часть значений будет не больше числаА, а др часть будут больше А, т.е

Запишем выражение для м\о M(X): , где

- в-ти т\ч сл\в Х примет значения . Отбрасывая первые k неотрицательных слагаемых получим: . Заменяя в этом неравенстве значения меньшим числом, получим неравенство: или . Сумма в-тей в левой части представляет сумму в-ей событий , т.е в-ть соб Х>А. Поэтому . Т.к события и противоположные, то заменяя выражением , придём к др форме неравенства Маркова: . Неравенство Маркова применимо к любым неотрицательным сл\в.

29. Неравенство Чебышева для средней арифметической сл\в. Теорема Чебышева с док-м и её значение и пример.

Теорема Чебышева(ср.арифм). Если дисперсии n независимых сл\в ограничены 1 и той же постоянной, то при неограниченном увеличении числа n ср арифметическая сл\величин сходится по в-ти к средней арифм их м\ожиданий , т.е или *(над стрелкой Ро- R)

Докажем ф-лу и выясним смысл формулировки «сходимость по в-ти». По условию , , где С - постоянное число. Получим неравенство Чебышева в форме () для ср арифм сл\в, те для . Найдём м\о M(X) и оценку дисперсии D(X) : ;

(здесь использованы свойства м\о и дисперсии и т\ч сл\в независимы, а след-но, дисперсия их суммы = сумме дисперсий)

Запишем неравенство для сл\в :

30. Теорема Чебышева с выводом и его частные случаи для сл\в, распределённой по биномиальному закону, и для частности события.

Неравенство Чебышева. Теорема . Для люб сл\в имеющей м\о и дисперсию, справедливо неравенство Чебышева: , где .

Применим неравенство Маркова в форме к сл\в , взяв в кач + числа . Получим: . Т.к неравенство равносильно неравенству , а есть дисперсия сл\в Х, то из неравенства получаем доказываемое . Учитывая, что события и противоположны, неравенство Чебышева можно записать и в форме: . Неравенство Чебышева применимо для любых сл\в. В форме оно устанавливает верхнюю границу, а в форме - нижнюю границу в-ти рассм-го события.

Запишем неравенство Чебышева в форме для некоторых сл\в:

А) для сл\в Х=m , имеющей биноминальный закон распр с м\о a=M(X)=np и дисперсией D(X)=npq.

;

Б) для частности m\n события в n независимых испытаниях, в каждом из кот оно может произойти с 1 и той же в-тью ; и имеющей дисперсию : .

31. Закон больших чисел. Теорема Бернулли с док-м и её значение. Пример.

К законам больших чисел относятся т Чебышева (наиболее общий случай) и т Бернулли (простейший случай)

Теорема Бернулли Пусть производится n независимых испытаний, в каждом из которых в-ть появления события А равно р. Возможно определить примерно относительную частоту появления события А.

Теорема . Если в каждом из n независимых испытаний в-ть р появления события А постоянно, то сколь угодно близка к 1 в-ть т\ч отклонение относительной частоты от в-ти р по абсолютной величине будет сколь угодно малым, если число испытаний р достаточно велико.

m – число появлений события А . Из всего сказанного выше не следует, что с увеличением число испытаний относительная частота неуклонно стремится к в-ти р , т.е. . В теореме имеется в виду только в-ть приближения относительной частоты к в-ти появления события А в каждом испытании.

В случае, если вероятности появления события А в каждом опыте различны, то справедлива следующая теорема, известная как теорема Пуассона. Теорема . Если производится п независимых опытов и вероятность появления события А в каждом опыте равна рi, то при увеличении п частота события А сходится по вероятности к среднему арифметическому вероятностей рi.

32. Вариационный ряд, его разновидности. Средняя арифметическая и дисперсия ряда. Упрощённый способ их расчёта.

Генеральная и выборочные совокупности. Принцип образования выборки. Собственно-случайная выборка с повторным и бесповторным отбором членов. Репрезентативная выборка. Основная задача выборочного ряда.

34. Понятие об оценке параметров генеральной совокупности. Свойства оценок: несмещенность, состоятельность, эффективность.

35. Оценка генеральной доли по собственно – случайной выборке. Несмещённость и состоятельность выборочной доли.

36. Оценка генеральной средней по собственно – случайной выборке. Несмещённость и состоятельность выборочной средней.

37. Оценка генеральной дисперсии по собственно – случайной выборке. Смещённость выборочной дисперсии (без вывода).

Или условные плотности вероятности.  

Кроме того, предполагается, что у(хп + сп) и у(хп - сп) условно независимы, а их условные дисперсии ограничены постоянной о2. В схеме (2.30) Xi - произвольная начальная оценка с ограниченной дисперсией, а последовательности а и сп определяются соотношениями  

Однако мы заинтересованы в условной средней т, и в условной дисперсии, которую обозначают А,. Условная средняя - это математическое ожидание случайной переменной, когда ожидания обусловлены информацией о других случайных переменных . Эта средняя обычно является функцией этих других переменных. Аналогично условная дисперсия - это дисперсия случайной переменной , обусловленная информацией о других случайных переменных.  

Условная дисперсия определяется следующим образом  

Как мы уже видели разность между Y, и средней величиной равна е,. Отсюда можно вывести условную дисперсию А, как функцию прошлых остатков уравнения условной средней , возведенных в квадрат. Таким образом, например, мы можем найти значение А, из уравнения  

Таким образом, на оснований временных рядов квадратных остатков уравнения условной средней можно написать следующее уравнение условной дисперсии  

Уравнение условной дисперсии и значения /-критерия выглядят следующим образом  

Этот результат показывает, чцо условная дисперсия в момент времени / значимо определяется при помощи одного временного лага квадратов остатков уравнения условной средней и величиной самой условной дисперсии с лагом, равным 1.  

Однако предполагая, что применяется точная модель, для нахождения годовой волатильности нужно определить квадратный корень из условной дисперсии и умножить на квадратный корень из числа наблюдений в год. Эта мера волатильности будет изменяться во времени, т.е. текущая волатильность является функцией от прошлой волатильности.  

Во втором уравнении Б2, величина которого неизвестна, когда выполняется прогноз, заменяется на условную оценку А2. Таким образом, второе уравнение позволяет предсказывать Л2 в момент времени t+ 1 (/ = 1), затем Л2 в момент времени t + 1(j - 2) и т.д. Результат каждого расчета является предсказанием условной дисперсии на отдельный период, на у периодов вперед.  

Условная дисперсия в данном случае будет симметричной матрицей 2x2  

Остатки из этих уравнений могут войти в уравнения условной дисперсии, как это описано ранее.  

Как определить условную дисперсию при  

Более того, Б = h, z, где А2 - это условная дисперсия и z N(0, 1). Таким образом, е, N(0, Л2), где  

В уравнении (4.1) потребность является линейной функцией как цены, так и условного ожидания и условной дисперсии дивиденда на конец периода при заданной информированности. В результате, если трейдеры- спекулянты имеют одинаковые предпочтения, но различную информированность, то торговля будет обусловлена только различиями в информированности.  

Фрактальные процессы, с другой стороны, являются глобальными структурами они имеют дело со всеми инвестиционными горизонтами одновременно. Они измеряют безусловную дисперсию (а не условную, как делает AR H). В Главе 1 мы исследовали процессы, которые имеют локальную случайность и глобальную структуру. Возможно, что GAR H, с его конечной условной дисперсией, является местным эффектом фрактальных распределений, которые имеют бесконечную,  

Имея в виду эти результаты, я хотел бы предложить следующее для рынков акций и облигаций. В краткосрочной перспективе на рынках доминируют процессы торговли, которые являются дробными шумовыми процессами. В местном масштабе они являются членами семейства AR H-процессов и характеризуются условными дисперсиями то есть каждый инвестиционный горизонт характеризуется своим собственным измеримым процессом AR H с конечной, условной дисперсией. Эта конечная условная дисперсия может использоваться для оценки риска только для этого инвестиционного горизонта . В глобальном масштабе данный процесс является устойчивым (фрактальным) распределением Леви с бесконечной дисперсией. По мере увеличения инвестиционного горизонта он приближается к поведению бесконечной дисперсии.  

Это и является уравнением GAR H. Оно показывает, что текущее значение условной дисперсии является функцией от константы - некоторого значения квадратов остатков из уравнения условной средней плюс некоторое значение предыдущей условной дисперсии. Например, если условная дисперсия наилучшим образом описывается уравнением GAR H (1, 1), то объясняется это тем, что ряд является AR(1), т.е. значения е рассчитаны с лагом в один период и условная дисперсия тоже рассчитана с таким же лагом.  

В модели GAR H (p, q) условная дисперсия зависит от размера остатков, а не от их знака. Хотя существует свидетельство, например у Блэка (1976), что волатильность и доходность активов обладают отрицательной корреляцией . Таким образом при росте цен на ценные бумаги при положительной доходности волатильность падает, и наоборот, когда цена активов падает, приводя к снижению доходности, то волатильность растет. В самом деле, периоды высокой волатильности связаны со спадами на фондовых рынках , а периоды низкой волатильности ассоциируются с подъемом на рынках.  

Заметьте, что Е включаются в уравнение как в виде фактических необработанных данных, так и по модулю, т.е. в форме I е. Таким образом, E-GAR H моделирует условную дисперсию как асимметричную функцию значений е. Это позволяет положительным и отрицательным предыдущим значениям иметь различное влияние на волатильность. Представление в логарифмическом виде позволяет включать отрицательные значения остатков, не получая при этом отрицательную условную дисперсию.  

Эта же модель была применена Френчем и др. (Fren h et al, 1987) к премии за риск американских акций за период 1928-1984 гг. Они использовали модель условной дисперсии GAR H (1,2).  

Итак, мы имеем т + 1 + р + q + 1 параметр для оценки (т + 1) значений альфа из уравнения условного математического ожидания , (р + 1) - бэта и q- гамма из уравнения условной дисперсии.  

В нашем примере явно нарушено условие постоянства дисперсии остатков (см. табл. В.1), т. е. условная дисперсия D (в = х) = D (т] - В0 - 0 - g = х) = а2 (х) существенно зависит от значения х. Можно устранить это нарушение, поделив все анализируемые величины, откладываемые по оси т], а ".ледовательно, и остатки в (х),. на значения s (х) (являющиеся статистическими оценками для  

Вернемся теперь к соотношению (1.5), связывающему между собой общую вариацию результирующего показателя (о - DTJ), вариацию функции регрессии (of - D/ ()) и усредненную (по различным возможным значениям X объясняющих переменных) величину условной дисперсии регрессионных остатков (а (х> = E D ). Оно остается справедливым и в случае многомерной предикторной переменной - ((1), (2),. ... (р)) (или X - (х 1), х,. ... ")).  

Отнесем ко второму типу линейных нормальных моделей тот частный случай схемы В (т. е. зависимости случайного результирующего показателя г от неслучайных объясняющих переменных X, см. В. 5), в котором функция регрессии / (X) линейна по X, а остаточная случайная компонента е (X) подчиняется нормальному закону с постоянной (не зависящей от X) дисперсией а. В этом случае линейность регрессии , гомо-скедастичность (постоянство условной дисперсии о (Х) = о) и формула (1.26) следуют непосредственно из определения модели и из (1.24).  

Для случая, когда условная дисперсия зависимой перемен ной пропорциональна некоторой известной функции аргумен та, т. е. От] (X) = а2Л2 (X), формула (6.16) преобразуется  

Поскольку h 2t – условная дисперсия, ее значение в любой момент времени должно быть сугубо положительно. Отрицательная дисперсия бессмысленна. Для того чтобы быть уверенными, что результат получен при положительной условной дисперсии, обычно вводят условие неотрицательности коэффициентов регрессии. Например, для модели ARCH (х) все коэффициенты должны быть неотрицательными: аi > 0 для любых і = 0,1, 2, ..., q. Можно показать, что это достаточное, но не необходимое условие неотрицательности условной дисперсии.

Модели ARCH оказали серьезное влияние на развитие аппарата анализа временных рядов. Однако модель ARCH в первоначальном виде редко используется в последнее время. Это связано с тем, что при применении этих моделей возникает ряд проблем.

Некоторых из этих проблем можно избежать при помощи модели GARCH, которая представляет собой естественную модификацию модели ARCH. В отличие от модели ARCH модели GARCH широко используются на практике.

Для того чтобы определить, являются ли ошибки в модели условно гетероскедастичными, можно провести следующую процедуру.

Модель GARCH

Модель GARCH была предложена T. Боллерслевом [Bollerslev (1986)]. В этой модели предполагается, что условная дисперсия будет зависеть также от собственных лагов. Простейшая форма модели GARCH выглядит следующим образом:

Это модель вида GARCH (1, 1) (поскольку используют первые лаги и 2 и Of). Заметим, что модель GARCH может быть представлена в виде модели ARMA для условной дисперсии. Для того чтобы убедиться в этом, проведем следующие математические преобразования:

Последнее уравнение есть не что иное, как процесс ARMA (1,1) для квадрата ошибок.

В чем именно состоит преимущество моделей GARCH перед моделями ARCH? Основное преимущество моделей GARCH заключается в том, что для спецификации моделей GARCH требуется меньше параметров. Следовательно, модель в большей степени будет удовлетворять условиям неотрицательности.

Рассмотрим условную дисперсию модели GARCH (1, 1):

Для τ = 1 условной дисперсии будет выполняться уравнение

Перепишем условную дисперсию в виде

Для τ = 2 соответственно будет выполняться уравнение

Следовательно, условную дисперсию можно представить в виде

Она в свою очередь равна

В итоге получим уравнение

Первая скобка в этом уравнении – концстанта, причем при бесконечно большой выборке β“ будет стремиться к нулю. Следовательно, модель GARCH (1, 1) может быть представлена в виде

Последнее уравнение есть не что иное, как модель ARMA. Таким образом, модель GARCH (1,1), содержащая только три параметра в уравнении условной дисперсии, учитывает влияние на условную дисперсию бесконечно большого количества квадратов ошибок.

Модель GARCH (1, 1) может быть расширена до модели GARCH (р, q):

(8.17)

Необходимо отметить, что на практике возможностей модели GARCH (1,1), как правило, хватает, и не всегда целесообразно пользоваться моделями GARCH более высоких порядков.

Несмотря на то, что условная дисперсия модели GARCH изменяется со временем, безусловная дисперсия будет постоянной при a1 + β < 1:

В случае если a1 + β > 1, безусловная дисперсия не будет определена. Этот случай называется "нестационарностью дисперсии". В случае если "j +β = 1, модель будет называтьсяIGARCH. Нестационарность дисперсии не имеет строгой мотивации существования. Более того, модели GARCH, которых коэффициенты привели к нестационарности дисперсии, могут иметь некоторые более нежелательные свойства. Одним из них является невозможность сделать прогноз дисперсии исходя из модели. Для стационарных моделей GARCH прогнозы условной дисперсии сходились в долгосрочное среднее значение дисперсий. Для процесса IGARCH такой сходимости не будет. Прогноз условной дисперсии равняется бесконечности.

- (ARCH AutoRegressive Conditional Heteroskedastiсity) применяемая в эконометрике модель для анализа временных рядов (в первую очередь финансовых) у которых условная (по прошлым значениям ряда) дисперсия ряда зависит от прошлых значений … Википедия

Корреляция в математической статистике, вероятностная или статистическая зависимость, не имеющая, вообще говоря, строго функционального характера. В отличие от функциональной, корреляционная зависимость возникает тогда, когда один из признаков… …

I Корреляция (от позднелат. correlatio соотношение) термин, применяемый в различных областях науки и техники для обозначения взаимозависимости, взаимного соответствия, соотношения понятий, предприятий, предметов, функций. См. также… … Большая советская энциклопедия

Характеристика зависимости между случайными величинами. . Именно, К. о. случайной величины Yпо случайной величине Xназывается выражение где дисперсия условная дисперсия У при данном X, характеризующая рассеяние Y около условного математич.… … Математическая энциклопедия

Зависимость между случайными величинами, не имеющая, вообще говоря, строго функционального характера. В отличие от функциональной зависимости К., как правило, рассматривается тогда, когда одна из величин зависит не только от данной другой, но и… … Математическая энциклопедия

Метод статистических испытаний, численный метод, основанный на моделировании случайных величин и построении статистич. оценок для искомых величин. Принято считать, что М. К. м. возник в 1949 (см. ), когда в связи с работами по созданию атомных … Математическая энциклопедия

ГОСТ 15895-77: Статистические методы управления качеством продукции. Термины и определения - Терминология ГОСТ 15895 77: Статистические методы управления качеством продукции. Термины и определения оригинал документа: 2.30. k я порядковая статистика x(k) Определения термина из разных документов: k я порядковая статистика 2.44.… … Словарь-справочник терминов нормативно-технической документации

Раздел математики, в к ром строят и изучают матем. модели случайных явлении. Случайность присуща в той или иной степени подавляющему большинству протекающих в природе процессов. Обычно она присутствует там, где существ. влияние на ход процесса… … Физическая энциклопедия

Распределение вероятностей случайной величины Х п, принимающей целые неотрицательные значения k, в соответствии с формулой где целые параметры, или эквивалентной формулой где целое n>0, действительные 0<р<1, q=1 р,g>0 параметры.… … Математическая энциклопедия

- (R квадрат) это доля дисперсии зависимой переменной, объясняемая рассматриваемой моделью зависимости, то есть объясняющими переменными. Более точно это единица минус доля необъяснённой дисперсии (дисперсии случайной ошибки модели, или условной… … Википедия

Математическая наука, позволяющая по вероятностям одних случайных событий находить вероятности других случайных событий, связанных каким либо образом с первыми. Утверждение о том, что какое либо событие наступает с Вероятностью,… … Большая советская энциклопедия

Книги

• Вероятность. Примеры и задачи , А. Шень. На примерах излагаются первые понятия теории вероятностей (вероятность события, правила подсчёта вероятностей, условная вероятность, независимость событий, случайная величина, математическое…