Формула Байеса. 4 страница

3. Сходимость в среднеквадратичном.

Последовательность случайных величин сходится к пределу в среднеквадратичном, если выполняется

Покажем, что из сходимости в среднеквадратичном следует сходимость по вероятности.

Воспользуемся Неравенством Чебышева

При любом конечном r если выполняется сходимость в среднеквадратичном, то этот предел существует и равен 0, т.к. числитель сходится к 0, а знаменатель конечен.

Теорема.

Счетная последовательность сходится к пределу с вероятностью 1 только тогда, когда

Указанное выше событие имеет своим дополнением событие

и сходимость с вероятностью 1 означает, что P(B)=0.

Очевидно, что условие теоремы достаточно рассмотреть для .

Положим

События В_rm, m=1,2,.... убывают, и для

Докажем это.

Будем искать P(B_r) так

Событие, обратное имеет следующую структуру:

Показать самим, что следующее событие включает предыдущее.

По построению справедлива следующая формула

По третьей аксиоме теории вероятности

Построенный ряд D₁, D₂...D_n образует неубывающую ограниченную последовательность, следовательно имеет предел сверху.

Поэтому возможен переход

Теорема Бернулли.

Рассмотрим систему независимых испытаний Бернулли.

Система испытаний неограниченна. С каждым i-видом испытаний свяжем дискретную величину X_i

Х_i принимают значения 1, если в i-том испытании произошло событие А и 0 - в противном случае

Рассмотрим случайную величину - число появлений события А в n испытаниях

Рассмотрим случайную величину

Это частость наступления события А в n испытаниях

Используем неравенство Чебышева

где e - произвольное неотрицательное число

Рассмотрим

Получена теорема Бернулли.

Частость наступления произвольного события при числе испытаний стремящемся к бесконечности по вероятности сходится к теоретической вероятности наступления события.

Обоснование того, что - частость наступления события A заключается в следующем: с тоски зрения ранее приведенного определения, независимым испытаниям эквивалентны две схемы:

· проведение n раз одного и того же испытания

· проведение n независимых испытаний над n копиями одного и того же.

Аналогия: 100 раз монету подбрасывает 1 человек или 100 человек подбрасывают по одной монете.

Закон больших чисел.

Рассмотрим независимые: одинаково распределенные случайные величины X₁, X₂, ..., X_n с конечным мат. ожиданием и дисперсией.

Рассмотрим их среднее арифметическое

Используя вспомогательное неравенство получим

получаем

При числе испытаний, стремящихся к ¥ среднее арифметическое по вероятности сходится к математическому ожиданию.

В любом университетском учебнике доказывается сходимость с вероятностью 1.

Использование закона больших чисел.

Пусть имеется одна случайная величина X, над которой проведено n испытаний. Результаты испытаний

Тогда в силу примечания, сделанного Бернулли, эти n-чисел можно считать результатом одного испытания над n-мерной случайной величиной, у которой X_i независимы и распределены как X, т.е.

Тогда является реализацией следующего

Для справедлив закон больших чисел, следовательно является хорошей оценкой величины X.

Основы теории характеристических функций

Комплексная случайная величина Z определяется с помощью двумерной случайной величины (X,Y) следующим выражением

Операции над комплексными случайными величинами совпадают с операциями над комплексными числами.

Рассмотрим скалярную функцию случайных аргументов и числа i.

тогда в теории вероятности математическое ожидание случайной величины вычисляется по тем же формулам, что и , просто i считают постоянным параметром.

Найдем мат.ожидание случайной величины Z.

1. Для комплексной случайной величины справедливы свойства аддитивности и мультиплекативности мат.ожидания.

2. Комплексные случайные величины Z₁ и Z₂ называются независимыми, если независимы между собой двумерные случайные величины , т.е. попарно независимы

Пусть Z₁ и Z₂ независимые комплексные случайные величины. Найдем мат.ожидание произведения

3.

а) дискретный случай

б) непрерывный случай

Двумерная случайная величина XY имеет плотность вероятности f(x,y).

Характеристической функцией действительной случайной величины X называется функция

Свойства характеристической функции

1. Для дискретного случая

2. Для непрерывного случая

Будем считать, что плотность вероятности f(x) существует, тогда

3.

Это свойство гарантирует, что характеристическая функция всегда существует

4. Пусть случайная величина

y=ax+b

5. Характеристическая функция суммы независимых случайных величин равна произведению характеристических функций.

Пусть

х_i - независимы

Тогда

Отсюда

6. Если у случайной величины Х конечен начальный момент n-го порядка, то

а) для - существуют к-е производные и при этом

б) имеет место разложение

Для того, чтобы полученное равенство было справедливо, необходимо доказать, что мы можем дифференцировать под знаком интеграла.

Для доказательства приведем ряд фактов.

1. Аналог теоремы Либега для интегралов Римана

Пусть функция интегрируема по Риману и при всех х

сходимость в каждой точке известна.

Пусть при этом

- некоторая функция, мажорирующая данную. Пусть при этом конечен интеграл

т.е.

Тогда

2. Некоторые свойства мат.ожиданий действительной случайной величины

1) Если х>0, то МХ>0 - доказать самим

Дискретный случай

Введем случайную величину

Аналогично

Очевидно, что

Следовательно

Тогда

Пара может принимать значения:

а) (-¥,+¥) в этом случае говорится, что МХ не определено.

б) (-¥,<¥) в этом случае говорится, что МХ не ограничено.

в) (<¥, ¥) MX=-¥

(<¥, <¥) MX<¥

Очевидно, что

Вывод:

Если MX конечно, то конечно и M/X/

MX<¥, то M/X/<¥

Если MX^k конечно, то конечно и M/X^k/

MX^k<¥, то M/X^k/<¥

3. Пусть , тогда

на основании пункта 1.

4. Имеет место очевидное неравенство

5. Пусть существует , тогда для всех

Сумма интегралов

Возвращаемся к доказательству.

Докажем формулу

Доказательство проведем по мат.индукции.

Проверяем при k=0

формула справедлива.

Пусть формула справедлива для k<n. Докажем, что она справедлива для k+1.

Рассмотрим.

Получили:

Покажем, что интеграл конечен.

Если , то и конечно. А конечно по условию, тогда для

Таким образом можно применять теорему Либега.

Это мы доказали справедливость формулы

Доказательство разложения - пункт б) является справедливым, если при исследовании остаточного члена учесть, что /i/<1.