Процессы

1.2.2. Непрерывные случайные величины и процессы

Задание непрерывной случайной величины.Дискретная случайная величина задается перечнем всех ее возможных значений и их вероятностей. Такой способ не является общим. Он по определению неприменим для непрерывных случайных величин.

В связи с этим целесообразно дать общий способ задания любых (в том числе и дискретных) типов случайных величин. С этой целью вводится понятие функции распределения.

Функцией распределения или интегральной функцией распределения называется функция, определяющая вероятность того, что случайная величина X примет значение, меньшее x, для каждого значения x, т.е.

.

Эта функция обладает следующими свойствами.

1. Значения функции распределения принадлежат отрезку [1, 0], т.е. , что вытекает из определения .

2. - неубывающая функция, т.е. если .

3. Вероятность того, что случайная величина X примет значение, заключенное в интервале (a, b), равна приращению функции распределения на этом интервале, т.е. .

4. Вероятность того, что непрерывная случайная величина X примет одно определенное значение, равна 0, т.е. имеет смысл рассматривать вероятность попадания X не в точку, а в интервал, пусть сколь угодно малый.

5. Если возможные значения случайной величины принадлежат интервалу (a, b), то . Если возможные значения случайной величины расположены на всей оси x, то имеют место следующие предельные соотношения ; .

Функция биномиального закона распределения вероятностей , где , а x - случайная величина, принимающая целочисленные значения в диапазоне от 1 до n.

Биномиальное распределение вероятностей при переходит в распределение Пуассона. Функция пуассоновского закона распределения вероятностей , где x - случайная величина, принимающая целочисленные значения в диапазоне от 1 до n.

Последовательность событий, которые наступают в случайные, заранее неизвестные моменты времени называется потоком событий. К основным свойствам, которые характеризуют потоки событий, относятся свойства стационарности, отсутствия последействия и ординарности.

Свойство стационарности потока событий проявляется в том, что вероятность наступления событий на любом отрезке времени зависит только от числа событий и от длительности промежутка времени и не зависит от начала его отсчета при условии, что различные промежутки времени являются непересекающимися.

Свойство отсутствия последействия потока событий проявляется в том, что вероятность наступления событий на любом отрезке времени не зависит от того, наступали или не наступали события в моменты времени, которые предшествовали началу рассматриваемого временного отрезка. Таким образом, если поток событий обладает свойством отсутствия последействия, то появления какого либо числа событий в различные непересекающиеся отрезки времени считаются взаимно независимыми.

Свойство ординарности потока событий проявляется в том, что наступление двух и более событий за малый промежуток времени практически невозможно. Таким образом, если поток событий обладает свойством ординарности, то за бесконечно малый промежуток времени может появиться не более одного события.

Поток событий, который обладает свойствами стационарности, отсутствия последействия и ординарности, называется простейшим или пуассоновским потоком. Вероятность появления k событий простейшего потока за временной отрезок t можно рассчитать по формуле Пуассона где - среднее число событий, которые наступают в единицу времени, называемое интенсивностью потока.

Непрерывную случайную величину можно задать не только с помощью интегральной функции распределения, но и с помощью дифференциальной функции распределения вероятностей, называемой еще функцией плотности вероятностей. Дифференциальная функция неприменима для задания распределения вероятностей дискретной случайной величины.

Функция плотности вероятности определяется как первая производная от функции распределения, т.е. .

В связи с таким определением функции плотности вероятности можно утверждать, что вероятность того, что непрерывная случайная величина X примет значение, принадлежащее интервалу (a, b), равна .

Зная функцию плотности вероятности можно найти функцию распределения .

Свойства функции плотности вероятности

1. Функция плотности вероятности неотрицательна, т.е. .

2. Интеграл от функции плотности вероятности в пределах от -µ до +µ равен 1, т.е. .

Итак, функция плотности вероятности определяет плотность распределения вероятности для каждой точки x, т.е. вероятность того, что случайная величина примет значение, принадлежащее интервалу , приближенно равна (с точностью до бесконечно малых высшего порядка по отношению к Dx) произведению плотности вероятности в точке x на длину интервала Dx, т.е. .

При решении задач, которые выдвигает практика, сталкиваются с различными распределениями непрерывных случайных величин.

1. Равномерное распределение. Распределение называется равномерным, если на интервале, которому принадлежат все возможные значения случайной величины, функция плотности вероятности имеет постоянное значение, т.е. аналитически это можно записать

.

2. Нормальное или гауссово распределение. Нормальным или гауссовым распределением называется распределение непрерывной случайной величины, которое описывается функцией плотности вероятности

.

Данная функция задается двумя параметрами a и s. Параметр a в этом случае понимается как математическое ожидание, а параметр s - как среднеквадратическое отклонение нормального распределения.

График этой функции называется нормальной кривой или кривой Гаусса. Ее свойства:

а) данная функция определена на всей оси x ;

б) нормальная кривая расположена над осью x , т.к. при всех значениях x функция принимает положительные значения;

в) предел функции при неограниченном возрастании x равен нулю, т.е. ось x служит горизонтальной асимптотой графика;

г) функция достигает своего максимума, равного , при x=a;

д) график функции симметричен относительно прямой x=a;

Изменение параметра a , т.е. математического ожидания, не меняет формы нормальной кривой, а приводит к ее сдвигу вдоль оси абсцисс. При возрастании a сдвиг кривой происходит вправо, при убывании – влево.

При возрастании параметра s максимальная ордината нормальной кривой убывает, а сама кривая становится более пологой, т.е. сжимается к оси абсцисс. При убывании параметра s нормальная кривая становится более островершинной и растягивается в положительном направлении оси ординат. Площадь фигуры, ограниченной нормальной кривой и осью абсцисс, при любых значениях параметров a и s равна единице. Если нормальное распределение задано математическим ожиданием, равным нулю, и среднеквадратическим отклонением, равным единице, то нормальную кривую называют нормированной кривой.

Если непрерывная случайная величина подчиняется нормальному закону распределения, то абсолютная величина ее отклонения от математического ожидания не превосходит утроенного среднеквадратического отклонения. Это утверждение известно под названием правила трех сигм.

Если случайная величина X распределена по нормальному закону, то по определению вероятность того, что X примет значение, принадлежащее интервалу , равна . Для использования эту формулу удобнее преобразовать путем введения новой переменной , что обеспечивает возможность сведения ее к известной табличной функции Лапласа (1.16) и получения более удобного выражения:

.

Числовые характеристики непрерывной случайной величины. Распространим определения числовых характеристик дискретной случайной величины на непрерывную случайную величину.

Математическое ожидание непрерывной случайной величины X, возможные значения которой принадлежат интервалу (a, b), определяется как

.

Если возможные значения принадлежат всей оси, то .

В частности, математическое ожидание равномерного распределения , а нормального .

Дисперсией непрерывной случайной величины X называют математическое ожидание квадрата ее отклонения или .

В частности дисперсия равномерного распределения , а нормального .

Среднеквадратическое отклонение непрерывной случайной величины определяется как и для дискретной .

Многомерные непрерывные случайные величины

По аналогии с одномерным случаем функцией распределения двумерной непрерывной случайной величины (X,Y) называют функцию W(x,y), определяющую для каждой пары чисел x и y вероятность того, что X примет значение, меньшее x, и при этом Y примет значение, меньшее y, т.е.

Функция плотности вероятности двумерной непрерывной случайной величины (X,Y) определяется как и, следовательно, .

Функцию можно рассматривать как предел отношения вероятности попадания случайной точки в прямоугольник со сторонами Dx и Dy к площади этого прямоугольника, когда обе стороны прямоугольника стремятся к нулю.

Для того чтобы случайные величины X и Y были независимыми, необходимо и достаточно, чтобы функция распределения системы (X,Y) была равна произведению функций распределения составляющих . Аналогично и по отношению к функции плотности вероятности

.

Так же, как и для двумерных дискретных случайных величин для двумерной непрерывной случайной величины определяется корреляционный момент и коэффициент корреляции.

Сохраняются те же отношения между понятиями независимости и некоррелированности. Можно сделать существенное дополнение, касающееся нормально распределенных составляющих двумерной случайной величины. Для этого случая понятия независимости и некоррелированности равносильны.

Обобщая сказанное о непрерывных случайных величинах можно заключить:

1. Основными характеристиками непрерывных случайных величин являются функция распределения и функция плотности вероятности.

2. Числовыми параметрами, описывающими непрерывную случайную величину, служат математическое ожидание и дисперсия.

3. Статистические связи между отдельными составляющими многомерной случайной величины описываются корреляционным моментом.

4. Некоррелированные гауссовы величины статистически независимы.

Непрерывные случайные процессы

По определению случайный процесс X(t) - это особого вида функция, характеризующаяся тем, что в любой момент времени t принимаемые ею значения являются случайными величинами.

Фиксируя на определенном временном интервале мгновенные значения этой функции, получаем единственную реализацию x₁(t) случайного процесса X(t).

Случайный процесс X(t) представляет собой бесконечную совокупность таких реализаций, образующих статистический ансамбль (рис. 1.1).

Рис. 1.1

Фиксируя величины {x₁(t₁), x₂(t₁), . . . , x_k(t₁)}, полученные в отдельных реализациях, получаем так называемое одномерное сечениеданного случайного процесса и наблюдаем тем самым случайную величину X(t₁). Ее плотность вероятности w(x,t₁) называют одномерной плотностью вероятности процесса X(t) в момент времени t₁. Она по определению характеризует вероятность того, что реализации случайного процесса в момент времени t₁ примут значения, лежащие в интервале (x, dx).

Естественным обобщением является n-мерное сечение, приводящее к n-мерной плотности вероятности. Описание случайных процессов с помощью плотностей вероятностей высокой размерности может быть весьма подробным, но приводит к значительным математическим трудностям.

Менее подробное, но вполне удовлетворительное описание случайных процессов можно выполнить с помощью числовых характеристик тех случайных величин, которые наблюдаются в сечениях процессов. Поскольку в общем случае для случайных процессов эти характеристики зависят от времени, они называются моментными функциями.

По аналогии с ранее изложенным математическое ожидание непрерывного случайного процесса есть среднее значение процесса X(t) в текущий момент времени t, причем усреднение проводится по всему ансамблю реализаций процесса .

Дисперсия непрерывного случайного процесса, так же определяемая по аналогии, позволяет судить о степени разброса мгновенных значений, принимаемых отдельными реализациями, в фиксированном сечении t относительно среднего значения .

Функция корреляции определяется в соответствии с выражением

и характеризует степень статистической связи тех случайных величин, которые наблюдаются в сечениях t₁ и t₂. При совмещении сечений t₁ = t₂ = t функция корреляции численно равна дисперсии D(t).

Случайные процессы, статистические характеристики которых одинаковы во всех сечениях, принято называть стационарными.

Говорят, что случайный процесс стационарен в узком смысле, если его любая n-мерная плотность вероятности инвариантна относительно временного сдвига t..

Если ограничиться требованием того, чтобы математическое ожидание и дисперсия процесса не зависели от времени, а функция корреляции зависела лишь от разности , т.е. m(t₂-t₁) = m(t), то такой случайный процесс называют стационарным в широком смысле. Из стационарности в узком смысле следует и стационарность в широком смысле, но не наоборот.

Функция корреляции стационарного процесса является четной, т.е m(t) = m(-t). Кроме того, абсолютное значение этой функции при любых t не превышает ее значения при t = 0, т.е. .

Часто удобнее пользоваться нормированной функцией корреляции , которая при t=0 равна 1, т.е. r(0)=1.

Стационарный случайный процесс X(t) называется эргодическим, если при нахождении его моментных функций усреднение по статистическому ансамблю можно заменить усреднением по времени над единственной реализацией x(t), длительность Т которой может быть сколь угодно велика Т®µ. Это означает, что если стационарный случайный процесс является эргодическим, то его единственная реализация достаточной длины есть «типичный представитель» статистического ансамбля.

Обозначая усреднение по времени угловыми скобками, можно записать для эргодического процесса выражение для математического ожидания , которое имеет физический смысл постоянной составляющей выбранной реализации.

Дисперсия подобного процесса

.

Поскольку величина имеет физический смысл средней мощности реализации, а М² - мощности постоянной составляющей, то D - мощность флуктуационной составляющей эргодического процесса.

Аналогично находят функцию корреляции эргодического процесса

.

Достаточным условием эргодичности стационарного в широком смысле процесса является стремление к нулю функции корреляции при неограниченном росте временного сдвига t, т.е. .

Доказано, что это требование можно несколько ослабить. Оказывается, что стационарный в широком смысле случайный процесс является эргодическим, если выполняется условие Слуцкого .

Среди прочих случайных процессов особое место занимает стационарный гауссов процесс - любая его многомерная плотность вероятности определяется двумя характеристиками: математическим ожиданием и функцией корреляции.

Чем быстрее убывает функция m(t), тем меньшей оказывается статистическая связь между мгновенными значениями случайного процесса в два несовпадающих момента времени.

Числовой характеристикой, служащей для оценки скорости изменения реализаций случайного процесса, является интервал корреляции(рис. 1.2) t_к , определяемый выражением .

Смысл этого понятия состоит в следующем. Если известна информация о поведении какой-либо реализации в прошлом, то возможен вероятностный прогноз случайного процесса на время порядка t_к. Попытка прогнозировать на время существенно большее t_к окажется безрезультатной, поскольку мгновенные значения реализации случайного процесса, сколь угодно далеко отстоящие друг от друга по времени, практически некоррелированы, т.е. среднее значение произведения стремится к нулю.

Рис. 1.2

Для оценки статистической связи между двумя стационарными случайными процессами X(t) и Y(t) вводится понятие взаимной корреляционной функции (ВКФ) этих процессов, определяемой в соответствии с выражениями

.

Случайные процессы называются стационарно связанными, если их ВКФ зависят не от самих аргументов, а лишь от величины их разности t = t₂ - t₁. В этом случае m_xy(t) = m_yx(-t).

Приведенные ранее выводы о соотношениях независимости и некоррелированности случайных величин справедливы и для случайных процессов.

Обобщая сказанное о случайных процессах, можно сделать следующие выводы:

1. Случайный процесс задается бесконечным ансамблем своих реализаций.

2. Важнейшими характеристиками случайного процесса являются математическое ожидание, дисперсия и функция корреляции.

3. Если статистические характеристики случайного процесса неизменны во времени, то такой процесс называется стационарным.

4. Характеристики стационарного эргодического случайного процесса можно изучать, анализируя единственную его реализацию достаточно большой длины.