Дискретные случайные величины

Случайная величина

Определение: Случайной называют величину, которая в результате испытания примет одно и только одно возможное значение, наперед не известное и зависящее от случайных причин, которые заранее не могут быть учтены.

Пример 1: Число родившихся мальчиков среди ста новорожденных есть случайная величина, которая имеет следующие возможные значения: 0, 1, 2, ..., 100.

Пример 2: Расстояние, которое пролетит снаряд при выстреле из орудия, есть случайная величина. Действительно, расстояние зависит не только от установки прицела, но и от многих других причин (силы и направления ветра, температуры и т.д.), которые не могут быть полностью учтены. Возможные значения этой величины принадлежат некоторому промежутку .

Будем далее обозначать случайные величины прописными буквами , , , а их возможные значения – соответствующими строчными буквами , , . Например, если случайная величина имеет три возможных значения, то они будут обозначены так: , , .

Дискретные и непрерывные случайные величины

Вернемся к примерам, приведенным выше. В первом из них случайная величина могла принять одно из следующих возможных значений: 0, 1, 2, ..., 100. Эти значения отделены одно от другого промежутками, в которых нет возможных значений . Таким образом, в этом примере случайная величина принимает отдельные, изолированные возможные значения. Во втором примере случайная величина могла принять любое из значений промежутка . Здесь нельзя отделить одно возможное значение от другого промежутком, не содержащим возможных значений случайной величины.

Уже из сказанного можно заключить о целесообразности различать случайные величины, принимающие лишь отдельные, изолированные значения, и случайные величины, возможные значения которых сплошь заполняют некоторый промежуток.

Определение: Дискретной (прерывной) называют случайную величину, которая принимает отдельные, изолированные возможные значения с определенными вероятностями. Число возможных значений дискретной случайной величины может быть конечным или бесконечным.

Определение: Непрерывной называют случайную величину, которая может принимать все значения из некоторого конечного или бесконечного промежутка. Очевидно, число возможных значений непрерывной случайной величины бесконечно.

Замечание. Настоящее определение непрерывной случайной величины не является точным. Более строгое определение будет дано позднее.

Закон распределения вероятностей дискретной случайной величины

На первый взгляд может показаться, что для задания дискретной случайной величины достаточно перечислить все ее возможные значения. В действительности это не так: случайные величины могут иметь одинаковые перечни возможных значений, а вероятности их – различные. Поэтому для задания дискретной случайной величины недостаточно перечислить все возможные ее значения, нужно еще указать их вероятности.

Определение: Законом распределения дискретной случайной величины называют соответствие между возможными значениями и их вероятностями; его можно задать таблично, аналитически (в виде формулы) и графически.

При табличном задании закона распределения дискретной случайной величины первая строка таблицы содержит возможные значения, а вторая – их вероятности:

			…
			…

Приняв во внимание, что в одном испытании случайная величина принимает одно и только одно возможное значение, заключаем, что события , , ..., образуют полную группу; следовательно, сумма вероятностей этих событий, т.е. сумма вероятностей второй строки таблицы, равна единице:

.

Если множество возможных значений бесконечно (счетно), то ряд сходится и его сумма равна единице.

Числовые характеристики дискретных случайных величин

Как известно, закон распределения полностью характеризует случайную величину. Однако часто закон распределения неизвестен и приходится ограничиваться меньшими сведениями. Иногда даже выгоднее пользоваться числами, которые описывают случайную величину суммарно; такие числа называют числовыми характеристиками случайной величины. К числу важных числовых характеристик относится математическое ожидание.

Математическое ожидание, как будет показано далее, приближенно равно среднему значению случайной величины. Для решения многих задач достаточно знать математическое ожидание. Например, если известно, что математическое ожидание числа выбиваемых очков у первого стрелка больше, чем у второго, то первый стрелок в среднем выбивает больше очков, чем второй, и, следовательно, стреляет лучше второго. Хотя математическое ожидание дает о случайной величине значительно меньше сведений, чем закон ее распределения, но для решения задач, подобных приведенной и многих других, знание математического ожидания оказывается достаточным.

Математическое ожидание дискретной случайной величины

Определение: Математическим ожиданием дискретной случайной величины называют сумму произведений всех ее возможных значений на их вероятности.

Пусть случайная величина может принимать только значения , вероятности которых соответственно равны . Тогда математическое ожидание случайной величины определяется равенством

.

Если дискретная случайная величина принимает счетное множество возможных значений, то

,

причем математическое ожидание существует, если ряд в правой части равенства сходится абсолютно.

Замечание. Из определения следует, что математическое ожидание дискретной случайной величины есть неслучайная (постоянная) величина.

Вероятностный смысл математического ожидания

Вероятностный смысл математического ожидания таков: математическое ожидание приближенно равно (тем точнее, чем больше число испытаний) среднему арифметическому наблюдаемых значений случайной величины.

Замечание 1. Математическое ожидание больше наименьшего и меньше наибольшего возможных значений. Другими словами, на числовой оси возможные значения расположены слева и справа от математического ожидания. В этом смысле математическое ожидание характеризует расположение распределения и поэтому сто часто называют центром распределения.

Замечание 2. Происхождение термина «математическое ожидание», связано с начальным периодом возникновения теории вероятностей (XVI–XVII вв.), когда область ее применения ограничивалась азартными играми. Игрока интересовало среднее значение ожидаемого выигрыша, или, иными словами, математическое ожидание выигрыша.

Свойства математического ожидания

Свойство 1. Математическое ожидание постоянной величины равно самой постоянной:

Доказательство. Будем рассматривать постоянную как дискретную случайную величину, которая имеет одно возможное значение и принимает его с вероятностью . Следовательно,

Замечание 1. Определим произведение постоянной величины на дискретную случайную величину как дискретную случайную , возможные значения которой равны произведениям постоянной на возможные значения ; вероятности возможных значений равны вероятностям соответствующих возможных значений . Например, если вероятность возможного значения равна , то вероятность того, что величина примет значение также равна .

Свойство 2. Постоянный множитель можно выносить за знак математического ожидания:

Доказательство. Пусть случайная величина задана законом распределения вероятностей:

			…
			…

Учитывая замечание 1, напишем закон распределения случайной величины :

			…
			…

Математическое ожидание случайной величины :

Итак,

Замечание 2. Прежде чем перейти к следующему свойству, укажем, что две случайные величины называют независимыми, если закон распределения одной из них не зависит от того, какие возможные значения приняла другая величина. В противном случае случайные величины зависимы. Несколько случайных величин называют взаимно независимыми, если законы распределения любого числа из них не зависят от того, какие возможные значения приняли остальные величины.

Замечание 3. Определим произведение независимых случайных величин и как случайную величину , возможные значения которой равны произведениям каждого возможного значения на каждое возможное значение ; вероятности возможных значений произведения равны произведениям вероятностей возможных значений сомножителей.

Например, если вероятность возможного значения равна , вероятность возможного значения равна , то вероятность возможного значения равна .

Заметим, что некоторые произведения могут оказаться равными между собой. В этом случае вероятность возможного значения произведения равна сумме соответствующих вероятностей. Например, если , то вероятность (или, что-то же, ) равна .

Свойство 3. Математическое ожидание произведения двух независимых случайных величин равно произведению их математических ожиданий;

Доказательство. Пусть независимые случайные величины и заданы своими законами распределения вероятностей:

Составим все значения, которые может принимать случайная величина . Для этого перемножим все возможные значения на каждое возможное значение ; в итоге получим , , и . Учитывая замечание 3, напишем закон распределения , предполагая для простоты, что все возможные значения произведения различны (если это не так, то доказательство проводится аналогично):

Математическое ожидание равно сумме произведений всех возможных значений на их вероятности:

,

или

.

Итак,

Следствие. Математическое ожидание произведения нескольких взаимно независимых случайных величин равно произведению их математических ожиданий.

Например, для трех случайных величин имеем:

Для произвольного числа случайных величин доказательство проводится методом математической индукции.

Замечание 4. Определим сумму случайных величин и как случайную величину , возможные значения которой равны суммам каждого возможного значения с каждым возможным значением ; вероятности возможных значений для независимых величин и равны произведениям вероятностей слагаемых; для зависимых величин – произведениям вероятности одного слагаемого на условную вероятность второго.

Заметим, что некоторые суммы могут оказаться равными между собой. В этом случае вероятность возможного значения суммы равна сумме соответствующих вероятностей. Например, если и вероятности этих возможных значений соответственно равны и , то вероятность (или, что-то же, ) равна .

Следующее ниже свойство справедливо как для независимых, так и для зависимых случайных величин.

Свойство 4. Математическое ожидание суммы двух случайных величин равно сумме математических ожиданий слагаемых:

Следствие. Математическое ожидание суммы нескольких случайных величин равно сумме математических ожиданий слагаемых.

Например, для трех слагаемых величин имеем

.

Для произвольного числа слагаемых величин доказательство проводится методом математической индукции.

Математическое ожидание числа появлений события

в независимых испытаниях

Пусть производится независимых испытаний, в каждом из которых вероятность появления события постоянна и равна . Чему равно среднее число появлений события в этих испытаниях? Ответ на этот вопрос дает следующая теорема.

Теорема: Математическое ожидание числа появлений события в независимых испытаниях равно произведению числа испытаний на вероятность появления события в каждом испытании:

.

Замечание. Так как величина распределена по биномиальному закону, то доказанную теорему можно сформулировать и так: математическое ожидание биномиального распределения с параметрами и равно произведению .

Дисперсия дискретной случайной величины

Легко указать такие случайные величины, которые имеют одинаковые математические ожидания, но различные возможные значения. Рассмотрим, например, дискретные случайные величины и , заданные следующими законами распределения:

	–0,01	0,01			–100
	0,5	0,5			0,5	0,5

Найдем математические ожидания этих величин:

.

Здесь математические ожидания обеих величин одинаковы, а возможные значения различны, причем имеет возможные значения, близкие к математическому ожиданию, a – далекие от своего математического ожидания. Таким образом, зная лишь математическое ожидание случайной величины, еще нельзя судить ни о том, какие возможные значения она может принимать, ни о том, как они рассеяны вокруг математического ожидания. Другими словами, математическое ожидание полностью случайную величину не характеризует.

По этой причине наряду с математическим ожиданием вводят и другие числовые характеристики. Так, например, для того чтобы оценить, как рассеяны возможные значения случайной величины вокруг ее математического ожидания, пользуются, в частности, числовой характеристикой, которую называют дисперсией.

Прежде чем перейти к определению и свойствам дисперсии, введем понятие отклонения случайной величины от ее математического ожидания.

Отклонение случайной величины от ее математического ожидания

Пусть – случайная величина и – ее математическое ожидание. Рассмотрим в качестве новой случайной величины разность .

Определение: Отклонением называют разность между случайной величиной и ее математическим ожиданиям.

Пусть закон распределения известен:

			…
			…

Напишем закон распределения отклонения. Для того чтобы отклонение приняло значение , достаточно, чтобы случайная величина приняла значение . Вероятность же этого события равна ; следовательно, и вероятность того, что отклонение примет значение , также равна . Аналогично обстоит дело и для остальных возможных значений отклонения.

Таким образом, отклонение имеет следующий закон распределения:

			…
			…

Приведем важное свойство отклонения, которое используется далее.

Теорема: Математическое ожидание отклонения равно нулю:

.

Доказательство. Пользуясь свойствами математического ожидания (математическое ожидание разности равно разности математических ожиданий, математическое ожидание постоянной равно самой постоянной) и приняв во внимание, что – постоянная величина, имеем

.

Замечание. Наряду с термином «отклонение» используют термин центрированная величина».

Определение: Центрированной случайной величиной называют разность между случайной величиной и ее математическим ожиданием:

.

Название «центрированная величина» связано с тем, что математиче­ское ожидание есть центр распределения.

Дисперсия дискретной случайной величины

На практике часто требуется оценить рассеяние возможных значений случайной величины вокруг ее среднего значения. Например, в артиллерии важно знать, насколько кучно лягут снаряды вблизи цели, которая должна быть поражена.

На первый взгляд может показаться, что для оценки рассеяния проще всего вычислить все возможные значения отклонения случайной величины и затем найти их среднее значение. Однако такой путь ничего не даст, так как среднее значение отклонения, т.е. , для любой случайной величины равно нулю. Это свойство уже было доказано в предыдущем параграфе и объясняется тем, что одни возможные отклонения положительны, а другие – отрицательны; в результате их взаимного погашения среднее значение отклонения равно нулю. Эти соображения говорят о целесообразности заменить возможные отклонения их абсолютными значениями или их квадратами. Так и поступают на деле. Правда, в случае, когда возможные отклонения заменяют их абсолютными значениями, приходится оперировать с абсолютными величинами, что приводит иногда к серьезным затруднениям. Поэтому чаще всего идут по другому пути, т.е. вычисляют среднее значение квадрата отклонения, которое и называют дисперсией.

Определение: Дисперсией (рассеянием) дискретной случайной величины называют математическое ожидание квадрата отклонения случайной величины от ее математического ожидания:

.

Пусть случайная величина задана законом распределения

			…
			…

Тогда квадрат отклонения имеет следующий закон распределения:

			…
			…

По определению дисперсии,

Таким образом, для того чтобы найти дисперсию, достаточно вычислить сумму произведений возможных значений квадрата отклонения на их вероятности.

Замечание. Из определения следует, что дисперсия дискретной случайной величины есть неслучайная (постоянная) величина. В дальнейшем читатель узнает, что дисперсия непрерывной случайной величины также есть постоянная величина.

Формула для вычисления дисперсии

Для вычисления дисперсии часто бывает удобно пользоваться следующей теоремой.

Теорема: Дисперсия равна разности между математическим ожиданием квадрата случайной величины и квадратом ее математического ожидания:

.

Доказательство. Математическое ожидание есть постоянная величина, следовательно, и есть также постоянные величины. Приняв это во внимание и пользуясь свойствами математического ожидания (постоянный множитель можно вынести за знак математического ожидания, математическое ожидание суммы равно сумме математических ожиданий слагаемых), упростим формулу, выражающую определение дисперсии:

Итак,

.

Квадратная скобка введена в запись формулы для удобства ее запоминания.

Свойства дисперсии

Свойство 1. Дисперсия постоянной величины равна нулю;

.

Доказательство. По определению дисперсии,

.

Пользуясь первым свойством математического ожидания (математическое ожидание постоянной равно самой постоянной), получим

.

Итак,

.

Свойство становится ясным, если учесть, что постоянная величина сохраняет одно и то же значение и рассеяния, конечно, не имеет.

Свойство 2. Постоянный множитель можно выносить за знак дисперсии, возводя его в квадрат:

.

Доказательство. По определению дисперсии имеем

.

Пользуясь вторым свойством математического ожидания (постоянный множитель можно выносить за знак математического ожидания), получим

Итак,

.

Свойство становится ясным, если принять во внимание, что при величина имеет возможные значения (по абсолютной величине), большие, чем величина . Отсюда следует, что эти значения рассеяны вокруг математического ожидания больше, чем возможные значения вокруг , т.е. . Напротив, если , то .

Свойство 3. Дисперсия суммы двух независимых случайных величин равна сумме дисперсий этих величин:

.

Доказательство. По формуле для вычисления дисперсии имеем

Раскрыв скобки и пользуясь свойствами математического ожидания суммы нескольких величин и произведения двух независимых случайных величин, получим

Итак,

.

Следствие 1. Дисперсия суммы нескольких взаимно независимых случайных величин равна сумме дисперсий этих величин.

Например, для трех слагаемых имеем

.

Для произвольного числа слагаемых доказательство проводится методом математической индукции.

Следствие 2. Дисперсия суммы постоянной величины и случайной равна дисперсии случайной величины:

.

Доказательство. Величины и независимы, поэтому, по третьему свойству,

.

В силу первого свойства . Следовательно,

.

Свойство становится понятным, если учесть, что величины и отличаются лишь началом отсчета и, значит, рассеяны вокруг своих математических ожиданий одинаково.

Свойство 4. Дисперсия разности двух независимых случайных величин равна сумме их дисперсий:

.

Доказательство. В силу третьего свойства

.

По второму свойству,

,

или

.

Лекция 3