Курс лекций по теории вероятностей

Курс лекций по теории вероятностей

вероятность qn , 1 успех — вероятность n p qn и т.д. Какое же число успехов

наиболее вероятно? Иначе говоря, при каком k достигается максимум P(vn=k)?

Чтобы выяснить это, сравним отношение P(vn=k)и P(vn=k-1)с единицей.

Видим, что

(a) Р(vn = k) > Р(vn = k-1) при np + p – k > 0, то есть при k < np + p;

(b) Р(vn = k) < Р(vn = k-1 )при np + p – k < 0, то есть при k > np + p;

(c) Р(vn = k) = Р(vn = k-1 при np + p – k = 0, что возможно лишь если

np + p — целое число.

Рассмотрим два случая: np + p –целое число и np + p – дробное число. В

первом случае пусть k0 = np + p. Из полученных выше неравенств, сразу

следует, что

Во втором случае пусть k0 = [np + p] (целая часть числа np + p, то есть

наибольшее целое число, не превосходящее np + p). Из неравенств (a), (b)

следует, что

Действительно, неравенство Р(vn = k0) > Р(vn = k0+1), например, следует

из (b), примененного для

k = k0+1 > np + p.

Видим, что в зависимости от того, является число 1 > np + p целым или

нет, имеется либо два равновероятных «наиболее вероятных» числа успехов k0

= np + p и k0 –1 > np + p - 1,либо одно «наиболее вероятное» число успехов

k0 = [np + p].

Сформулируем уже доказанное утверждение в виде теоремы.

Теорема 12. В n испытаниях схемы Бернулли с вероятностью успеха p

наиболее вероятным числом успехов является

a) единственное число k0 = [np + p], если число np + p не целое;

б) два числа k0 = np + p и k0 -1= np + p -1, если число np + p целое.

Пример 19. Если p = q = 1/2, то при четном числе испытаний n число np +

p = n/2 + 1 /2— не целое, так что наиболее вероятным является единственное

число успехов [n/2 + 1 /2] = n/2. Что совершенно понятно, так как есть

нечетное число возможностей — получить 0, 1, …n успехов, причем вероятности

получить k и n-k успехов одинаковы.

При нечетном же числе испытаний n число np + p = n/2 + 1 /2 — целое,

так что наиболее вероятными (и одинаково вероятными) являются два числа

успехов n/2 + 1 /2 и n/2 - 1 /2.

5.3 Номер первого успешного испытания

Рассмотрим схему Бернулли с вероятностью успеха p в одном испытании.

Испытания проводятся до появления первого успеха. Введем величину ? ,

равную номеру первого успешного испытания.

Теорема 13. Вероятность того, что первый успех произойдет в испытании с

номером k, равна

P(? = k) = p qk-1.

Доказательство. Действительно,

Определение 21. Набор чисел {p qk-1 } называется геометрическим

распределением вероятностей и обозначается Gp или G(p).

Геометрическое распределение вероятностей обладает интересным

свойством, которое можно назвать свойством «нестарения». Пусть величина ?

обозначает, скажем, время безотказной работы (измеряемое целым числом

часов) некоторого устройства. Предположим, что для величины ? вероятность

принять любое свое значение k в точности равна pqk-1. Справедливо следующее

утверждение.

Теорема 14. Пусть P(? = k) = p qk-1. Тогда для произвольных n, k ( 0

P(? > n+k\ ? > n) = P(? > k)

Данному равенству можно придать следующее звучание: если известно, что

устройство проработало без отказов n часов, то вероятность ему работать еще

не менее k часов точно такая же, как вероятность проработать не менее k

часов для нового устройства.

Можно прочесть эту формулу и так: вероятность работающему устройству

проработать еще сколько-то часов не зависит от того момента, когда мы

начали отсчет времени, или от того, сколько уже работает устройство.

Доказательство. По определению условной вероятности,

(4)

Последнее равенство следует из того, что событие {? > n+k} влечет

событие {? > n}, так что пересечение этих событий есть {? > n+k}. Найдем

для произвольного m ( 0 вероятность P(? > m).

Можно также заметить, что событие {? > m} означает, что в схеме

Бернулли первые m испытаний завершились «неудачами», а это событие имеет

вероятность как раз qm.

Возвращаясь к (4), получим

5.4 Приближение гипергеометрического распределения биномиальным

Рассмотрим урну, содержащую N шаров, из которых K шаров — белые, а

оставшиеся N-K шаров — черные. Из урны наудачу (без возвращения) выбираются

n шаров. Вероятность PN,K(n, k) того, что будет выбрано ровно k белых и n-

k черных шаров, находится по формуле (см. определение 8

гипергеометрического распределения вероятностей):

Если число шаров в урне очень велико, то извлечение одного, двух, трех

шаров почти не меняет пропорцию белых и черных шаров в урне, так что

вероятности PN,K(n, k) не очень отличаются от вероятностей в процедуре

выбора с возвращением

P(получить ровно k белых шаров при выборе n шаров с возвращением) =

Сформулируем нашу первую предельную теорему.

Теорема 15. Если N > ? и K > ? так, что K/N > p ( (0, 1) то для любых

фиксированных n, 0<=k<=n

5.5 Независимые испытания с несколькими исходами

Рассмотрим следующий пример, когда из двух очень похожих вопросов на

один можно ответить, пользуясь формулой Бернулли, а для другого этой

формулы оказывается недостаточно:

Пример 20. Игральная кость подбрасывается 15 раз. Найти вероятности

следующих событий:

а) выпадет ровно 10 шестерок; б) выпадет ровно 10 шестерок и три

единицы.

а) есть 15 испытаний схемы Бернулли с вероятностью успеха 1/6

(выпадение шестерки). Вероятность десяти успехов в 15 испытаниях равна

[pic]

б) здесь каждое испытание имеет три, а не два исхода: выпадение

шестерки, выпадение единицы, выпадение остальных граней. Воспользоваться

формулой для числа успехов в схеме Бернулли не удается — перед нами уже не

схема Бернулли.

Осталось изобрести формулу для подсчета вероятности каждому исходу в

нескольких независимых испытаниях выпасть нужное число раз, если в одном

испытании возможно не два, а более исходов.

Пусть в одном испытании возможны m исходов. Обозначим их цифрами 1, 2,

…m. Пусть исход i в одном испытании случается с вероятностью рi, 1 ? i ? m

и

[pic]

Обозначим через Р(n1,n2,…,nm) вероятность того, что в n = n1+ n2+ …+nm

независимых испытаний исход 1 появился n1, раз, исход 2 – n2 раз,…

Теорема 16. Для любого n и любых целых n1 ? 0… nm ? 0 таких, что n1+

n2+ …+nm = n, верна формула:

[pic]

Доказательство. Рассмотрим один элементарный исход, благоприятствующий

выпадению n1 единиц, n2 двоек, … , nm раз m-ок:

[pic]

Это результат n экспериментов, когда все нужные исходы появились в

некотором заранее заданном порядке. Вероятность такого результата n

независимых испытаний равна

[pic]

Все остальные благоприятные исходы отличаются лишь расположением чисел

1, 2, …m на n местах. Число таких исходов равно числу способов расставить

на n местах n1 единиц, n2 двоек, , … , nm раз чисел m, то есть

[pic]

Теперь мы можем вернуться к примеру 20(б) и выписать ответ: так как

вероятности выпадения шестерки и единицы равны 1/6, а вероятность третьего

исхода (выпали любые другие грани) равна 4/6, то вероятность получить 10

шестерок, 3 единицы и еще 2 других очка равна

[pic]

5.6 Теорема Пуассона для схемы Бернулли

Предположим, нам нужна вероятность получить не менее десяти успехов в

1000 испытаний схемы Бернулли с вероятностью успеха 0.003. Вероятность

этого события равна любому из следующих выражений:

[pic]

и вычисление даже одного слагаемого в каждом из этих выражений весьма

проблематично.

Сформулируем теорему о приближенном вычислении вероятности какого-либо

числа успехов в большом числе испытаний схемы Бернулли с маленькой

вероятностью успеха. Термин «большое число» должен означать n > ?. Если при

этом p = pn> 0,то, очевидно, вероятность получить любое конечное число

успехов при растущем числе испытаний стремится к нулю. Необходимо чтобы

вероятность успеха p = pn> 0 одновременно с ростом числа испытаний. Но от

испытания к испытанию вероятность успеха меняться не может (см. определение

схемы Бернулли).

Поэтому рассмотрим «схему серий»: есть

одно испытание ? с вероятностью успеха p1

два испытания ? , ? с вероятностью успеха p2

…

n испытаний ? , … , ? с вероятностью успеха pn

…

Вероятность успеха меняется не внутри одной серии испытаний, а от серии

к серии, когда меняется общее число испытаний. Обозначим через vn число

успехов в n-той серии испытаний.

Теорема 17 (Теорема Пуассона).

Пусть n > ? , pn> 0 так, что n pn> ? > 0. Тогда для любого k ? 0

вероятность получить k успехов в n испытаниях схемы Бернулли с вероятностью

успеха pn стремится к величине

[pic]

(5)

[pic]для n > ? , pn> 0 так, что n pn> ?

Определение 22. Пусть ? > 0— некоторая постоянная. Набор чисел [pic]

называется распределением Пуассона с параметром ?.

Пользуясь теоремой 17, можно приближенно посчитать вероятность получить

не менее десяти успехов в 1000 испытаний схемы Бернулли с вероятностью

успеха 0.003, с вычисления которой мы начали. Поскольку n = 1000 «велико»,

а pn = 0.003 «мало», то, взяв ? = n pn = 3 , можно написать приближенное

равенство

[pic](6)

Осталось решить, а достаточно ли n=103 «велико», а pn = 0.003 «мало»,

чтобы заменить точную вероятность P(vn = k) на приближенное значение

[pic]

Для этого нужно уметь оценивать разницу между этими двумя

вероятностями.

Теорема 18 (Теорема Пуассона с оценкой погрешности).

Пусть A ( {0, 1, …, n} — произвольное множество целых неотрицательных

чисел, vn — число успехов в n испытаниях схемы Бернулли с вероятностью

успеха p, ? = n p. Тогда

[pic]

Таким образом, теорема 18 предоставляет нам возможность самим решать,

достаточно ли n «велико», а p «мало», руководствуясь полученной величиной

погрешности.

Какова же погрешность в формуле (6)?

[pic]

Погрешность не более 0,009 (при вероятности около 0,001). Во всяком

случае, можно утверждать, что искомая вероятность никак не больше, чем

0,01=0,001+0,009.

Рассмотрим еще одну формулу приближенного вычисления pn (m) когда n

велико. В отличии от предыдущего результата число успехов m в этом случае

тоже растет с ростом n, а вероятность успеха постоянна.

Локальная теорема Муавра – Лапласа

Пусть [pic].Предположим, что [pic]и величины [pic]являются

ограниченными. Тогда

[pic]

В частности, если [pic], то

[pic]

Доказательство:

В силу ограниченности величин [pic] разность [pic]вместе с n и m

Воспользуемся формулой Стирлинга

[pic]

[pic]

В силу определения [pic]

[pic]

Раздел 6. Случайные величины и их распределения

6.1 Случайные величины

Мы уже видели, что для очень многих экспериментов нет никаких различий

в подсчете вероятностей событий, тогда как элементарные исходы в этих

экспериментах очень различаются. Но нас и должны интересовать именно

вероятности событий, а не структура пространства элементарных исходов.

Поэтому пора во всех таких «похожих» экспериментах вместо самых разных

элементарных исходов использовать, например, числа. То есть ввести

соответствие (иначе говоря, отображение) между элементарными исходами и

вещественными числами (с ними удобно работать).

Пусть имеется случайный эксперимент и задано вероятностное пространство

(?, ?,Р).

Определение 23. Функция ?: ? >R называется случайной величиной, если

для любого х ( R множество { ? < x} = {?: ?(?) < x} является событием, то

есть принадлежит ?-алгебре событий ?.

Замечание 10. Можно смело считать, что любое множество элементарных

исходов есть событие, и, следовательно, случайная величина есть

произвольная функция из ? в R. Никаких неприятностей на практике это обычно

не влечет.

Определение 24. Будем говорить, что функция ?: ? >R является ?

-измеримой, если {?: ?(?) < x} принадлежит ? для любого х ( R.

Итак, случайная величина есть ? - измеримая функция, ставящая в

соответствие каждому элементарному исходу ? ( ? число ?(?) ( R.

Пример 21. Подбрасываем 1 раз кубик. Пусть ? = {1, 2, 3, 4, 5, 6} , и

две функции из ? в заданы так: ?(?)= ? , ?(?)= ?2.

Если ? есть множество всех подмножеств ?, то ? и ? являются случайными

величинами, поскольку любое множество элементарных исходов принадлежит ?, в

том числе и {?: ?(?) < x} или {?: ? (?) < x} . Можно записать

соответствие между значениями случайных величин ? и ? вероятностями

принимать эти значения в виде «таблицы распределения вероятностей» или,

коротко, «таблицы распределения»:

|? |1 |2 |3 |4 |5 |6 |

|Р |1/6|1/6|1/6|1/6|1/6|1/6|

|? |1 |4 |9 |16 |25 |36 |

|Р |1/6|1/6|1/6|1/6|1/6|1/6|

Здесь 1/6 = Р(?=1)=…= Р(?=6) = Р(? =1)= …= Р(? =36)

Пусть ? -алгебра событий ? состоит всего из четырех множеств:

? = { ? ,(, {1,3,5},{2,4,6} }

то есть событием является, кроме достоверного и невозможного событий,

выпадение четного (соответственно, нечетного) числа очков. Убедимся, что

при такой «бедной» ? -алгебре ни ?, ни ? не являются случайными величинами,

так как эти функции не ? - измеримы. Возьмем (например) x = 3,967. Видим,

что

{? ( ?: ?(?) < 3,967}= {1, 2, 3}( ? и {? ( ?: ? (?) < 3,967}= {1}( ?

Теперь попробуем понять, зачем нужна ? - измеримость и почему

требуется, чтобы {?: ?(?) < x} являлось событием.

Если задана случайная величина ?, нам может потребоваться вычислить

вероятности типа

P(? = 5) = P{?: ?(?) = 5},

P (? ( [-3,7]),

P(? ( 3,2),

P(? > 0)

(и вообще самые разные вероятности попадания в различные множества на

прямой). Это возможно только если множества, стоящие под знаком

вероятности, являются событиями (напомню, что вероятность есть функция из ?

- алгебры событий в [0,1]).

Но если потребовать, чтобы Ax = {?: ?(?) < x} было событием при любом

x, то мы из свойств ? - алгебры сразу получим, что

и [pic]— событие, и [pic]— событие,

и [pic]— событие,

и {?: ?(?) = x}= Bx \ Ax — событие,

(7)

и т.д., и т.п. (операции пересечения, объединения, дополнения событий

не выводят из класса событий).

Можно потребовать в определении 23 чего-нибудь другого. Например, чтобы

событием было попадание в любой интервал: (?: ?(?) ( [a, b]) для любых a <

b.

Или чтобы {?: ?(?) ( x} было событием для любого x. Любое такое

определение эквивалентно исходному.

Опишем различные типы распределений случайных величин. Под

распределением случайной величины мы будем понимать соответствие

«значение случайной величины ? вероятность принимать это

значение»,

либо (чаще)

«множество на прямой ? вероятность случайной величине попасть в

это множество».

6.2 Дискретные распределения

Определение 25. Говорят, что случайная величина ? имеет дискретное

распределение, если существует конечный или счетный набор чисел {a1, a2, …}

такой, что:

а) pi = P{ ? = ai} > 0 для всех i;

б)[pic].

То есть случайная величина ? имеет дискретное распределение, если она

принимает не более чем счетное число значений.

Определение 26. Если случайная величина ? имеет дискретное

распределение, назовем таблицей распределения соответствие ai ? pi, которое

чаще всего рисуют так:

|? |а1 |а2 |а3 |… |

|Р |р1 |р2 |р3 |… |

6.3 Примеры дискретных распределений

Вырожденное распределение.

Говорят, что случайная величина ? имеет вырожденное распределение с

параметром а, и пишут ? ( Ia если ? принимает единственное значение а с

вероятностью 1, то есть P(? = a) = 1. Таблица распределения ? имеет вид

|? |а |

|Р |1 |

Распределение Бернулли.

Говорят, что случайная величина ? имеет распределение Бернулли с

параметром р, и пишут ? ( Вр, если ? принимает значения 1 и 0 с

вероятностями р и 1 - р, соответственно. Случайная величина ? с таким

распределением равна числу успехов в одном испытании схемы Бернулли с

вероятностью успеха (0 успехов или 1 успех). Таблица распределения ? имеет

вид

|? |0 |1 |

|Р |(1-p)|р |

Биномиальное распределение.

Говорят, что случайная величина ? имеет биномиальное распределение с

параметрами n и p, где 0 ( p (, n и пишут ? ( Вn,р, если ? принимает

значения 0, 1, …,n с вероятностями P(? = k) = Cnk pk (1-p)n-k . Случайная

величина ? с таким распределением имеет смысл числа успехов в n испытаниях

схемы Бернулли с вероятностью успеха р .

Таблица распределения ? имеет вид

|? |0 |1 |… |k |… |n |

|Р |(1-p)|n |… |Cnk pk |… |Pn |

| |n |p(1-p)n-1 | |(1-p)n-k | | |

Геометрическое распределение.

Говорят, что случайная величина ? имеет геометрическое распределение с

параметром р, где 0 ( p (, n, и пишут ? ( Gр, если ? принимает значения 1,

2, 3, …с вероятностями P(? = k) = p (1-p)k-1. Случайная величина ? с таким

распределением имеет смысл номера первого успешного испытания в схеме

Бернулли с вероятностью успеха р .

Таблица распределения ? имеет вид

|? |1 |2 |… |k |… |

|Р |p |Р (1 – р) |… |p (1-p)k-1|… |

Распределение Пуассона.

Говорят, что случайная величина ? имеет распределение Пуассона с

параметром ?, где ? > 0 , и ? ( П ?, если ? принимает значения 0, 1, 2 … с

вероятностями

[pic]

Таблица распределения ? имеет вид

|? |1 |2 |… |k |… |

|Р |е- ? |? е- ? |… |(?k /k!)е-|… |

| | | | |? | |

Гипергеометрическое распределение.

Говорят, что случайная величина ? имеет гипергеометрическое

распределение с параметрами n, N и K, K ( N, n ( N если ? принимает целые

значения от max (0, N - K – n ) до min (K ,n ) с вероятностями

[pic]

. Случайная величина ? с таким распределением имеет смысл числа белых

шаров среди n шаров выбранных наудачу и без возвращения из урны, содержащей

К белых шаров и N-K не белых.

Заметьте, что со всеми этими распределениями мы уже хорошо знакомы.

Но распределения случайных величин далеко не исчерпываются дискретными

распределениями. Так, например, если точка бросается наудачу на отрезок

[0,1], то можно задать случайную величину, равную координате этой точки. Но

число значений этой случайной величины несчетно, так что ее распределение

дискретным не является. Да и вероятность этой случайной величине принять

каждое из своих возможных значений (попасть в точку) равна нулю. Так что не

только таблица распределения не существует, но и соответствие «значение

величины ( вероятность его принять» ничего не говорит о распределении

случайной величины.

Какими же характеристиками еще можно описать распределение?

Раздел 7. Функция распределения

Заметим, что на том же отрезке [0, 1] вероятности попадания в множества

положительной меры совсем не нулевые. И термин «наудачу» мы когда-то

описывали как раз в терминах вероятностей попадания в множество. Может

быть, разумно описать распределение случайной величины, задав для любого

множества, вероятность принять значения из этого множества? Это

действительно полное описание распределения, но уж очень трудно с ней

работать — слишком много множеств на прямой.

Нельзя ли обойтись заданием вероятностей попадания в какой-нибудь

меньший набор множеств на прямой? Оказывается, что можно ограничиться

только вероятностями попадания в интервалы (-(, х) для всех х ( R, с

помощью которых можно будет определить и вероятность попасть в любое другое

множество.

Замечание 11. Можно с таким же успехом ограничиться набором

вероятностей попадания в интервалы (-(, х], или в (х ,(), или в [х ,(), или

в (х1 ,x2). Впрочем, последних уже слишком много.

Определение 27.Функцией распределения случайной величины ? называется

функция F?(x) : R ( [0, 1], при каждом x ( R равная F?(x) = P(? < x) =

P{?: ?(?) < x}

Пример 22. Случайная величина ? имеет вырожденное распределение Ic.

Тогда

[pic]

Пример 23. Случайная величина ? имеет распределение Бернулли Вр. Тогда

[pic]

Пример 24. Будем говорить, что случайная величина ? имеет равномерное

распределение на отрезке [a, b] и писать ? ( Ua,b (“ uniform”), если ? —

координата точки, брошенной наудачу на отрезок [a, b] числовой прямой. Это

распределение можно задать и с помощью функции распределения:

[pic]

7.1 Свойства функции распределения

Теорема 19.

Функция распределения F?(x) обладает следующими свойствами:

F1) Функция распределения F?(x) не убывает: если х1 < x2 то F?(x1)<

F?(x2);

F2) Существуют пределы

[pic] и [pic]

F3) Функция распределения F?(x) непрерывна слева:

[pic]

Теорема 20. Если функция F: R ( [0, 1] удовлетворяет свойствам

(F1)–(F3), то F есть функция распределения некоторой случайной величины ?,

то есть найдется вероятностное пространство (?, ?, Р) и случайная величина

? на этом пространстве, что F(х) = F?(x).

Прочие полезные свойства функций распределения

F4) В любой точке х0 разница F?(х0+0) - F?(х0) равна P(? = х0):

Следствие 3. Если функция распределения F?(x) непрерывна в точке х0, то

P(? = х0) = 0

F5) Для любой случайной величины ? имеет место равенство P(а ( ? < b) =

F?(a) - F?(b).

Если же функция распределения F?(x) непрерывна (для любого x, или

только в точках a и b), то

P(а ( ? < b) = P(а < ? < b) = P(а ( ? ( b) = P(а < ? ( b) =

F?(a) - F?(b)

Функция распределения дискретного распределения

Мы уже видели, как выглядят функции распределения некоторых дискретных

распределений. Из свойств (F4), (F5) следует

Свойство 4. Случайная величина ? имеет дискретное распределение тогда и

только тогда, когда функция распределения F? — ступенчатая функция. При

этом возможные значения ? — точки ai скачков F?, и

pi = P(? = ai ) = F? (ai + 0) - F? (ai )— величины скачков.

В следующей главе мы рассмотрим случайные величины, функции

распределения которых не удовлетворяют свойству 4 хотя бы потому, что они

вовсе не имеют разрывов. Более того, мы выделим класс функций

распределения, которые «восстанавливаются по своей производной» с помощью

интегрирования (так называемые абсолютно непрерывные функции).

Раздел 8. Абсолютно непрерывные распределения

Определение 28.Случайная величина ? имеет называемые абсолютно

непрерывное распределение, если существует неотрицательная функция f?(x)

такая, что для любого х ( R функция распределения F?(x) представима в виде

[pic]

При этом функция f?(x) называется плотностью распределения случайной

величины ?.

Теорема 21.Плотность распределения обладает свойствами:

(f1) f?(x)( 0 для любого x;

(f2) [pic]

Эти два свойства полностью характеризуют класс плотностей:

Лемма 2. Если функция f обладает свойствами (f1) и (f2), то существует

вероятностное пространство и случайная величина ? на нем, для которой f

является плотностью распределения.

Доказательство. Пусть ? есть область, заключенная между осью абсцисс и

графиком функции f (« подграфик» функции f). Площадь области ? равна 1 по

свойству (f2). И пусть случайная величина ? есть абсцисса точки, наудачу

брошенной в эту область.

Тогда (вспомнить геометрическую вероятность) для любого х ( R

[pic]

то есть f является плотностью распределения случайной величины ?

Свойства плотностей

(f3) Если случайная величина ? имеет абсолютно непрерывное

распределение, то ее функция распределения всюду непрерывна.

Следствие 4. Если случайная величина ? имеет абсолютно непрерывное

распределение, то P(? = х) = 0 для любого х ( R.

(f4) Если случайная величина ? имеет абсолютно непрерывное

распределение, то ее функция распределения дифференцируема почти всюду, и

[pic]

для почти всех х.

Замечание 12. Термин для «почти всех» означает «для всех, кроме

(возможно) х из некоторого множества нулевой меры (длины)». Заметьте, что

стоящую под интегралом функцию можно изменить в одной точке (или на

множестве нулевой длины), и интеграл (« площадь подграфика») от этого не

изменится.

(f5) Если случайная величина ? имеет абсолютно непрерывное

распределение, то

[pic]

Доказательство. Действительно,

[pic]

Остальные равенства вытекают из следствия 5.

8.1 Примеры абсолютно непрерывных распределений

Равномерное.

Это распределение нам уже знакомо. Говорят, что ? имеет равномерное

распределение на отрезке [a, b], и пишут ? ( Ua,b если

[pic]

Заметьте, что в точках a и b функция распределения недифференцируема, и

плотность можно задать как угодно.

Показательное.

Говорят, что ? имеет показательное распределение с параметром ?, ? > 0

и ? ( Е?, если

[pic]

Показательное распределение является единственным абсолютно непрерывным

распределением, для которого выполнено свойство «не старения» (и в этом

смысле оно является непрерывным аналогом дискретного геометрического

распределения).

Теорема 21. Свойство «Не старения». Пусть ? ( Е?. Тогда для любых х, у

> 0

[pic]

Нормальное.

Говорят, что ? имеет нормальное распределение с параметрами а и ?2 ,

где а ( R, ? > 0, и пишут ? ( если ? имеет следующую плотность

распределения:

[pic]для любого x ( R

Убедимся, что f?(x)действительно является плотностью распределения. Так

как f?(x) > 0 для всех x ( R, то свойство (f1) выполнено. Проверим

выполнение (f2). Используем табличный интеграл (интеграл Пуассона)

[pic]

Нормальное (иначе называемое гауссовским по имени Карла Гаусса

распределение играет исключительно важную роль в теории вероятностей,

поэтому мы очень подробно изучим все свойства этого распределения.

8.2 Свойства нормального распределения

Нормальное распределение задается, как мы видим, с помощью плотности

распределения. Связано это с тем, что нельзя выписать первообразную от

функции[pic] иначе как в виде интеграла, поэтому функцию распределения

этого закона можно записать лишь в таком виде:

[pic]

Мы часто будем использовать обозначение для функции распределения

нормального распределения с параметрами а и ?2.

Стандартное нормальное распределение

Нормальное распределение при [pic] а = 0 и ?= 1 называется стандартным

нормальным распределением. Плотность стандартного нормального распределения

имеет вид

[pic]для любого x ( R

а функция распределения

[pic]

табулирована (то есть ее значения вычислены при многих х) почти во всех

математических справочниках. Установим связь между

[pic]

Свойство 5. Для любого x ( R справедливо соотношение

[pic]

То же самое на языке случайных величин можно сформулировать так:

Следствие 5. Если [pic] то

Следствие 6. Если [pic] то

[pic]

Как мы видим, вычисление любых вероятностей для нормально

распределенной случайной величины сводится к вычислению функции

распределения Ф0,1. Ее свойства

Свойство 6. Ф0,1(0) = 0,5

Свойство 7. Ф0,1(-х) = 1 - Ф0,1(х)

Свойство 8. Если ? ( N0,1, то

[pic]

Свойство 9 (« Правило трех сигм»).

Если [pic]то[pic]

Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что

почти вся масса нормального распределения сосредоточена в границах [a - 3?,

a - 3?] всегда полезно.

Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что

почти вся масса нормального распределения сосредоточена в границах [a-3?,

a+3?], всегда полезно.

Раздел 9. Случайные вектора и их распределения

Определение 29. Если случайные величины [pic] заданы на одном

вероятностном пространстве, то вектор ([pic]) мы будем называть случайным

вектором.

Определение 30. Функция [pic] называется функцией распределения

случайного вектора ([pic]) или функцией совместного распределения случайных

величин [pic].

9.1 Свойства функции совместного распределения

Для простоты обозначений все дальнейшие рассуждения и формулировки

приводятся в случае n = 2 для случайного вектора ([pic])

F0) [pic]

F1) [pic] не убывает по каждой координате вектора (x1 x2).

F2) Для любого i = 1, 2, существуют

[pic]

[pic]

При этом

[pic]

F3) Функция [pic] по каждой координате вектора (x1 x2) непрерывна

слева.

Только теперь этих свойств оказывается недостаточно для описания класса

функций совместного распределения. Иначе говоря, выполнение этих свойств

для некоторой функции F: R2 ( R вовсе не гарантирует, что эта функция

является функцией распределения некоторого случайного вектора.

Пример 25. Функция

[pic][pic]

a) удовлетворяет всем свойствам (F0)-(F3);

б) не является функцией распределения никакого вектора (?1, ?2.) хотя

бы потому, что, найдись такой вектор, найдется и прямоугольник [a1 b1] x

[a2 b2], вероятность попасть в который (вычисленная с помощью этой «функции

распределения») отрицательна:

P(a1 ( ?1< b1 , a2 ( ?2<b2 ) < 0!

Как же связана вероятность вектору попасть в прямоугольник с функцией

распределения этого вектора?

Упражнение. Доказать, что

P(a1 ( ?1< b1 , a2 ( ?2<b2 )= F ?1 ?2 (b1, b2) - F ?1 ?2 (a1, b2) - F

?1 ?2 (b1, a2) + F ?1 ?2 (a1, a2) (8)

Оказывается, если потребовать дополнительно от функции F, чтобы для

всякого [a1 b1] x [a2 b2] вероятность P(a1 ( ?1< b1] , [a2 ( ?2<b2],

связанная с функцией F равенством (8), была неотрицательна, то любая

функция, обладающая этим свойством и свойствами (F0)-(F3), уже будет

функцией распределения некоторого случайного вектора.

9.2 Типы многомерных распределений

Ограничимся рассмотрением только двух случаев, когда совместное

распределение координат случайного вектора (?1, ?2.) либо дискретно, либо

абсолютно непрерывно.

Дискретное совместное распределение

Определение 31. Говорят, что случайные величины ?1, ?2. имеют

дискретное, совместное распределение, если существует конечный или счетный

набор { ai, bi } такой, что

[pic]

Таблицу, на пересечении i-й строки и j-го столбца которой (или

наоборот) стоит число

P(?1= ai ,?2= bj) называют таблицей совместного распределения случайных

величин ?1,. ?2

Замечание 13. Напомню, что таблицы распределения каждой из случайных

величин ?1, ?2 в отдельности (таблицы частных, или маргинальных

распределений) восстанавливаются по таблице совместного распределения с

помощью очевидных формул:

[pic]

Если эти формулы вам не представляются очевидными, необходимо вернуться

к разделу 4 и перечитать определение 18 полной группы событий, обратив

также внимание на доказательство теоремы 8 (формулы полной вероятности).

Абсолютно непрерывное совместное распределение

Определение 32. Говорят, что с.в. ?1, ?2 (заданные на одном

вероятностном пространстве) имеют абсолютно непрерывное совместное

распределение, если существует функция [pic] такая, что для любой точки

(x1, x2) ( R2

[pic]

Если такая функция [pic] существует, она называется плотностью

совместного распределения случайных величин ?1, ?2.

Замечание 14. Для всего дальнейшего более чем достаточно считать, что

[pic]

равняется объему под графиком функции f над областью интегрирования —

прямоугольником [a1,b1] x [a2,b2].

Плотность совместного распределения обладает свойствами, аналогичными

свойствам плотности распределения одной случайной величины:

(f1) [pic]для любых x1, x2 ( R;

(f2) [pic].

Более того, любая функция, обладающая этими свойствами, является

плотностью некоторого совместного распределения.

Если совместное распределение абсолютно непрерывно, то по функции

совместного распределения его плотность находится как смешанная частная

производная:

(f3) [pic].

Из свойства (F2) функции совместного распределения вытекает следующее

утверждение. Для n > 2 это утверждение, как и свойство (F2), выглядит

существенно иначе!

Теорема 22. Если случайные величины ?1, ?2 имеют абсолютно

непрерывное совместное распределение с плотностью f (x1, x2), то ?1, и ?2 в

отдельности также имеют абсолютно непрерывное распределение с плотностями:

[pic]

9.3 Независимость случайных величин

Определение 33. Случайные величины ?1, ?2, … , ?n независимы, если для

любого набора множеств В1 ( R, … Вn ( R имеет место равенство:

[pic]

Это определение можно сформулировать в терминах функций распределения:

Определение 34. Случайные величины ?1, ?2, … , ?n независимы, если для

любых х1, х2, … , хn имеет место равенство:

[pic]

Определение 35. Случайные величины ?1, ?2, … , ?n с дискретным

распределением независимы, если для любых а1, а2, … , аn имеет место

равенство:

[pic]

Для случайных величин с абсолютно непрерывным совместным распределением

определение независимости можно сформулировать так:

Определение 36. Случайные величины ?1, ?2, … , ?n с абсолютно

непрерывным совместным распределением независимы, если плотность

совместного распределения равна произведению плотностей случайных ?1, ?2, …

, ?n, то есть для любых х1, х2, … , хn имеет место равенство:

[pic]

Раздел 10. Преобразования случайных величин

10.1 Преобразование одной случайной величины

Мы будем рассматривать только преобразования случайных величин с

абсолютно непрерывными распределениями. Пусть с. в. ? имеет функцию

распределения F?(x) и плотность распределения f?(x). Построим с помощью

функции g: R ( R случайную величину ?= g(?). Требуется найти функцию

распределения и, если существует, плотность распределения ?.

Замечание 15. Плотность распределения случайной величины ?= g(?)

существует далеко не при любых функциях g. Так, если функция g кусочно-

постоянна, то с. в. ? имеет дискретное распределение, и плотность ее

распределения не существует.

Плотность распределения g(?) заведомо существует, если, например,

функция g(?) монотонна («строго монотонна»). Вспомним, что означает «найти

плотность распределения ?, если она существует».

По определению, если мы представим (для любого х) функцию распределения

? в виде [pic] где подинтегральная функция h(y) неотрицательна, то

плотность распределения с.в. ? существует и в точности равна

подинтегральной функции f?(x) = h(x) .

Так что доказывать существование плотности распределения и находить ее

мы будем одновременно, находя нужное интегральное представление для функции

распределения.

Теорема 23. Пусть ? имеет функцию распределения F?(x) и плотность

распределения f?(x) , и постоянная a отлична от нуля. Тогда случайная

величина ? = a ? + b имеет плотность распределения

[pic]

Для произвольной монотонной функции g (то есть либо монотонно

возрастающей функции, либо монотонно убывающей функции справедливо

аналогичное теореме 23 утверждение).

Теорема 24. Пусть ? имеет функцию распределения F?(x) и плотность

распределения f?(x), и функция g: R ( R монотонна. Тогда случайная величина

?= g(?) имеет плотность распределения

[pic]

Здесь g -1— функция, обратная к g, и

[pic]— производная функции g -1.

Следствие 7. Если ? ( N0,1, то ? = ??+а ( [pic]

Следствие 8. Если ? ( [pic], то ? = (? –а)/ ? ( N0,1.

Следствие 9. Если ? ( Е?, то ? = ??( Е1

10.2 Функции от двух случайных величин

Пусть ?1 ?2 — случайные величины с плотностью совместного распределения

[pic], и задана функция g : R2 ( R. Требуется найти функцию (а если

существует, то и плотность) распределения случайной величины ? = g(?1 ,

?2).

Пользуясь тем, что вероятность случайному вектору попасть в область

можно вычислить как объем под графиком плотности распределения вектора над

этой областью, сформулируем утверждение.

Теорема 25. Пусть х( R, и область Dx ( R2 состоит из точек (x1 x2 )

таких, что g (x1 x2 ) < x. Тогда случайная величина ? = g(?1 , ?2). имеет

функцию распределения

[pic]

Всюду далее в этой главе предполагается, что случайные величины ?1 и ?2

независимы, то есть [pic]

Следствие 10 (Формула свертки). Если с. в. ?1 и ?2 независимы и имеют

абсолютно непрерывное распределение с плотностями f ?1 (x1) и f ?2 (x2).,

то плотность распределения суммы ?1 + ?2 равна «свертке» плотностей f ?1

(x1) и f ?2 (x2)

[pic] (9)

Следствие 10 не только предлагает формулу для вычисления плотности

распределения суммы, но и утверждает (заметьте!), что сумма двух

независимых случайных величин с абсолютно непрерывными распределениями

также имеет абсолютно непрерывное распределение.

Если даже одна из двух независимых случайных величин имеет дискретное,

а вторая – абсолютно непрерывное распределение, то их сумма тоже имеет

абсолютно непрерывное распределение, как показывает следующее упражнение.

Упражнение. Пусть с. в. ? имеет таблицу распределения P(? = аi) = pi,

с. в. ? имеет плотность распределения f?(x), и эти величины независимы.

Доказать, что ? +? имеет плотность распределения

[pic][pic]

10.3 Примеры использования формулы свертки

Пример 26. Пусть независимые случайные величины ? и ? имеют стандартное

нормальное распределение. Докажем, что их сумма имеет нормальное

распределение с параметрами 0 и 2.

Доказательство. По формуле свертки, плотность суммы равна

[pic]

Выделим полный квадрат по u в показателе экспоненты:

[pic]

Тогда

[pic]

Последнее равенство верно поскольку под интегралом стоит плотность

нормального распределения с параметрами 0 и [pic], так что интеграл по всей

прямой равен 1. Итак, мы получили, что плотность суммы есть плотность

нормального распределения с параметрами 0 и 2.

Если сумма двух независимых случайных величин из одного и того же

распределения (возможно, с разными параметрами) имеет такое же

распределение, говорят, что это распределение устойчиво относительно

суммирования.

В следующих утверждениях, перечислены практически все устойчивые

распределения.

Лемма 3. Пусть случайные величины ? ( П? и ?( П? независимы. Тогда ?+ ?

( П?+?

Лемма 4. Пусть случайные величины ? ( Bn,p и ? ( Bm,p независимы. Тогда

?+ ? ( Bm+n,p

Лемма 5. Пусть случайные величины [pic] и [pic] независимы. Тогда [pic]

Показательное распределение не устойчиво по суммированию, однако его

можно считать частным случаем гамма-распределения, которое уже в некотором

смысле устойчиво относительно суммирования.

Определение 37. Случайная величина ? имеет гамма-распределение Г?,? с

параметрами ? > 0, ? > 0, если она имеет плотность распределения

[pic]

где постоянная c вычисляется из условия

[pic]

Заметим, что показательное распределение Е? есть гамма-распределение

Г?,1.

Лемма 6. Пусть независимые случайные величины ?1, … , ?n имеют

показательное распределение Е? = Г?,1 Тогда ?1 +…+?n ( Г?,n

«Случайных величин без мат. ожидания не

бывает, так как, если у нас есть случайная

величина мы всегда в праве от нее что-нибудь

ожидать.»

Из студенческой контрольной работы.

Раздел 11. Числовые характеристики случайных величин

11.1 Математическое ожидание случайной величины

Определение 38. Математическим ожиданием E? (средним значением, первым

моментом) случайной величины ? с дискретным распределением, задаваемым

таблицей P(? = аi) = pi, называется число

[pic] если указанный ряд абсолютно сходится.

Если же

[pic], то говорят, что математическое ожидание не существует.

Определение 39. Математическим ожиданием E? случайной величины ? с

абсолютно непрерывным распределением с плотностью распределения f?(x),

называется число

[pic] если указанный интеграл абсолютно сходится.

Если же

[pic], то говорят, что математическое ожидание не существует.

Математическое ожидание имеет простой физический смысл: если на прямой

разместить единичную массу, поместив в точку аi массу pi (для дискретного

распределения), или «размазав» ее с плотностью f?(x) (для абсолютно

непрерывного распределения), то точка E? есть координата «центра тяжести»

прямой.

Пример 26. Пусть случайная величина ? равна числу очков, выпадающих при

одном подбрасывании кубика. Тогда

[pic]

[pic][pic]

в среднем при подбрасывании кубика выпадает 3.5 очка

Пример 27. Пусть случайная величина ? — координата точки, брошенной

наудачу на отрезок [a,b]. Тогда

[pic][pic]

центр тяжести равномерного распределения на отрезке есть середина

отрезка.

11.2 Свойства математического ожидания

Во всех свойствах предполагается, что рассматриваемые математические

ожидания существуют.

E0. Математическое ожидание случайной величины есть ЧИСЛО!

E1. Для произвольной функции функция g : R ( R

[pic]

Доказательство. Мы докажем это свойство (как и почти все дальнейшие)

только для дискретного распределения. Пусть g(?) принимает значения с1 с2 …

с вероятностями

[pic]

Тогда

[pic]

E2 Математическое ожидание const равно этой const Eс = с.

E3. const можно вынести за знак математического ожидания: E(с ?) = с

E?.

Доказательство. Следует из свойства E1 при g(?) = с ? .

E4. Математическое ожидание суммы любых случайных величин ? и ? равно

сумме их математических ожиданий.

E (? + ? ) = E (? )+ E (?)

Доказательство. Для величин с дискретным распределением: пусть xk и yn

— значения ? и ?, соответственно.

[pic]

E5.Если ? ( 0 п.н. (« почти наверное», т.е. с вероятностью 1: P(? ( 0 )

= 1), то E ? ( 0;

Если ? ( 0 п.н., и при этом E? = 0, то ? = 0 п.н., то есть P(? = 0) =

1.

Следствие 11.

Если ? ( ? п.н., то E ? ( E? .

Если ? ( ? п.н., и при этом E? = E?, то ? = ? п.н.

E6. Математическое ожидание произведения независимых случайных величин

равно произведению их математических ожиданий.: если ? и ? независимы, то

E(??) = E? E?.

Доказательство.

[pic]

Замечание 16. Обратное утверждение к свойству E6 неверно: из равенства

E(??) = E? E?. Не следует независимость величин ? и ?.

Страницы: 1, 2, 3