Распределение вероятностей

Материал из testwiki
Перейти к навигации Перейти к поиску

Распределение вероятностей — это закон описывающий область значений случайной величины и соответствующие вероятности появления этих значений.

Определение

Пусть задано вероятностное пространство (Ω,,), и на нём определена случайная величина X:Ω. В частности, по определению, X является измеримым отображением измеримого пространства (Ω,) в измеримое пространство (,()), где () обозначает борелевскую сигма-алгебру на .

Тогда случайная величина X индуцирует вероятностную меру X на следующим образом:

X(B)=(X1(B))=({ω:X(ω)B}),B().

Мера X называется распределением случайной величины X. Иными словами, X(B)=(XB), таким образом X(B) задаёт вероятность того, что случайная величина X попадает во множество B().

Классификация распределений

Функция FX(x)=X((,x])=(Xx) называется (кумулятивной) функцией распределения случайной величины X. Из свойств вероятности вытекает теорема:

Функция распределения FX(x) любой случайной величины удовлетворяет следующим трем свойствам:

  1. FX — функция неубывающая;
  2. limxFX(x)=0,limxFX(x)=1;
  3. FX непрерывна справа.

Из того факта, что борелевская сигма-алгебра на вещественной прямой порождается семейством интервалов вида

{(,x]}x

, вытекает теорема:

Любая функция

F(x)

, удовлетворяющая трём свойствам, перечисленным выше, является функцией распределения для какого-то распределения

X

.

Для вероятностных распределений, обладающих определенными свойствами, существуют более удобные способы их задания. В то же время распределения (и случайные величины) принято классифицировать по характеру функций распределения[1].

Дискретные распределения

Случайная величина X называется простой или дискретной, если она принимает не более чем счётное, конечное число значений. То есть X(ω)=ai,ωAi, где {Ai}i=1 — разбиение Ω.

Распределение простой случайной величины тогда по определению задаётся: X(B)=i:aiB(Ai). Введя обозначение pi=(Ai), можно задать функцию p(ai)=pi. В силу свойств вероятности i=1pi=1. Используя счётную аддитивность , легко показать, что эта функция однозначно определяет распределение X.

Набор вероятностей p(ai)=pi, где i=1pi=1 называется распределением вероятностей дискретной случайной величины X. Совокупность значений ai,i=1,2... и вероятностей pi,i1,2... называется дискретным законом распределения вероятностей[2].

Шаблон:Начало цитаты Для иллюстрации сказанного выше, рассмотрим следующий пример.

Пусть функция p задана таким образом, что p(1)=12 и p(1)=12. Эта функция задаёт распределение случайной величины X, для которой (X=±1)=12 (см. распределение Бернулли, где случайная величина принимает значения 0,1). Случайная величина X является моделью подбрасывания уравновешенной монеты. Шаблон:Конец цитаты

Другими примерами дискретных случайных величин являются распределения

Дискретное распределение обладает следующими свойствами:

  1. pi0,
  2. i=1npi=1, если множество значений - конечное — из свойств вероятности,
  3. Функция распределения FX(x) имеет конечное или счётное множество точек разрыва первого рода,
  4. Если x0 - точка непрерывности FX(x), то существует dFX(x0)dx=0.

Решётчатые распределения

Решётчатым называется распределение с дискретной функцией распределения и точки разрыва функции распределения образуют подмножество точек вида a+nh, где a - вещественное, h>0, n - целоеШаблон:Sfn.

Теорема. Для того, чтобы функция распределения F была решётчатой с шагом h, необходимо и достаточно, чтобы её характеристическая функция f удовлетворяла соотношению |f(2π/h)|=1Шаблон:Sfn.

Абсолютно непрерывные распределения

Шаблон:Main Распределение случайной величины X называется абсолютно непрерывным, если существует неотрицательная функция fX:+

такая что

X(B)(XB)=BfX(x)dx.

Тогда функция fX называется плотностью распределения вероятностей случайной величины X.

Функция таких распределений абсолютно непрерывна в смысле Лебега.

Примерами абсолютно непрерывных распределений являются

Пример. Пусть f(x)=1, когда 0x1, и f(x)=0 в противном случае. Тогда (a<X<b)=ab1dx=ba, если (a,b)[0,1].

Для любой плотности распределения fX верны свойства:

  1. fX(x)0;
  2. fX(x)dx=1.

Верно и обратное — если функция f: такая, что:

  1. f(x)0,x;
  2. f(x)dx=1,

то существует распределение X такое, что f(x) является его плотностью.

Применение формулы Ньютона-Лейбница приводит к следующим соотношениям между функцией и плотностью абсолютно непрерывного распределения:

(a<X<b)=F(b)F(a)=abf(t)dt.


Теорема. Если f(x) — непрерывная плотность распределения, а F(x) — его функция распределения, то

  1. F(x)=f(x),x,
  2. F(x)=xf(t)dt.

При построении распределения на основе эмпирических данных следует избегать ошибок округления.

Сингулярные распределения

Шаблон:Main Кроме дискретных и непрерывных случайных величин существуют величины, не являющиеся ни дискретными, ни непрерывными ни на одном интервале. К таким случайным величинам относятся величины функции распределения которых непрерывны, но возрастают только на множестве лебеговой меры нуль[3].

Сингулярными называют распределения, сосредоточенные на множестве нулевой меры, обычно меры Лебега.

Таблица основных распределений

Дискретные распределения
Название Обозначение Параметр Носитель Плотность (последовательность вероятностей) Матем. ожидание Дисперсия Характеристическая функция
Дискретное равномерное R{1,,N} N {1,,N} P({k})=1N,k{1,,N} N+12 N2112 eitei(N+1)tN(1eit)
Бернулли Bern(p) p(0,1) {0,1} P({0})=1p,P({1})=p p p(1p) peit+1p
Биноминальное Bin(n,p) n,p(0,1) {0,,n} P({k})=Cnkpk(1p)nk np np(1p) (peit+1p)n
Пуассоновское Pois(λ) λ>0 + P({k})=λkk!eλ λ λ eλ(eit1)
Геометрическое Geom(p) p(0,1] P({k})=(1p)k1p 1p 1pp2 peit1(1p)eit
Абсолютно непрерывные распределения
Название Обозначение Параметр Носитель Плотность вероятности f(x) Функция распределения F(х) Характеристическая функция Математическое ожидание Медиана Мода Дисперсия Коэффициент асимметрии Коэффициент эксцесса Дифференциальная энтропия Производящая функция моментов
Равномерное непрерывное U(a,b) a,b,a<b, aкоэффициент сдвига, baкоэффициент масштаба [a,b] 1baI{x[a,b]} xabaI{x[a,b]}+I{x>b} eitbeitait(ba) a+b2 a+b2 любое число из отрезка [a,b] (ba)212 0 65 ln(ba) etbetat(ba)
Нормальное (гауссовское) N(μ,σ2) μкоэффициент сдвига, σ>0 коэффициент масштаба 1σ2πe(xμ)22σ2 12(1+erf(xμ2σ2)) eiμtσ2t22 μ μ μ σ2 0 0 ln(σ2πe) eμt+σ2t22
Логнормальное LN(μ,σ2) μ,σ>0 (0;+) 1xσ2πe12(ln(x)μσ)2 12+12Erf[ln(x)μσ2] n=0(it)nn!enμ+n2σ2/2 eμ+σ2/2 eμ eμσ2 (eσ21)e2μ+σ2 (eσ2+2)eσ21 e4σ2+2e3σ2+3e2σ26 12+12ln(2πσ2)+μ esμ+12s2σ2.
Гамма-распределение Γ(α,β) α>0,β>0 + αβxβ1Γ(β)eαx 1Γ(β)γ(β,αx) (1itα)β βα β1α при β1 βα2 2β 6β βlnα+lnΓ(β)+(1β)ψ(β) (1tα)β при t<α
Экспоненциальное Exp(λ) λ>0 + λeλxI{x>0} 1eλx λλit 1λ ln(2)/λ 0 λ2 2 6 1ln(λ) (1tλ)1
Лапласа Laplace(α,β) α>0коэффициент масштаба, βкоэффициент сдвига α2eα|xβ| {12eα(xβ),xβ112eα(xβ),x>β α2α2+t2eitβ β β β 2α2 0 3 ln2eα eβt1α2t2 для |t|<1/α
Коши Cauchy(x0,γ) x0коэффициент сдвига, γ>0коэффициент масштаба 1π(γγ2+(xx0)2) 1πarctg(xx0γ)+12 eix0tγ|t| нет x0 x0 + нет нет ln(4πγ) нет
Бета-распределение Beta(α,β) α>0,β>0 [0,1] xα1(1x)β1B(α,β) Ix(α,β) 1F1(α;α+β;it) αα+β I12[1](α,β)α13α+β23 для α,β>1 α1α+β2 для α>1,β>1 αβ(α+β)2(α+β+1) 2(βα)α+β+1(α+β+2)αβ 6α3α2(2β1)+β2(β+1)2αβ(β+2)αβ(α+β+2)(α+β+3) 1+k=1(r=0k1α+rα+β+r)tkk!
хи-квадрат χ2(k) k>0— число степеней свободы + (1/2)k/2Γ(k/2)xk/21ex/2 γ(k/2,x/2)Γ(k/2) (12it)k/2 k примерно k2/3 k2 если k2 2k 8/k 12/k k2+ln[2Γ(k2)]+(1k2)ψ(k2) (12t)k/2, если 2t<1
Стьюдента t(n) n>0 — число степеней свободы Γ(n+12)nπΓ(n2)(1+x2n)n+12 12+xΓ(n+12)2F1(12,n+12;32;x2n)πnΓ(n2) Kn/2(n|t|)(n|t|)n/2Γ(n/2)2n/21 для n>0 0, если n>1 0 0 nn2, если n>2 0, если n>3 6n4, если n>4 n+12[ψ(1+n2)ψ(n2)]+log[nB(n2,12)] Нет
Фишера F(d1,d2) d1>0, d2>0 - числа степеней свободы + (d1x)d1d2d2(d1x+d2)d1+d2xB(d12,d22) Id1xd1x+d2(d1/2,d2/2) Γ(d1+d22)Γ(d22)U(d12,1d22,d2d1ıs) d2d22, если d2>2 d12d1d2d2+2, если d1>2 2d22(d1+d22)d1(d22)2(d24), если d2>4 (2d1+d22)8(d24)(d26)d1(d1+d22),
если d2>6
12d1(5d222)(d1+d22)+(d24)(d22)2d1(d26)(d28)(d1+d22) lnΓ(d12)+lnΓ(d22)lnΓ(d1+d22)+
(1d12)ψ(1+d12)(1+d22)ψ(1+d22)
+(d1+d22)ψ(d1+d22)+lnd1d2
Рэлея Rayleigh(σ) σ + xσ2ex22σ2 1ex22σ2 1σteσ2t2/2π2(erfi(σt2)i) π2σ σln(4) σ (2π/2)σ2 2π(π3)(4π)3/2 6π224π+16(4π)2 1+ln(σ2)+γ2 1+σteσ2t2/2π2(erf(σt2)+1)
Вейбулла W(k,λ) λ>0 - коэффициент масштаба, k>0 - коэффициент формы + kλ(xλ)k1e(xλ)k 1e(xλ)k n=0(it)nλnn!Γ(1+n/k) λΓ(1+1k) λln(2)1/k λ(k1)1kk1k, для k>1 λ2Γ(1+2k)μ2 Γ(1+3k)λ33μΓ(1+2k)λ2+2μ3σ3 λ4Γ(1+4k)4λ3μΓ(1+3k)+6λ2μ2Γ(1+2k)3μ4σ4 γ(11k)+(λk)k+ln(λk) n=0tnλnn!Γ(1+n/k), k1
Логистическое L(μ,s) μ, s>0 e(xμ)/ss(1+e(xμ)/s)2 11+e(xμ)/s eiμtB(1ist,1+ist) для |ist|<1 μ μ μ π23s2 0 6/5 ln(s)+2 eμtB(1st,1+st)
для |st|<1
Вигнера ρ(R) R>0 - радиус [R;+R] 2πR2R2x2 12+xR2x2πR2+arcsin(xR)π для RxR 2J1(Rt)Rt 0 0 0 R24 0 1 ln(πR)12 2I1(Rt)Rt
Парето Pareto(k,xm) xm>0коэффициент масштаба, k>0 [xm;+) kxmkxk+1 1(xmx)k k(Γ(k)[xmk(it)k(ixmt)k]+Ek+1(ixmt)) kxmk1, если k>1 xm2k xm (xmk1)2kk2 при k>2 2(1+k)k3k2k при k>3 6(k3+k26k2)k(k3)(k4) при k>4 ln(kxm)1k1 нет

где Γ - гамма-функция, γ - неполная гамма-функция, ψ=Γ/Γ - дигамма-функция, B - бета-функция, Ix - регуляризованная неполная бета-функция, 1F1, 2F1гипергеометрическая функция, Jα - функция Бесселя, Iν - модифицированная функция Бесселя первого рода, Kν - модифицированная функция Бесселя второго рода, U(a,b,z) - функция Трикоми.


Многомерные распределения
Название Обозначение Параметр Носитель Плотность (последовательность вероятностей) Матем. ожидание Дисперсия Характеристическая функция
Гауссовское N(a,Σ) an,Σn×n - симм. и неотр. опр. n p(x)=1(2π)ndetΣe12(xa)TΣ1(xa) a Σ eiaTt12tTΣt

Примечания

Шаблон:Примечания

Литература

См. также

Шаблон:Вс Шаблон:Список вероятностных распределений Шаблон:Проще Шаблон:Нет источников

  1. Маталыцкий, Хацкевич. Теория вероятностей, математическая статистика и случайные процессы, 2012. - С.69
  2. Маталыцкий, Хацкевич. Теория вероятностей, математическая статистика и случайные процессы, 2012. - С.68
  3. Маталыцкий, Хацкевич. Теория вероятностей, математическая статистика и случайные процессы, 2012. — С.76