Распределение вероятностей

Материал из testwiki
Перейти к навигации Перейти к поиску

Распределение вероятностей — это закон описывающий область значений случайной величины и соответствующие вероятности появления этих значений.

Определение

Пусть задано вероятностное пространство (Ω,ℱ,ℙ), и на нём определена случайная величина X:Ω→ℝ. В частности, по определению, X является измеримым отображением измеримого пространства (Ω,ℱ) в измеримое пространство (ℝ,ℬ(ℝ)), где ℬ(ℝ) обозначает борелевскую сигма-алгебру на ℝ.

Тогда случайная величина X индуцирует вероятностную меру ℙX на ℝ следующим образом:

ℙX(B)=ℙ(X−1(B))=ℙ({ω:X(ω)∈B}),∀B∈ℬ(ℝ).

Мера ℙX называется распределением случайной величины X. Иными словами, ℙX(B)=ℙ(X∈B), таким образом ℙX(B) задаёт вероятность того, что случайная величина X попадает во множество B∈ℬ(ℝ).

Классификация распределений

Функция FX(x)=ℙX((−∞,x])=ℙ(X⩽x) называется (кумулятивной) функцией распределения случайной величины X. Из свойств вероятности вытекает теорема:

Функция распределения FX(x) любой случайной величины удовлетворяет следующим трем свойствам:

  1. FX — функция неубывающая;
  2. limx→−∞FX(x)=0,limx→∞FX(x)=1;
  3. FX непрерывна справа.

Из того факта, что борелевская сигма-алгебра на вещественной прямой порождается семейством интервалов вида {(−∞,x]}x∈ℝ, вытекает теорема:

Любая функция F(x), удовлетворяющая трём свойствам, перечисленным выше, является функцией распределения для какого-то распределения ℙX.

Для вероятностных распределений, обладающих определенными свойствами, существуют более удобные способы их задания. В то же время распределения (и случайные величины) принято классифицировать по характеру функций распределения[1].

Дискретные распределения

Случайная величина X называется простой или дискретной, если она принимает не более чем счётное, конечное число значений. То есть X(ω)=ai,∀ω∈Ai, где {Ai}i=1∞ — разбиение Ω.

Распределение простой случайной величины тогда по определению задаётся: ℙX(B)=∑i:ai∈Bℙ(Ai). Введя обозначение pi=ℙ(Ai), можно задать функцию p(ai)=pi. В силу свойств вероятности ∑i=1∞pi=1. Используя счётную аддитивность ℙ, легко показать, что эта функция однозначно определяет распределение X.

Набор вероятностей p(ai)=pi, где ∑i=1∞pi=1 называется распределением вероятностей дискретной случайной величины X. Совокупность значений ai,i=1,2...∞ и вероятностей pi,i∈1,2...∞ называется дискретным законом распределения вероятностей[2].

Шаблон:Начало цитаты Для иллюстрации сказанного выше, рассмотрим следующий пример.

Пусть функция p задана таким образом, что p(−1)=12 и p(1)=12. Эта функция задаёт распределение случайной величины X, для которой ℙ(X=±1)=12 (см. распределение Бернулли, где случайная величина принимает значения 0,1). Случайная величина X является моделью подбрасывания уравновешенной монеты. Шаблон:Конец цитаты

Другими примерами дискретных случайных величин являются распределения

Дискретное распределение обладает следующими свойствами:

  1. pi⩾0,
  2. ∑i=1npi=1, если множество значений - конечное — из свойств вероятности,
  3. Функция распределения FX(x) имеет конечное или счётное множество точек разрыва первого рода,
  4. Если x0 - точка непрерывности FX(x), то существует dFX(x0)dx=0.

Решётчатые распределения

Решётчатым называется распределение с дискретной функцией распределения и точки разрыва функции распределения образуют подмножество точек вида a+nh, где a - вещественное, h>0, n - целоеШаблон:Sfn.

Теорема. Для того, чтобы функция распределения F была решётчатой с шагом h, необходимо и достаточно, чтобы её характеристическая функция f удовлетворяла соотношению |f(2π/h)|=1Шаблон:Sfn.

Абсолютно непрерывные распределения

Шаблон:Main Распределение случайной величины X называется абсолютно непрерывным, если существует неотрицательная функция fX:ℝ→ℝ+

такая что

ℙX(B)≡ℙ(X∈B)=∫BfX(x)dx.

Тогда функция fX называется плотностью распределения вероятностей случайной величины X.

Функция таких распределений абсолютно непрерывна в смысле Лебега.

Примерами абсолютно непрерывных распределений являются

Пример. Пусть f(x)=1, когда 0⩽x⩽1, и f(x)=0 в противном случае. Тогда ℙ(a<X<b)=∫ab1dx=b−a, если (a,b)⊂[0,1].

Для любой плотности распределения fX верны свойства:

  1. fX(x)⩾0;
  2. ∫−∞∞fX(x)dx=1.

Верно и обратное — если функция f:ℝ→ℝ такая, что:

  1. f(x)⩾0,∀x∈ℝ;
  2. ∫−∞∞f(x)dx=1,

то существует распределение ℙX такое, что f(x) является его плотностью.

Применение формулы Ньютона-Лейбница приводит к следующим соотношениям между функцией и плотностью абсолютно непрерывного распределения:

ℙ(a<X<b)=F(b)−F(a)=∫abf(t)dt.


Теорема. Если f(x) — непрерывная плотность распределения, а F(x) — его функция распределения, то

  1. F′(x)=f(x),∀x∈ℝ,
  2. F(x)=∫−∞xf(t)dt.

При построении распределения на основе эмпирических данных следует избегать ошибок округления.

Сингулярные распределения

Шаблон:Main Кроме дискретных и непрерывных случайных величин существуют величины, не являющиеся ни дискретными, ни непрерывными ни на одном интервале. К таким случайным величинам относятся величины функции распределения которых непрерывны, но возрастают только на множестве лебеговой меры нуль[3].

Сингулярными называют распределения, сосредоточенные на множестве нулевой меры, обычно меры Лебега.

Таблица основных распределений

Дискретные распределения
Название Обозначение Параметр Носитель Плотность (последовательность вероятностей) Матем. ожидание Дисперсия Характеристическая функция
Дискретное равномерное R{1,…,N} N∈ℕ {1,…,N} P({k})=1N,k∈{1,…,N} N+12 N2−112 eit−ei(N+1)tN(1−eit)
Бернулли Bern(p) p∈(0,1) {0,1} P({0})=1−p,P({1})=p p p(1−p) peit+1−p
Биноминальное Bin(n,p) n∈ℕ,p∈(0,1) {0,…,n} P({k})=Cnkpk(1−p)n−k np np(1−p) (peit+1−p)n
Пуассоновское Pois(λ) λ>0 ℤ+ P({k})=λkk!e−λ λ λ eλ(eit−1)
Геометрическое Geom(p) p∈(0,1] ℕ P({k})=(1−p)k−1p 1p 1−pp2 peit1−(1−p)eit
Абсолютно непрерывные распределения
Название Обозначение Параметр Носитель Плотность вероятности f(x) Функция распределения F(х) Характеристическая функция Математическое ожидание Медиана Мода Дисперсия Коэффициент асимметрии Коэффициент эксцесса Дифференциальная энтропия Производящая функция моментов
Равномерное непрерывное U(a,b) a,b∈ℝ,a<b, a — коэффициент сдвига, b−a — коэффициент масштаба [a,b] 1b−aI{x∈[a,b]} x−ab−aI{x∈[a,b]}+I{x>b} eitb−eitait(b−a) a+b2 a+b2 любое число из отрезка [a,b] (b−a)212 0 −65 ln⁡(b−a) etb−etat(b−a)
Нормальное (гауссовское) N(μ,σ2) μ∈ℝ— коэффициент сдвига, σ>0 — коэффициент масштаба ℝ 1σ2πe−(x−μ)22σ2 12(1+erf⁡(x−μ2σ2)) eiμt−σ2t22 μ μ μ σ2 0 0 ln⁡(σ2πe) eμt+σ2t22
Логнормальное LN(μ,σ2) μ∈ℝ,σ>0 (0;+∞) 1xσ2πe−12(ln⁡(x)−μσ)2 12+12Erf[ln⁡(x)−μσ2] ∑n=0∞(it)nn!enμ+n2σ2/2 eμ+σ2/2 eμ eμ−σ2 (eσ2−1)e2μ+σ2 (eσ2+2)eσ2−1 e4σ2+2e3σ2+3e2σ2−6 12+12ln⁡(2πσ2)+μ esμ+12s2σ2.
Гамма-распределение Γ(α,β) α>0,β>0 ℝ+ αβxβ−1Γ(β)e−αx 1Γ(β)γ(β,αx) (1−itα)−β βα β−1α при β≥1 βα2 2β 6β β−ln⁡α+ln⁡Γ(β)+(1−β)ψ(β) (1−tα)−β при t<α
Экспоненциальное Exp(λ) λ>0 ℝ+ λe−λxI{x>0} 1−e−λx λλ−it 1λ ln⁡(2)/λ 0 λ−2 2 6 1−ln⁡(λ) (1−tλ)−1
Лапласа Laplace(α,β) α>0 — коэффициент масштаба, β∈ℝ — коэффициент сдвига ℝ α2e−α|x−β| {12eα(x−β),x⩽β1−12e−α(x−β),x>β α2α2+t2eitβ β β β 2α2 0 3 ln⁡2eα eβt1−α2t2 для |t|<1/α
Коши Cauchy(x0,γ) x0 — коэффициент сдвига, γ>0 — коэффициент масштаба ℝ 1π(γγ2+(x−x0)2) 1πarctg(x−x0γ)+12 eix0t−γ|t| нет x0 x0 +∞ нет нет ln⁡(4πγ) нет
Бета-распределение Beta(α,β) α>0,β>0 [0,1] xα−1(1−x)β−1B(α,β) Ix(α,β) 1F1(α;α+β;it) αα+β I12[−1](α,β)≈α−13α+β−23 для α,β>1 α−1α+β−2 для α>1,β>1 αβ(α+β)2(α+β+1) 2(β−α)α+β+1(α+β+2)αβ 6α3−α2(2β−1)+β2(β+1)−2αβ(β+2)αβ(α+β+2)(α+β+3) 1+∑k=1∞(∏r=0k−1α+rα+β+r)tkk!
хи-квадрат χ2(k) k>0— число степеней свободы ℝ+ (1/2)k/2Γ(k/2)xk/2−1e−x/2 γ(k/2,x/2)Γ(k/2) (1−2it)−k/2 k примерно k−2/3 k−2 если k≥2 2k 8/k 12/k k2+ln⁡[2Γ(k2)]+(1−k2)ψ(k2) (1−2t)−k/2, если 2t<1
Стьюдента t(n) n>0 — число степеней свободы ℝ Γ(n+12)nπΓ(n2)(1+x2n)−n+12 12+xΓ(n+12)2F1(12,n+12;32;−x2n)πnΓ(n2) Kn/2(n|t|)⋅(n|t|)n/2Γ(n/2)2n/2−1 для n>0 0, если n>1 0 0 nn−2, если n>2 0, если n>3 6n−4, если n>4 n+12[ψ(1+n2)−ψ(n2)]+log⁡[nB(n2,12)] Нет
Фишера F(d1,d2) d1>0, d2>0 - числа степеней свободы ℝ+ (d1x)d1d2d2(d1x+d2)d1+d2xB(d12,d22) Id1xd1x+d2(d1/2,d2/2) Γ(d1+d22)Γ(d22)U(d12,1−d22,−d2d1ıs) d2d2−2, если d2>2 d1−2d1d2d2+2, если d1>2 2d22(d1+d2−2)d1(d2−2)2(d2−4), если d2>4 (2d1+d2−2)8(d2−4)(d2−6)d1(d1+d2−2),
если d2>6
12d1(5d2−22)(d1+d2−2)+(d2−4)(d2−2)2d1(d2−6)(d2−8)(d1+d2−2) ln⁡Γ(d12)+ln⁡Γ(d22)−ln⁡Γ(d1+d22)+
(1−d12)ψ(1+d12)−(1+d22)ψ(1+d22)
+(d1+d22)ψ(d1+d22)+ln⁡d1d2
Рэлея Rayleigh(σ) σ ℝ+ xσ2e−x22σ2 1−e−x22σ2 1−σte−σ2t2/2π2(erfi(σt2)−i) π2σ σln⁡(4) σ (2−π/2)σ2 2π(π−3)(4−π)3/2 −6π2−24π+16(4−π)2 1+ln⁡(σ2)+γ2 1+σteσ2t2/2π2(erf(σt2)+1)
Вейбулла W(k,λ) λ>0 - коэффициент масштаба, k>0 - коэффициент формы ℝ+ kλ(xλ)k−1e−(xλ)k 1−e−(xλ)k ∑n=0∞(it)nλnn!Γ(1+n/k) λΓ(1+1k) λln⁡(2)1/k λ(k−1)1kk1k, для k>1 λ2Γ(1+2k)−μ2 Γ(1+3k)λ3−3μΓ(1+2k)λ2+2μ3σ3 λ4Γ(1+4k)−4λ3μΓ(1+3k)+6λ2μ2Γ(1+2k)−3μ4σ4 γ(1−1k)+(λk)k+ln⁡(λk) ∑n=0∞tnλnn!Γ(1+n/k), k≥1
Логистическое L(μ,s) μ, s>0 ℝ e−(x−μ)/ss(1+e−(x−μ)/s)2 11+e−(x−μ)/s eiμtB(1−ist,1+ist) для |ist|<1 μ μ μ π23s2 0 6/5 ln⁡(s)+2 eμtB(1−st,1+st)
для |st|<1
Вигнера ρ(R) R>0 - радиус [−R;+R] 2πR2R2−x2 12+xR2−x2πR2+arcsin⁡(xR)π для −R≤x≤R 2J1(Rt)Rt 0 0 0 R24 0 −1 ln⁡(πR)−12 2I1(Rt)Rt
Парето Pareto(k,xm) xm>0 — коэффициент масштаба, k>0 [xm;+∞) kxmkxk+1 1−(xmx)k k(Γ(−k)[xmk(−it)k−(−ixmt)k]+Ek+1(−ixmt)) kxmk−1, если k>1 xm2k xm (xmk−1)2kk−2 при k>2 2(1+k)k−3k−2k при k>3 6(k3+k2−6k−2)k(k−3)(k−4) при k>4 ln⁡(kxm)−1k−1 нет

где Γ - гамма-функция, γ - неполная гамма-функция, ψ=Γ′/Γ - дигамма-функция, B - бета-функция, Ix - регуляризованная неполная бета-функция, 1F1, 2F1 — гипергеометрическая функция, Jα - функция Бесселя, Iν - модифицированная функция Бесселя первого рода, Kν - модифицированная функция Бесселя второго рода, U(a,b,z) - функция Трикоми.


Многомерные распределения
Название Обозначение Параметр Носитель Плотность (последовательность вероятностей) Матем. ожидание Дисперсия Характеристическая функция
Гауссовское N(a,Σ) a∈ℝn,Σ∈ℝn×n - симм. и неотр. опр. ℝn p(x)=1(2π)ndet⁡Σe−12(x−a)TΣ−1(x−a) a Σ eiaTt−12tTΣt

Примечания

Шаблон:Примечания

Литература

См. также

Шаблон:Вс Шаблон:Список вероятностных распределений Шаблон:Проще Шаблон:Нет источников

  1. ↑ Маталыцкий, Хацкевич. Теория вероятностей, математическая статистика и случайные процессы, 2012. - С.69
  2. ↑ Маталыцкий, Хацкевич. Теория вероятностей, математическая статистика и случайные процессы, 2012. - С.68
  3. ↑ Маталыцкий, Хацкевич. Теория вероятностей, математическая статистика и случайные процессы, 2012. — С.76