Плотность вероятности

Пло́тность вероя́тности — один из способов задания распределения случайной величины. Во многих практических приложениях понятия «плотность вероятности» и «плотность (распределения) случайной величины» или «функция распределения вероятностей» фактически синонимизируютсяШаблон:Нет АИ и под ними подразумевается вещественная функция, характеризующая сравнительную вероятность реализации тех или иных значений случайной переменной (переменных).

Прикладное описание понятия

Плотность распределения одномерной непрерывной случайной величины $\xi$ — это числовая функция $f(x)$, отношение $f(x_1)/f(x_2)$ значений которой в точках $x_1$ и $x_2$ задаёт отношение вероятностей попаданий величины $\xi$ в узкие интервалы равной ширины $[x_1,x_1+\mathrm{\Delta }x]$ и $[x_2,x_2+\mathrm{\Delta }x]$ вблизи данных точек.

Плотность распределения неотрицательна при любом $x$ и нормирована, то есть

$\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}f(x)\text{d}x=1$

При стремлении $x$ к $\pm \mathrm{\infty }$ функция $f(x)$ стремится к нулю. Размерность плотности распределения всегда обратная к размерности случайной величины — если $\xi$ исчисляется в метрах, то размерностью $f$ будет м^-1.

Вероятность $P$ попадания случайной величины в интервал между $a$ и $b$ равна площади $S$ под графиком функции плотности вероятности $f(x)$.

Если в конкретной ситуации известно выражение для $f(x)$, с его помощью можно вычислить вероятность попадания величины $\xi$ в интервал $[a,b]$ как

$P(\xi \in [a,b])=\underset{a}{\overset{b}{\int }}f(x)\text{d}x$.

Зная плотность вероятности, можно также определить наиболее вероятное значение (моду) случайной величины как максимум $f(x)$. Также с помощью плотности вероятности находится среднее значение случайной величины:

$E\xi =\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}xf(x)\text{d}x$

и среднее значение измеримой функции $g(\xi )$ случайной величины:

$⟨g(\xi )⟩=\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}g(x)f(x)\text{d}x$.

Чтобы перейти к плотности распределения $f_{\chi }(y)$ другой случайной величины $\chi =z(\xi )$, нужно взять

$f_{\chi }(y)=f(z^{-1}(y))\cdot \left|\frac{\text{d}{z}^{-1}(y)}{\text{d}y}\right|$,

где $z^{-1}(y)$ — обратная функция по отношению к $y=z(x)$ (предполагается, что z — взаимно однозначное отображение).

Значение плотности распределения $f(x_1)$ не является вероятностью принять случайной величиной значение $x_1$. Так, вероятность принятия непрерывной случайной величиной $\xi$ значения $x_1$ равна нулю. При непрерывном распределении случайной величины $\xi$ вопрос может ставиться о вероятности её попадания в некий диапазон, а не о вероятности реализации её конкретного значения.

Интеграл

$\underset{-\mathrm{\infty }}{\overset{x}{\int }}f(t)\text{d}t=F(x)$

называют функцией распределения (соответственно, плотность распределения вероятности — это производная функции распределения). Функция $F$ является неубывающей и изменяется от 0 при $x\to -\mathrm{\infty }$ до 1 при $x\to +\mathrm{\infty }$.

Функции плотности вероятности для равномерного распределения

Самым простым распределением является равномерное распределение на отрезке $[a,b]$. Для него плотность вероятности равна:

$f(x)=\{\begin{array}{cc}\frac{1}{b-a},& x\in [a,b]\\ 0,& x\in ̸[a,b]\end{array}.$

Функции плотности вероятности для нормального распределения

Широко известным распределением является «нормальное», оно же гауссово, плотность которого записывается как

$f(x)=\frac{1}{\sqrt{2\pi }\sigma }\exp [-\frac{(x-\mu {)}^2}{2{\sigma }^2}]$,

где $\mu$ и $\sigma$ — параметры: математическое ожидание и среднеквадратичное отклонение. Другие примеры плотностей распределения — одностороннее лапласовское ($\lambda >0$):

$f(x)=A\exp [-\lambda x](x\ge 0)$ и $f(x)=0(x<0)$,

и максвелловское ($\alpha >0$):

$f(x)=A{x}^2\exp [-\alpha x^2](x\ge 0)$ и $f(x)=0(x<0)$.

В двух последних примерах множитель $A$ подбирается в зависимости от параметра $\lambda$ или $\alpha$ так, чтобы обеспечить нормировку интеграла от плотности вероятности. В случае распределения Лапласа оказывается, что $A=\lambda$.

Как названные, так и другие распределения широко применяются в физике. Например, в случае распределения Максвелла роль случайной величины обычно играет абсолютная величина скорости молекулы в идеальном газе. При этом для аргумента функции $f$ нередко используют тот же символ, что и для рассматриваемой в физической задаче случайной величины (как если бы выше на месте $\xi$ всюду стояло $x$). Так, в выражении максвелловской плотности распределения пишут не формальную переменную $x$, а символ скорости $v$. В простейших ситуациях такая вольность с обозначениями не приводит к недоразумениям.

Спадающий при стремлении аргумента к $+\mathrm{\infty }$ или $-\mathrm{\infty }$ участок графика плотности вероятности $f(x)$ в областях, где $f\ll f_{max}$, называется хвостом. Из упомянутых распределений, нормальное и лапласовское имеют по два хвоста (слева и справа), а максвелловское в выписанном виде — один (справа).

Выше была изложена суть понятия «плотность вероятности». Однако такое изложение не является строгим — плотность $f$ нередко является функцией нескольких величин, в рассуждениях неявно предполагались не всегда гарантируемые непрерывность и дифференцируемость функций и так далее.

Определение плотности вероятности в теории меры

Плотность вероятности можно рассматривать как один из способов задания вероятностной меры на евклидовом пространстве ${ℝ}^n$. Пусть $\mathbb{P}$ является вероятностной мерой на ${ℝ}^n$, то есть определено вероятностное пространство $({ℝ}^n,ℬ({ℝ}^n),\mathbb{P})$, где $ℬ({ℝ}^n)$ обозначает борелевскую σ-алгебру на ${ℝ}^n$. Пусть $m$ обозначает меру Лебега на ${ℝ}^n$. Вероятность $\mathbb{P}$ называется абсолютно непрерывной (относительно меры Лебега) ($\mathbb{P}\ll m$), если любое борелевское множество нулевой меры Лебега также имеет вероятность ноль:

$\mathrm{\forall }B\in ℬ({ℝ}^n),(m(B)=0)\Rightarrow (\mathbb{P}(B)=0).$

Если вероятность $\mathbb{P}$ абсолютно непрерывна, то согласно теореме Радона-Никодима существует неотрицательная борелевская функция $f:{ℝ}^n\to [0,\mathrm{\infty })$ такая, что

$\mathbb{P}(B)=\underset{B}{\int }f(x)dx$,

где использовано общепринятое сокращение $m(dx)\equiv dx$, и интеграл понимается в смысле Лебега.

В более общем виде, пусть $(X,ℱ)$ — произвольное измеримое пространство, а $\mu$ и $\nu$ — две меры на этом пространстве. Если найдется неотрицательная $f$, позволяющая выразить меру $\nu$ через меру $\mu$ в виде

$\nu (A)=\underset{A}{\int }fd\mu ,$

то такую функцию называют плотностью меры $\nu$ по мере $\mu$, или производной Радона-Никодима меры $\nu$ относительно меры $\mu$, и обозначают

$f=\frac{d\nu }{d\mu }$.

Плотность случайной величины

Пусть определено произвольное вероятностное пространство $(\mathrm{\Omega },ℱ,\mathbb{P})$, и $X:\mathrm{\Omega }\to {ℝ}^n$ случайная величина (или случайный вектор). $X$ индуцирует вероятностную меру ${\mathbb{P}}^X$ на $({ℝ}^n,ℬ({ℝ}^n))$, называемую распределением случайной величины $X$.

Если распределение ${\mathbb{P}}^X$ абсолютно непрерывно относительно меры Лебега, то его плотность $f_X=\frac{d{\mathbb{P}}^X}{dx}$ называется плотностью случайной величины $X$. Сама случайная величина $X$ называется абсолютно непрерывной.

Таким образом для абсолютно непрерывной случайной величины имеем:

$\mathbb{P}(X\in B)=\underset{B}{\int }{f}_X(x)dx$.

Замечания

• Не всякая случайная величина абсолютно непрерывна. Любое дискретное распределение, например, не является абсолютно непрерывным относительно меры Лебега, а потому дискретные случайные величины не имеют плотности.

• Функция распределения абсолютно непрерывной случайной величины $X$ непрерывна и может быть выражена через плотность следующим образом:

$F_X(x_1,\dots ,x_n)=\mathbb{P}(X\in \prod _{i=1}^n(-\mathrm{\infty },x_i])=\underset{-\mathrm{\infty }}{\overset{x_n}{\int }}\dots \underset{-\mathrm{\infty }}{\overset{x_1}{\int }}{f}_X(x{\text{'}}_1,\dots ,x{\text{'}}_n)dx{\text{'}}_1\dots dx{\text{'}}_n$.

В одномерном случае:

$F_X(x)=\underset{-\mathrm{\infty }}{\overset{x}{\int }}{f}_X(x^{\prime })d{x}^{\prime }$.

Если $f_X\in C({ℝ}^n)$, то $F_X\in 𝒟({ℝ}^n)$, и

$\frac{{\partial }^n}{\partial x_1\dots \partial x_n}{F}_X(x_1,\dots ,x_n)=f_X(x_1,\dots ,x_n)$.

В одномерном случае:

$\frac{d}{dx}{F}_X(x)=f_X(x)$.

• Математическое ожидание функции от абсолютно непрерывной случайной величины может быть записано в виде:

$𝔼[g(X)]=\underset{{ℝ}^n}{\int }g(x){\mathbb{P}}^X(dx)=\underset{{ℝ}^n}{\int }g(x)f_X(x)dx$,

где $g:{ℝ}^n\to ℝ$ — борелевская функция, так что $𝔼[g(X)]$ определено и конечно.

Плотность преобразования случайной величины

Пусть $X:\mathrm{\Omega }\to {ℝ}^n$ — абсолютно непрерывная случайная величина, и $g:{ℝ}^n\to {ℝ}^n$ — инъективная непрерывно дифференцируемая функция такая, что $J_g(x)=0,\mathrm{\forall }x\in {ℝ}^n$, где $J_g(x)$ — якобиан функции $g$ в точке $x$. Тогда случайная величина $Y=g(X)$ также абсолютно непрерывна, и её плотность имеет вид:

$f_Y(y)=f_X(g^{-1}(y))|J_{g^{-1}}(y)|$.

В одномерном случае:

$f_Y(y)=f_X(g^{-1}(y))|\frac{d{g}^{-1}}{dy}(y)|$.

Свойства плотности вероятности

• Плотность вероятности определена почти всюду. Если $f$ является плотностью вероятности $\mathbb{P}$ и $f(x)=g(x)$ почти всюду относительно меры Лебега, то и функция $g$ также является плотностью вероятности $\mathbb{P}$./

• Интеграл от плотности по всему пространству равен единице:

$\mathbb{P}\left({ℝ}^n\right)=\underset{{ℝ}^n}{\int }f(x)dx=1$.

Обратно, если $f(x)$ — неотрицательная почти всюду функция, такая что $\underset{{ℝ}^n}{\int }f(x)dx=1$, то существует абсолютно непрерывная вероятностная мера $\mathbb{P}$ на ${ℝ}^n$ такая, что $f(x)$ является её плотностью.

• Замена меры в интеграле Лебега:

$\underset{{ℝ}^n}{\int }\phi (x)\mathbb{P}(dx)=\underset{{ℝ}^n}{\int }\phi (x)f(x)dx$,

где $\phi ::{ℝ}^n\to ℝ$ любая борелевская функция, интегрируемая относительно вероятностной меры $\mathbb{P}$.

Примеры абсолютно непрерывных распределений

• Бета-распределение
• Гамма-распределение
• Гиперэкспоненциальное распределение
• Двумерное нормальное распределение
• Логнормальное распределение
• Многомерное нормальное распределение
• Непрерывное равномерное распределение
• Нормальное распределение
• Обобщённое гиперболическое распределение
• Полукруговой закон Вигнера
• Распределение variance-gamma
• Распределение Вейбулла
• Распределение Гомпертца
• Распределение Колмогорова
• Распределение копулы
• Распределение Коши
• Распределение Лапласа
• Распределение Накагами
• Распределение Парето
• Распределение Пирсона
• Распределение Райса
• Распределение Рэлея
• Распределение Стьюдента
• Распределение Трейси — Видома
• Распределение Фишера
• Распределение хи-квадрат
• Частотное распределение
• Экспоненциальное распределение

См. также

• Распределение вероятностей
• Сингулярное распределение
• Функция вероятности

Литература

• Шаблон:БРЭ