Характеристическая функция случайной величины

Шаблон:Значения Характеристи́ческая фу́нкция случа́йной величины́ — один из способов задания распределения. Характеристические функции могут быть удобнее в тех случаях, когда, например, плотность или функция распределения имеют очень сложный вид. Также характеристические функции являются удобным инструментом для изучения вопросов слабой сходимости (сходимости по распределению). В теорию характеристических функций внесли большой вклад Ю. В. Линник, И. В. Островский, К. Р. Рао, Б. Рамачандран.

Определение

Пусть есть случайная величина $X$ с распределением ${\mathbb{P}}^X$. Тогда характеристическая функция задаётся формулой:

${\varphi }_X(t)=𝔼\left[e^{itX}\right]$.

Пользуясь формулами для вычисления математического ожидания, определение характеристической функции можно переписать в виде:

${\varphi }_X(t)=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{itx}{\mathbb{P}}^X(dx)$,

то есть характеристическая функция — это обратное преобразование Фурье распределения случайной величины.

Если случайная величина $X$ принимает значения в произвольном гильбертовом пространстве $\mathscr{H}$, то её характеристическая функция имеет вид:

${\varphi }_X(t)=𝔼\left[e^{i⟨t,X⟩}\right],\mathrm{\forall }t\in \mathscr{H}$,

где $⟨\cdot ,\cdot ⟩$ обозначает скалярное произведение в $\mathscr{H}$.

Дискретные и абсолютно непрерывные случайные величины

Если случайная величина $X$ дискретна, то есть $\mathbb{P}(X=x_k)=p_k,k=1,2,\dots$, то

${\varphi }_X(t)=\sum _{k=1}^{\mathrm{\infty }}{e}^{it{x}_k}{p}_k$.

Пример. Пусть $X$ имеет распределение Бернулли. Тогда

${\varphi }_X(t)=e^{it\cdot 1}\cdot p+e^{it\cdot 0}\cdot q=p{e}^{it}+q$.

Если случайная величина $X$ абсолютно непрерывна, то есть она имеет плотность $f_X(x)$, то

${\varphi }_X(t)=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{itx}{f}_X(x)dx$.

Пример. Пусть $X\sim U[0,1]$ имеет стандартное непрерывное равномерное распределение. Тогда

${\varphi }_X(t)=\underset{0}{\overset{1}{\int }}{e}^{itx}\cdot 1dx={\frac{e^{itx}}{it}|}_0^1=\frac{e^{it}-1}{it}$.

Свойства характеристических функций

• Характеристическая функция однозначно определяет распределение. Пусть $X,Y$ есть две случайные величины, и ${\varphi }_X(t)={\varphi }_Y(t),\mathrm{\forall }t$. Тогда ${\mathbb{P}}^X={\mathbb{P}}^Y$. В частности, если обе величины абсолютно непрерывны, то совпадение характеристических функций влечёт совпадение плотностей. Если обе случайные величины дискретны, то совпадение характеристических функций влечёт совпадение функций вероятности.
• Характеристическая функция всегда ограничена:

$|{\varphi }_X(t)|\le 1,\mathrm{\forall }t\in ℝ$.

• Характеристическая функция в нуле равна единице:

${\varphi }_X(0)=1$.

• Характеристическая функция всегда равномерно непрерывна: ${\varphi }_X\in C(ℝ)$.
• Характеристическая функция как функция случайной величины однородна:

${\varphi }_{aX}(t)={\varphi }_X(at),\mathrm{\forall }a\in ℝ$.

• Характеристическая функция суммы взаимно независимых случайных величин равна произведению их характеристических функций. Пусть $X_1,\dots ,X_n$ суть независимые случайные величины. Обозначим $S_n=\sum _{i=1}^n{X}_i$. Тогда

${\varphi }_{S_n}(t)=\prod _{i=1}^n{\varphi }_{X_i}(t)$.

• Характеристическая функция эрмитова: для всех вещественных $t$ верно равенство ${\varphi }_X(-t)={\bar{\varphi }}_X(t)$, где ${\bar{\varphi }}_X(t)$ означает комплексно сопряжённую с ${\varphi }_X(t)$ функцию.
• Теорема обращения (Леви). Пусть $F$ — функция распределения, а $\varphi$ — её характеристическая функция. Если $a$ и $b$ — точки непрерывности $F$, то

$F(b)-F(a)=\frac{1}{2\pi }\underset{T\to \mathrm{\infty }}{\lim }\underset{-T}{\overset{+T}{\int }}\frac{e^{-ita}-e^{-itb}}{it}\varphi (t)dt.$

• Характеристическая функция положительно определена: при каждом целом $m>0$ для любых вещественных чисел $u_1,u_2,...,u_m$ и любых комплексных чисел $z_1,z_2,...,z_m$ выполняется неравенство $\sum _{i,j=1}^m\phi (u_i-u_j)z_i\overline{z_j}⩾0$. Здесь $\overline{z_j}$ означает комплексно сопряжённое к $z_j$ число.

Вычисление моментов

Если случайная величина $X$ имеет начальный $n$-й момент, то характеристическая функция имеет непрерывную $n$-ю производную, то есть ${\varphi }_X\in C^n(ℝ)$, и более того:

$i^n{𝔼\left[X^n\right]=\frac{d^n}{d{t}^n}{\varphi }_X(t)|}_{t=0}$.

Обратное преобразование Фурье

Пусть дана случайная величина $X$, чья характеристическая функция равна ${\varphi }_X(t)$. Тогда

• если $X$ дискретна и принимает целые значения, то

$\mathbb{P}(X=k)=\frac{1}{2\pi }\underset{-\pi }{\overset{\pi }{\int }}{e}^{-itk}{\varphi }_X(t)dt,k\in \mathbb{Z}$;

• если $X$ абсолютно непрерывна, и $f_X(x)$ — её плотность, то

$f_X(x)=\frac{1}{2\pi }\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{-itx}{\varphi }_X(t)dt,x\in ℝ$.

Достаточные условия

Чтобы функция $\phi (t)$ была характеристической функцией какой-то случайной величины, достаточно, чтобы $\phi (t)$ была неотрицательной, чётной, непрерывной, выпуклой вниз функцией, $\phi (0)=1$ и $\phi (t)\to 0$ при $t\to \mathrm{\infty }$ (теорема Титчмарша — Пойи).

Необходимые и достаточные условия

Пусть $\phi (u)$ — непрерывная функция $u\in R^n$ и $\phi (0)=1$. Для того, чтобы функция $\phi (u)$ была характеристической, необходимо и достаточно, чтобы она была положительно определённой функцией, то есть при каждом целом $m>0$ для любых вещественных чисел $u_1,u_2,...,u_m$ и любых комплексных чисел $z_1,z_2,...,z_m$ выполняется неравенство $\sum _{i,j=1}^m\phi (u_i-u_j)z_i\overline{z_j}⩾0$ (Теорема Бохнера — Хинчина). Здесь $\overline{z_j}$ означает комплексно сопряжённое к $z_j$ число.

См. также

• Теорема Леви о непрерывности (метод характеристических функций).
• Прямая и обратная предельная теорема
• Теорема Титчмарша — Пойи
• Теорема Бохнера — Хинчина

Литература

• Линник Ю. В., Островский И. В. Разложения случайных величин и векторов, Наука, М., 1972.
• Лукач Е. Характеристические функции. — М., Наука, 1979. — 424 с.