Неравенство Гаусса

В теории вероятностей неравенство Гаусса даёт верхнюю границу вероятности того, что одномодальная случайная величина выходит за пределы интервала с центром в её моде.

Пусть X — одномодальная случайная величина с модой m и пусть τ ² есть математическое ожидание (X − m)². (τ² может также быть выражено как (μ − m)² + σ², где μ и σ являются средним значением и стандартным отклонением X.)

$\mathrm{Pr}(|X-m|>k)\le \{\begin{array}{cc}{\left(\frac{2\tau }{3k}\right)}^2,& \text{if }k\ge \frac{2\tau }{\sqrt{3}};\\ 1-\frac{k}{\tau \sqrt{3}},& \text{if }0\le k\le \frac{2\tau }{\sqrt{3}}.\end{array}$

Эта теорема была впервые доказана Гауссом в 1823 году.

Доказательство

Без ограничения общности можно считать, что мода находится в нуле, то есть $m=0$.

Переход к квантилям

Рассмотрим вероятность того, что выполняется неравенство $\left|X\right|\le x$, как функцию от $x$:

$p\left(x\right)=\underset{-x}{\overset{x}{\int }}f\left(z\right)dz.$

Так как $f\left(x\right)$ является неотрицательной функцией, то $p(x)$ растёт с ростом $x$.

Кроме того, по определению определённого интеграла:

$p\left(0\right)=0.$

В силу формулы Лейбница:

$\frac{dp}{dx}=f\left(x\right)+f(-x).$

Рассмотрим обратную функцию (квантиль) распределения случайной величины $\left|X\right|$:

$x=q\left(p\right).$

В силу теоремы о производной обратной функции:

$q^{\prime }\left(p\right)=\frac{dx}{dp}={\left[\frac{dp}{dx}\right]}^{-1}=\frac{1}{f\left(x\right)+f(-x)}.$

Заметим, что с ростом $p$ возрастает и $x$, в силу унимодальности с ростом по модулю $x$ функция $f\left(x\right)$ не возрастает, значит с ростом $x$ функция $q^{\prime }\left(p\right)$ не убывает.

Линеаризация функции $q\left(p\right)$

Выберем произвольную точку $q_0=q\left(p_0\right)$ и линеаризуем $q\left(p\right)$ точке $p_0$, то есть рассмотрим уравнение касательной прямой к этой функции в данной точке:

$L\left(p\right)=q\left(p_0\right)+q^{\prime }\left(p_0\right)(p-p_0)=q_0+q^{\prime }\left(p_0\right)(p-p_0).$

Данное уравнение можно переписать следующим образом:

$L\left(p\right)=q^{\prime }\left(p_0\right)(p-p_1),$

где

$p_1=p_0-\frac{q_0}{q^{\prime }\left(p_0\right)}=p_0(1-\frac{q_0}{p_0\cdot q^{\prime }\left(p_0\right)})=g\cdot p_0.$

Поскольку величины $p_0$, $q_0$и $q^{\prime }\left(p_0\right)$ являются неотрицательными, то

$0\le p_1\le p_0,$

а значит

$0\le g\le 1.$

Так как $q^{\prime }\left(p\right)$ не убывает с ростом $p$, а $L^{\prime }\left(p\right)=q^{\prime }\left(p_0\right)=\mathrm{const},$то разность $q^{\prime }\left(p\right)-L^{\prime }\left(p\right)$ имеет тот же знак, что $p-p_0$. Из этого следует, что величина $q\left(p\right)-L\left(p\right)$ всегда является неотрицательной, а следовательно:

$q\left(p\right)\ge L\left(p\right).$

Поскольку $q\left(p\right)\ge 0$ то из $L\left(p\right)\ge 0$ (то есть из $p\ge p_1$) следует

$L^2\left(p\right)\le q^2\left(p\right)$.

Получение оценки

Проинтегрируем последнее неравенство в пределах от $p_1$до $1$:

$\underset{p_1}{\overset{1}{\int }}{L}^2\left(p\right)dp\le \underset{p_1}{\overset{1}{\int }}{q}^2\left(p\right)dp\le \underset{0}{\overset{1}{\int }}{q}^2\left(p\right)dp=\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}{x}^2\cdot f\left(x\right)dx.$

Последнее выражение обозначим как ${\tau }^2$:

${\tau }^2=\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}{x}^2\cdot f\left(x\right)dx.$

Данная величина есть математическое ожидание квадрата случайной величины $X$. По свойствам дисперсии:

${\tau }^2={\mu }^2+{\sigma }^2,$

где ${\sigma }^2$— дисперсия случайной величины $X$, $\mu$ — её математическое ожидание.

Вычислим теперь интеграл в левой части последнего неравенства:

$\underset{p_1}{\overset{1}{\int }}{L}^2\left(p\right)dp=\underset{p_1}{\overset{1}{\int }}{\left[q^{\prime }\left(p_0\right)\right]}^2{(p-p_1)}^{2}dp={\left[q^{\prime }\left(p_0\right)\right]}^2{\frac{{(p-p_1)}^3}{3}|}_{p_1}^1={\left[q^{\prime }\left(p_0\right)\right]}^2\frac{{(1-p_1)}^3}{3}\le {\tau }^2$

$p_1=p_0-\frac{q_0}{q^{\prime }\left(p_0\right)}.$

$p_0-p_1=\frac{q_0}{q^{\prime }\left(p_0\right)}$

$q^{\prime }\left(p_0\right)=\frac{q_0}{p_0-p_1}$

${\left[\frac{q_0}{p_0-p_1}\right]}^2\frac{{(1-p_1)}^3}{3}\le {\tau }^2$

Преобразуем это неравенство к виду

$\frac{q_0^2}{{\tau }^2}\le \frac{3{(p_0-p_1)}^2}{{(1-p_1)}^3}=\frac{3{(p_0-g{p}_0)}^2}{{(1-g{p}_0)}^3}=\frac{3p_0^2{(1-g)}^2}{{(1-g{p}_0)}^3}.$

Исследование верхней границы

Исследуем верхнюю границу на экстремальные значения (в зависимости от значения $g$). Начнём с нахождения корней производной:

$\begin{array}{c}\frac{\partial }{\partial g}\left[\frac{3p_0^2{(1-g)}^2}{{(1-g{p}_0)}^3}\right]=\\ & =3p_0^2\cdot \frac{2(1-g)\cdot (-1)\cdot {(1-g{p}_0)}^3-{(1-g)}^2\cdot 3{(1-g{p}_0)}^2\cdot (-p_0)}{{(1-g{p}_0)}^6}=\\ & =\frac{3p_0^2(1-g){(1-g{p}_0)}^2[-2(1-g{p}_0)+3(1-g)p_0]}{{(1-g{p}_0)}^6}=\\ & =\frac{3p_0^2(1-g)}{{(1-g{p}_0)}^4}[-2+2g{p}_0+3p_0-3g{p}_0]=\\ & =-\frac{3p_0^2(1-g)}{{(1-g{p}_0)}^4}[2-3p_0+g{p}_0]\\ \end{array}$

Множитель перед квадратными скобками всегда отрицателен. Определим, когда выражения в квадратных скобках обращается в нуль:

$2-3p_0+g_0\cdot p_0=0.$

Решая данное уравнение, получим:

$g_0\cdot p_0=3p_0-2.$

$g_0=3-\frac{2}{p_0}.$

Величина $g$ также должно удовлетворять условию $0\le g\le 1$ :

$0\le 3-\frac{2}{p_0}\le 1$

Решая данное неравенство, получим:

$-3\le -\frac{2}{p_0}\le -2$

$2\le \frac{2}{p_0}\le 3$

$\frac{1}{3}\le \frac{p_0}{2}\le \frac{1}{2}$

$\frac{2}{3}\le p_0\le 1.$

Правое неравенство не даёт дополнительной информации. Левое же говорит, что корень будет принадлежать $[0;1]$ только при $p_0\ge \frac{2}{3}.$

Рассмотрим сначала случай $p_0\le \frac{2}{3}$.

В этом случае всегда

$\frac{\partial }{\partial g}\left[\frac{3p_0^2{(1-g)}^2}{{(1-g{p}_0)}^3}\right]\le 0,$

а следовательно максимум выражения в квадратных скобках достигается при $g=0$:

$\frac{q_0^2}{{\tau }^2}\le 3p_0^2$

или

$p_0\le \frac{q_0}{\tau \sqrt{3}}.$

Если же $p_0>\frac{2}{3}$, то максимум будет в точке $g_0=3-\frac{2}{p_0}=\frac{3p_0-2}{p_0}.$ Вычислим необходимые нам величины:

$1-g_0=1-3+\frac{2}{p_0}=\frac{2}{p_0}-2=\frac{2(1-p_0)}{p_0}$

и

$1-g_0{p}_0=1-(3p_0-2)=3(1-p_0).$

Подставляя эти выражения в исследуемое неравенство, получим:

$\frac{q_0^2}{{\tau }^2}\le \frac{3p_0^2{(1-g)}^2}{{(1-g{p}_0)}^3}=\frac{3p_0^2}{3^3{(1-p_0)}^3}\frac{2^2{(1-p_0)}^2}{p_0^2}={\left(\frac{2}{3}\right)}^2\frac{1}{1-p_0}$

или

$1-p_0\le {\left(\frac{2}{3}\right)}^2\frac{{\tau }^2}{q_0^2}.$

Объединим полученные неравенства:

$\frac{q_0^2}{{\tau }^2}\le \{\begin{array}{cc}3p_0^2,& p_0\le \frac{2}{3}\\ \frac{4}{9}\frac{1}{(1-p_0)},& p_0>\frac{2}{3}\end{array}$

Извлекая квадратный корень, окончательно получим:

$\frac{q_0}{\tau }\le \{\begin{array}{cc}\sqrt{3}{p}_0,& p_0\le \frac{2}{3}\\ \frac{2}{3}\frac{1}{\sqrt{1-p_0}},& p_0>\frac{2}{3}\end{array}$

Обращение неравенств

Если $p_0\le \frac{2}{3}$, то

$\frac{q_0^2}{{\tau }^2}\le 3p_0^2\le 3{\left(\frac{2}{3}\right)}^2=\frac{4}{3}.$

Откуда получаем

$q_0\le \frac{2\tau }{\sqrt{3}}.$

Это позволяет получить следующее неравенство:

$1-p_0=\{\begin{array}{cc}1-\frac{q_0}{\sqrt{3}\tau },& q_0\le \frac{2\tau }{\sqrt{3}}\\ \frac{4}{9}\frac{{\tau }^2}{q_0^2},& q_0\ge \frac{2\tau }{\sqrt{3}}\end{array}$

Обозначая $p_0=p$ и $q_0=x$, получим:

$\mathrm{Pr}\{\left|X\right|>x\}=\{\begin{array}{cc}1-\frac{x}{\sqrt{3}\tau },& x\le \frac{2\tau }{\sqrt{3}}\\ \frac{4}{9}\frac{{\tau }^2}{x^2},& x\ge \frac{2\tau }{\sqrt{3}}\end{array}.$

Завершение доказательства

Выше мы предполагали, что мода случайной величины $X$ равна нулю. В случае произвольной моды $m$, нужно приведённые выше рассуждения применить к случайной величине $X-m$, мода которой, очевидно, равна нулю. Тогда последняя формула примет вид:

$\mathrm{Pr}\{|X-m|>x\}=\{\begin{array}{cc}1-\frac{x}{\sqrt{3}\tau },& x\le \frac{2\tau }{\sqrt{3}}\\ \frac{4}{9}\frac{{\tau }^2}{x^2},& x\ge \frac{2\tau }{\sqrt{3}}\end{array}.$

Величина ${\tau }^2$перейдём, по свойствам математического ожидания и дисперсии, в

${\tau }^2={(\mu -m)}^2+{\sigma }^2.$

Таким образом, теорема полностью доказана.

См. также

• Неравенство Высочанского — Петунина, похожий результат, но интервал строится с центром в среднем значении, а не в моде.
• Неравенство Чебышёва, интервал строится с центром в среднем значении и отсутствует условие одномодальности.

Ссылки

• Шаблон:Статья
• Шаблон:Книга Шаблон:Wayback
• Шаблон:Книга
• Шаблон:Статья
• Шаблон:Статья