Критерий согласия Колмогорова

Критерий согласия Колмогорова предназначен для проверки гипотезы о принадлежности выборки некоторому закону распределения, то есть проверки того, что эмпирическое распределение соответствует предполагаемой модели.

Критерий однородности Смирнова используется для проверки гипотезы о принадлежности двух независимых выборок одному закону распределения, то есть о том, что два эмпирических распределения соответствуют одному и тому же закону.

Эти критерии носят имена математиков Андрея Николаевича Колмогорова и Николая Васильевича Смирнова.

Критерий Смирнова о проверке гипотезы об однородности двух эмпирических законов распределения является одним из наиболее часто используемых непараметрических критериев.

Описание

Если в критерии ${\chi }^2$ сопоставляются частоты двух распределений отдельно по каждому разряду, то здесь сопоставляются сначала частоты по первому разряду, потом по сумме первого и второго разрядов, потом по сумме первого, второго и третьего разрядов и т. д. Таким образом, каждый раз сопоставляются накопленные к данному разряду частоты.

Если различия между двумя распределениями существенны, то в какой-то момент разность накопленных частот достигнет критического значения, и различия можно будет признать статистически достоверными. В формулу критерия $\lambda$  включается эта разность. Чем больше эмпирическое значение $\lambda$, тем более существенными являются различия.

Статистика критерия Колмогорова

Пусть эмпирическая функция распределения (ЭФР) $F_n$, построенная по выборке $X=(X_1,\dots ,X_n)$, имеет вид:

$F_n(x)=\frac{1}{n}\sum _{i=1}^n{I}_{X_i⩽x},$

где $I_{X_i⩽x}$ указывает, попало ли наблюдение $X_i$ в область $(-\mathrm{\infty },x]$:

$I_{X_i⩽x}=\{\begin{array}{cc}1,& X_i⩽x;\\ 0,& X_i>x.\end{array}$

Выполняется проверка того, является ли выборка порождённой случайной величиной $\xi$ с функцией распределения $F(x)$. Статистика критерия для эмпирической функции распределения $F_n(x)$ определяется следующим образом:

$D_n=\underset{x\in ℝ}{\sup }|F_n(x)-F(x)|,$

где под $\sup$ понимается супремум функции $|F_n(x)-F(x)|$.

Распределение статистики Колмогорова

Обозначим нулевую гипотезу $H_0$, как гипотезу о том, что выборка подчиняется распределению $F(X)\in C^1(𝕏)$. Тогда по теореме Колмогорова для введённой статистики справедливо:

$\mathrm{\forall }t>0:\underset{n\to \mathrm{\infty }}{\lim }P(\sqrt{n}{D}_n⩽t)=K(t)=\sum _{j=-\mathrm{\infty }}^{+\mathrm{\infty }}(-1{)}^j{e}^{-2j^2{t}^2}={\theta }_4(e^{-2t^2}),$

где ${\theta }_4(q)$ — Тета-функция Якоби. Учтём, что критерий имеет правостороннюю критическую область.

Если $\alpha$ достаточно близко к 1, то $K_{\alpha }$ можно приблизительно рассчитать по формуле:

$K_{\alpha }\approx \sqrt{-\frac{1}{2}\ln \frac{1-\alpha }{2}}.$

Асимптотическая мощность критерия равна 1.

---

Обозначим теперь за нулевую гипотезу $H_0$ гипотезу о том, что две исследуемые выборки подчиняются одному распределению случайной величины $\xi :F(X)\in C^1(𝕏)$.

Теорема Смирнова позволяет построить критерий для проверки двух выборок на однородность.

См. также

• Проверка статистических гипотез
• Статистический критерий
  • Q-критерий Розенбаума
  • U-критерий Манна — Уитни
  • t-критерий Стьюдента
  • Критерий отношения правдоподобия
  • Критерий Пирсона
  • Критерий согласия Купера
• Критерий Крамера — Мизеса — Смирнова
• Критерий Андерсона-Дарлинга
• Критерий согласия Пирсона
• Критерий согласия Ватсона

Примечание 1

В критерии Колмогорова предпочтительней использование статистики с поправкой Большева в следующем виде $\sqrt{n}{D}_n+1/(6\sqrt{n})$. Распределение данной статистики уже не так сильно зависит от объема выборки. Зависимостью её распределения от объема выборки $n$ можно пренебречь при $n>25$.

Примечание 2

Классический критерий Колмогорова предназначен для проверки простых гипотез. Если проверяется гипотеза о согласии наблюдаемой выборки с законом, все параметры которого известны, то критерий Колмогорова является свободным от распределения: неважно, с каким законом проверяется согласие. Если проверяемая гипотеза справедлива, предельным распределением статистики Колмогорова является распределение Колмогорова $K(t)$.

Всё меняется при проверке сложных гипотез, когда по анализируемой выборке оцениваются параметры теоретического закона, согласие с которым проверяется. При проверке сложных гипотез свобода от распределения теряется. При проверке сложных гипотез и справедливости проверяемой гипотезы распределения статистик непараметрических критериев согласия (и критерия Колмогорова) зависят от ряда факторов: от вида наблюдаемого закона, соответствующего проверяемой гипотезе; от типа оцениваемого параметра и числа оцениваемых параметров; в некоторых случаях от конкретного значения параметра (например, в случае семейств гамма- и бета-распределений); от метода оценивания параметров. Различия в предельных распределениях той же самой статистики при проверке простых и сложных гипотез настолько существенны, что пренебрегать этим ни в коем случае нельзя.

О применении критерия Колмогорова при проверке сложных гипотез

• Об ошибках, совершаемых при использовании непараметрических критериев согласия
• Непараметрические критерии согласия (Рекомендации Р 50.1.037-2002 на сайте Новосибирского государственного технического университета)
• Уточнение рекомендаций Р 50.1.037-2002 (Часть 1) на сайте НГТУ
• Уточнение рекомендаций Р 50.1.037-2002 (Часть 2) на сайте НГТУ

Ссылки

• Критерий Колмогорова на сайте Новосибирского государственного университета
• Критерий однородности Смирнова на сайте Новосибирского государственного технического университета