Риманова информационная метрика

Риманова информационная метрика (англ. Riemann information metric) — единственная с точностью до постоянного множителя риманова метрика на совокупностях распределений вероятностей, инвариантная относительно статистических решающих правил категории. Для двух распределений вероятностей $P$ и $Q$ на одном и том же измеримом пространстве элементарных исходов $(\mathrm{\Omega },𝔄)$ риманова информационная метрика задается сферическим расстоянием Бхаттачария — Рао:

$s(P,Q)=2\arccos \underset{\mathrm{\Omega }}{\overset{}{\int }}\sqrt{P(d\omega )Q(d\omega )}$.

В частности, если распределения имеют плотности соответственно $p(x)$ и $q(x)$, где $x\in X\subseteq R$, тогда

$s(P,Q)=2\arccos \underset{X}{\overset{}{\int }}\sqrt{p(x)q(x)}dx$.

Аналогично в дискретном случае:

$s(P,Q)=2\arccos \sum _{i=1}^n\sqrt{p_i{q}_i}$, где $n=|\mathrm{\Omega }|$.

Локально риманова информационная метрика определяется количеством информации по Фишеру: для гладкого семейства

$\{P_t|t\in \mathrm{\Theta }\subseteq R^k\}\subset \mathrm{cap}(\mathrm{\Omega },𝔄)$

в точке $P_{\theta }$ имеет место

$d{s}^2=\sum _{i,j}^{k}d{t}^{i}d{t}^j{I}_{ij}(\theta )$,

где $I_{ij}(\theta )$ — элементы информационной матрицы Фишера. Несмотря на данное свойство метрики Бхаттачария — Рао, в теоретических исследованиях она играет менее важную роль, чем дивергенция Кульбака — Лейблера.