Просмотр кода страницы Теорема Байеса

[[Файл:Bayes' Theorem MMB 01.jpg|thumb|right|Формула Байеса]]
'''Теорема Байеса''' (или '''формула Байеса''') — одна из основных теорем элементарной [[теория вероятностей|теории вероятностей]], которая позволяет определить [[вероятность]] события при условии, что произошло другое статистически [[Статистическая независимость|взаимозависимое]] с ним событие. Другими словами, по формуле Байеса можно уточнить вероятность какого-либо события, взяв в расчёт как ранее известную информацию, так и данные новых наблюдений. Формула Байеса может быть выведена из основных аксиом теории вероятностей, в частности из [[Условная вероятность|условной вероятности]]. Особенность теоремы Байеса заключается в том, что для её практического применения требуется большое количество расчётов, вычислений, поэтому байесовские оценки стали активно использовать только после революции в компьютерных и сетевых технологиях. На сегодняшний день активно применяется в машинном обучении и технологиях искусственного интеллекта.

При возникновении теоремы Байеса вероятности, используемые в теореме, подвергались целому ряду вероятностных интерпретаций. В одной из таких интерпретаций говорилось, что вывод формулы напрямую связан с применением особого подхода к статистическому анализу. Если использовать [[Байесианство|байесовскую интерпретацию вероятности]], то теорема показывает, как личный уровень доверия может кардинально измениться вследствие количества наступивших событий. В этом заключаются выводы Байеса, которые стали основополагающими для байесовской статистики. Однако теорема не только используется в байесовском анализе, но и активно применяется для большого ряда других расчётов.

Психологические эксперименты{{sfn|Kahneman, et al|2005|pp = 153—160}} показали, что люди часто неверно оценивают реальную (математически верную) вероятность события, основываясь на некоем личном полученном опыте ([[апостериорная вероятность]]), поскольку игнорируют саму вероятность предположения ([[априорная вероятность]]). Поэтому правильный результат по формуле Байеса может сильно отличаться от интуитивно ожидаемого.

Теорема Байеса названа в честь её автора [[Байес, Томас|Томаса Байеса]] (1702—1761) — английского математика и священника, который первым предложил использование теоремы для корректировки убеждений, основываясь на обновлённых данных. Его работа «''An Essay towards solving a Problem in the Doctrine of Chances''» впервые опубликована в [[1763 год]]у<ref>{{Cite web|url=http://www.stat.ucla.edu/history/essay.pdf|title=Bayes, Thomas, and Price, Richard (1763). «An Essay towards solving a Problem in the Doctrine of Chance. By the late Rev. Mr. Bayes, communicated by Mr. Price, in a letter to John Canton, M. A. and F. R. S.». Philosophical Transactions of the Royal Society of London 53: 370—418.|archiveurl=https://web.archive.org/web/20190317235801/http://www.stat.ucla.edu/history/essay.pdf|archivedate=2019-03-17|accessdate=2010-04-21|deadlink=yes}}</ref>, через 2 года после смерти автора. До того, как посмертная работа Байеса была принята и прочитана в Королевском обществе, она была значительно отредактирована и обновлена [[Прайс, Ричард|Ричардом Прайсом]]. Однако эти идеи не предавались публичной огласке до тех пор, пока не были вновь открыты и развиты [[Лаплас, Пьер-Симон|Пьером-Симоном Лапласом]], впервые опубликовавшим современную формулировку теоремы в своей книге 1812 года «Аналитическая теория вероятностей».

[[Джеффрис, Гарольд|Сэр Гарольд Джеффрис]] писал, что теорема Байеса «для теории вероятности то же, что [[теорема Пифагора]] для [[Геометрия|геометрии]]»<ref>[[1|Jeffreys, Harold (1973), Scientific Inference (3rd ed.), Cambridge University Press, p. 31, ISBN 978-0-521-18078-8]]</ref>.

== Формулировка ==
{{Теорема|'''Формула Байеса''':
: <math>P(A \mid B) = \frac{P(B \mid A)\, P(A)}{P(B)}</math>,
где
: <math>P(A)</math> — априорная вероятность гипотезы ''A'' (смысл такой терминологии см. ниже);
: <math>P(A \mid B)</math> — вероятность гипотезы ''A'' при наступлении события ''B'' (апостериорная вероятность);
: <math>P(B \mid A)</math> — вероятность наступления события ''B'' при истинности гипотезы ''A'';
: <math>P(B)</math> — полная вероятность наступления события ''B''.}}

== Доказательство ==
Формула Байеса вытекает из определения [[условная вероятность|условной вероятности]]. Вероятность совместного события <math> AB</math> двояко выражается через условные вероятности
: <math> P(AB) = P(A \mid B)P(B) = P(B \mid A)P(A)</math>

Следовательно <math>P(A \mid B) = \frac{P(AB)}{P(B)} =  \frac{P(B \mid A)\, P(A)}{P(B)}</math>

=== Вычисление ''P(B)'' ===
В задачах и [[Математическая статистика|статистических]] приложениях <math>P(B)</math> обычно вычисляется по [[формула полной вероятности|формуле полной вероятности]] события, зависящего от нескольких [[несовместные события|несовместных]] гипотез, имеющих суммарную вероятность 1.
: <math>P(B)=\sum_{i=1}^N P(B \mid A_i) P(A_i)</math>,
где вероятности под знаком суммы известны или допускают экспериментальную оценку.

В этом случае формула Байеса записывается так:

: '''''<math>P(A_j \mid B) = \frac{P(B \mid A_j) P(A_j)}{\sum_{i=1}^N P(B \mid A_i) P(A_i)}</math>'''''

=== «Физический смысл» и терминология ===
Формула Байеса позволяет «переставить причину и следствие»: по известному факту события вычислить вероятность того, что оно было вызвано данной причиной. При этом необходимо понимать, для применения теоремы причинно-следственная связь между <math>A</math> и <math>B</math> не является обязательной.

События, отражающие действие «причин», в данном случае называют ''гипотезами'', так как они — ''предполагаемые'' события, повлёкшие данное. Безусловную вероятность справедливости гипотезы называют ''априорной'' (насколько вероятна причина ''вообще''), а условную — с учётом факта произошедшего события — ''апостериорной'' (насколько вероятна причина ''оказалась с учётом данных о событии'').

== Примеры ==

=== Пример 1 ===
Пусть событие <math>B</math> — машина не заводится, а гипотеза <math>A</math> — в баке нет топлива. Очевидно, что вероятность <math>P(B \mid A)</math> того, что машина не заведётся, если в баке нет топлива, равняется единице.
Как следствие, апостериорная вероятность, что в баке нет топлива, если машина не заводится, то есть <math>P(A \mid B)</math>, равна <math>\frac{P(A)}{P(B)}</math>, то есть отношению априорной вероятности, что в баке нет топлива, к вероятности, что машина не заводится. Например, если априорная вероятность, что в баке нет топлива, равна 0,01, а вероятность, что машина не заводится, равна 0,02, и случайно выбранная машина не завелась, то вероятность, что в её баке нет топлива, равна 0,5.

=== Пример 2 ===
Пусть вероятность брака у первого рабочего <math>p_1=0{,}9</math>, у второго рабочего — <math>p_2=0{,}5</math>, а у третьего — <math>p_3=0{,}2</math>. Первый изготовил <math>n_1 = 800</math> деталей, второй — <math>n_2=600</math> деталей, а третий — <math>n_3=900</math> деталей. Начальник цеха берёт случайную деталь, и она оказывается бракованной. Спрашивается, с какой вероятностью эту деталь изготовил третий рабочий.

Событие <math>B</math> — брак детали, событие <math>A_i</math> — деталь произвёл рабочий <math>i</math>. Тогда <math>P(A_i)=n_i/N</math>, где <math>N=n_1+n_2+n_3</math>, а <math>P(B \mid A_i)=p_i</math>.

По формуле полной вероятности

: <math>P(B)=\sum_{i=1}^3 P(B \mid A_i)P(A_i).</math>
По формуле Байеса получим:
: <math>P(A_3 \mid B)=\frac{P(B \mid A_3)P(A_3)}{P(B)}=\frac{P(B \mid A_3)P(A_3)}{P(B \mid A_1)P(A_1)+P(B \mid A_2)P(A_2)+P(B \mid A_3)P(A_3)}=</math>
: <math>=\frac{p_3 n_3/N}{p_1n_1/N+p_2n_2/N+p_3n_3/N}=\frac{0{,}2\cdot900/2300}{0{,}9\cdot800/2300+0{,}5\cdot600/2300+0{,}2\cdot900/2300}=0{,}15.</math>

=== Пример 3 ===
[[Файл:Bayes theorem simple example tree.svg|thumb|Древовидная диаграмма демонстрирует частотный пример. ''R'', ''C'', ''P'' и ''P'' c чёрточкой — это события, обозначающие, что жук является редким, обычным, с узором и без узора. Проценты в скобках вычисляются. Отметим, что значения трёх независимых событий даны, поэтому возможно вычислить обратное дерево (смотрите на график выше).]]

[[Энтомология|Энтомолог]] предполагает, что жук может относиться к редкому [[подвид]]у [[Жесткокрылые|жуков]], так как у него на корпусе есть узор. В редком подвиде 98 % жуков имеют узор, или ''P(узор | редкий)'' = 0,98. Среди обычных жуков только 5 % имеют узор: ''P(узор | обычный)'' = 0,05. Редкого вида жуков насчитывается лишь 0,1 % среди всей популяции: ''P(редкий)'' = 0,001. Какова вероятность того, что жук, имеющий узор, относится к редкому подвиду, то есть, чему равно ''P(редкий | узор)''?

Из расширенной теоремы Байеса получаем (любой жук может относиться либо к редким, либо к обычным):
<math>\begin{align}P(\text{редкий} \mid \text{узор}) &=
\frac{P(\text{узор} \mid \text{редкий}) \times P(\text{редкий})} {P(\text{узор} \mid \text{редкий}) \times P(\text{редкий}) \, + \, P(\text{узор} \mid \text{обычный}) \times P(\text{обычный})} \\[8pt]
&= \frac{0{,}98 \times 0{,}001} {0{,}98 \times 0{,}001 + 0{,}05 \times 0{,}999} \\[8pt]
&\approx 0{,}019. \end{align}</math>

=== Пример 4 — парадокс теоремы Байеса ===
Пусть существует заболевание с частотой распространения среди населения 0,001 и метод диагностического обследования, который с вероятностью 0,9 выявляет больного, но при этом имеет вероятность 0,01 ложноположительного результата — ошибочного выявления заболевания у здорового человека {{подробнее|Чувствительность и специфичность}}. Найти вероятность того, что человек здоров, если он был признан больным при обследовании.

Обозначим событие что обследование показало, человек болен как «болен» с кавычками, болен — событие, что человек действительно больной, здоров — событие, что человек действительно здоров. Тогда заданные условия переписываются следующим образом:

<math>\begin{align}P(\text{«болен»} \mid \text{болен}) &=0{,}9 \end{align}</math>

<math>\begin{align}P(\text{«болен»} \mid \text{здоров}) &= 0{,}01 \end{align}</math>

<math>\begin{align}P(\text{болен}) &= 0{,}001 \end{align}</math>, при этом <math>\begin{align} P(\text{здоров}) &= 1-P(\text{болен}) \end{align}</math>, значит:

<math>\begin{align}P(\text{здоров}) &= 0{,}999 \end{align}</math>

Вероятность того, что человек здоров, если он был признан больным равна условной вероятности:

<math>\begin{align}
P(\text{здоров} \mid \text{«болен»})
\end{align}</math>

Чтобы её найти, вычислим сначала полную вероятность признания больным:

<math>\begin{align}
P(\text{«болен»})&= P(\text{«болен»} \mid \text{здоров})\cdot P(\text{здоров})+P(\text{«болен»} \mid \text{болен})\cdot P(\text{болен}) \\ &= 0{,}01 \times 0{,}999 + 0{,}9 \times 0{,}001=0{,}01089
\end{align}</math>

Вероятность, что человек здоров при результате «болен»:

<math>\begin{align} 
P(\text{здоров} \mid \text{«болен»}) &=
\frac 
{P(\text{«болен»} \mid \text{здоров}) \cdot P(\text{здоров})} 
{P(\text{«болен»})} \\ &=
\frac
{0{,}01 \times 0{,}999}
{0{,}01089} 
\approx 0{,}917 
\end{align}</math>

Таким образом, 91,7 % людей, у которых обследование показало результат «болен», на самом деле здоровые люди. Причина этого в том, что по условию задачи вероятность ложноположительного результата хоть и мала, но на порядок больше доли больных в обследуемой группе людей.

Если ошибочные результаты обследования можно считать случайными, то повторное обследование того же человека будет давать независимый от первого результат. В этом случае для уменьшения доли ложноположительных результатов имеет смысл провести повторное обследование людей, получивших результат «болен». Вероятность того, что человек здоров после получения повторного результата «болен», также можно вычислить по формуле Байеса:

<math>\begin{align} 
P\bigl((\text{здоров} \mid \text{«болен»}\bigr) \mid \text{«болен»})&=
\frac 
{P(\text{«болен»} \mid \text{здоров}) \cdot \bigl(P(\text{«болен»} \mid \text{здоров}) \cdot P(\text{здоров})\bigr) } 
{P(\text{«болен»} \mid \text{здоров}) \cdot \bigl(P(\text{«болен»} \mid \text{здоров}) \cdot P(\text{здоров}) \bigr) + P(\text{«болен»} \mid \text{болен}) \cdot \bigl( P(\text{«болен»} \mid \text{болен}) \cdot P(\text{болен}) \bigr) } \\ &= 
\frac
{0{,}01 \times 0{,}01 \times 0{,}999}
{0{,}01 \times 0{,}01 \times 0{,}999 + 0{,}9 \times 0{,}9 \times 0{,}001} 
\approx 
0{,}1098
\end{align}</math>

== Варианты интерпретации вероятностей в теореме Байеса ==
Математически теорема Байеса показывает взаимоотношения между вероятностью события A и вероятностью события B, ''P''(''A'') и ''P''(''B''), условной вероятности наступления события А при существующем B и наступлении события B при существующем A, ''P''(''A'' | ''B'') и ''P''(''B'' | ''A). ''

В общей форме формула Байеса выглядит следующим образом:

<math>P(A \mid B) = {P(B \mid A)\, P(A)} / {P(B)}

</math>

Значение выражения зависит от того, как интерпретируются вероятности в данной формуле.

=== Интерпретация Байеса ===
{{main|Байесовская вероятность}}
В интерпретации Байеса вероятность измеряет уровень доверия. Теорема Байеса связывает воедино доверие предположению до и после принятия во внимание очевидных доказательств. {{Прояснить2|Например, кто-то предположил, что при подкидывании монетки она будет приземляться в 2 раза чаще решкой вверх, а орлом вниз. Первоначально степень доверия, что такое событие случится, монета упадёт именно так — 50 %. Уровень доверия может увеличиться до 70 %, если предположение будет подтверждено доказательством.|комментарий=Какая-то ерунда. Доверие к предположению, что монета будет в два раза чаще падать решкой на неограниченном числе проб, изначально должно быть нулевым, а не 50%. Для отличного от нуля доверия к такому предположению действительно нужны доказательства (например, что монета кривая) но из чего следует 70%?|подпись=[[У:Yellow Horror|Yellow Horror]] ([[ОУ:Yellow Horror|обс.]])|дата=19 июня 2019}}

Для предположения (гипотезы) A и доказательства B
* P(A) — априорная вероятность гипотезы A, первоначальный уровень доверия предположению A;
* P(A | B) — апостериорная вероятность гипотезы A при наступлении события B;
* отношение ''P''(''B'' | ''A'')/''P''(''B'') показывает, как событие B помогает изменить уровень доверия предположению A.

=== Частотная интерпретация ===
[[Файл:Bayes theorem tree diagrams.svg|thumb|Иллюстрация частотной интерпретации]]

В частотной интерпретации теорема Байеса исчисляет доли определённых результатов события. Предположим, что некий эксперимент проводился много раз и в некоторых случаях приводил к результатам А и/или B. Тогда:

* ''P''(''A'') — доля случаев, когда эксперимент привёл к результату A.
* ''P''(''B'') — доля случаев, когда эксперимент привёл к результату B.
* ''P''(''B'' | ''A'') — доля случаев с результатом B среди случаев с результатом А.
* ''P''(''A'' | ''B'') — доля случаев с результатом A среди случаев с результатом B.

Роль теоремы Байеса лучше всего можно понять из древовидных диаграмм, представленных справа. Диаграммы демонстрируют различный порядок распределения событий по наличию или отсутствию результатов A и B. Теорема Байеса выступает как связующее звено этих распределений.

== Формы ==

=== События ===

==== Простая форма ====
Для событий ''A'' и ''B'', при условии, что ''P''(''B'') ≠ 0,
: <math>P(A \mid B) = \frac{P(B \mid A)\, P(A)}{P(B)}\cdot</math>

Во многих дополнениях к теореме Байеса указывается, что событие B известно и нужно понять, как знание о событии B влияет на уверенность в том, что произойдёт событие A. В таком случае знаменатель последнего выражения — вероятность наступления события B — известен; мы хотим изменить A. Теорема Байеса показывает, что апостериорные вероятности [[пропорциональность|пропорциональны]] числителю:

: <math>P(A \mid B) \propto  P(A) \cdot P(B \mid A) \ </math> (пропорциональность ''A'' для данного ''B'').
 Если говорить кратко: '''апостериорная вероятность пропорциональна априорной вероятности''' (смотри Lee, 2012, Глава 1).

Если события ''A''<sub>1</sub>, ''A''<sub>2</sub>, …, взаимоисключающие и исчерпывающие, то есть возможно только одно из событий, одновременно два события не могут случиться вместе, мы можем определить коэффициент пропорциональности, ориентируясь на то, что их вероятности в сумме должны составлять единицу. Например, для данного события ''A'' — само событие ''A'' и его противоположность ¬''A'' взаимоисключающие и исчерпывающие. Обозначая коэффициент пропорциональности как C мы имеем:
: <math>P(A \mid B) = c \cdot P(A) \cdot P(B \mid A) \ </math> и <math>P(\neg A \mid B) = c \cdot P(\neg A) \cdot P(B \mid \neg A) </math>.
Объединив эти две формулы, мы получим, что:
: <math> c = \frac{1}{P(A) \cdot P(B \mid A) +  P(\neg A) \cdot P(B \mid \neg A) } .</math>

==== Расширенная форма ====
Часто [[Пространство элементарных событий|пространство событий]] (таких как {''A<sub>j</sub>''}) определённо в терминах ''P''(''A<sub>j</sub>'') и ''P''(''B'' | ''A<sub>j</sub>''). Именно в этом случае полезно определить ''P''(''B''), применив [[Формула полной вероятности|формулу полной вероятности]]:
: <math>P(B) = {\sum_j P(B \mid A_j) P(A_j)},</math>
: <math>\implies P(A_i \mid B) = \frac{P(B \mid A_i)\,P(A_i)}{\sum\limits_j P(B \mid A_j)\,P(A_j)}\cdot</math>

В частности
: <math>P(A \mid B) = \frac{P(B\mid A)\,P(A)}{ P(B\mid A) P(A) + P(B \mid \neg A) P(\neg A)}</math>.

=== Непрерывные случайные величины ===
[[Файл:Bayes continuous diagram.svg|thumb|Диаграмма отображает смысл теоремы Байеса и применима к пространству событий, образованного непрерывными случайными величинами ''X'' и ''Y''. Заметим, что по теореме Байеса для каждой точки в [[Область определения функции|области]] существуют требования. На практике, эти требования могут быть представлены в параметрическом виде, с помощью обозначения плотности распределения как [[Функция (математика)|функция]] от ''x'' и ''y''. ]]

Рассмотрим [[пространство элементарных событий]] Ω, образованного двумя [[Случайная величина|величинами]] ''X'' и ''Y''. В принципе, теорема Байеса применяется к событиям ''A'' = {''X'' = ''x''} и ''B'' = {''Y'' = ''y''}. Однако выражения становятся равны 0 в точках, в которых переменная имеет конечную [[плотность вероятности]]. Для того, чтобы с пользой продолжать использовать теорему Байеса, можно её сформулировать в терминах подходящих плотностей (смотрите [[#Вывод формул|Вывод формул]]).

==== Простая форма ====
Если ''X'' непрерывна и ''Y'' дискретна, то

: <math>f_X(x\mid Y=y) = \frac{P(Y=y\mid X=x)\,f_X(x)}{P(Y=y)}.</math>

Если ''X'' дискретна и ''Y'' непрерывна,

: <math> P(X=x\mid Y=y) = \frac{f_Y(y\mid X=x)\,P(X=x)}{f_Y(y)}.</math>

Если как ''X'', так и ''Y'' непрерывны,

: <math> f_X(x \mid Y=y) = \frac{f_Y(y \mid X=x)\,f_X(x)}{f_Y(y)}.</math>

==== Расширенная форма ====
[[Файл:Continuous event space specification.svg|thumb|Диаграмма, показывающая, как пространство событий, образованное непрерывными случайными величинами X и Y, часто определяется.]]

Непрерывное пространство событий часто определяется как числитель условий A. Непрерывное пространство событий часто представляют как числитель. В дальнейшем полезно избавиться от знаменателя, используя [[формула общей вероятности|формулу общей вероятности]]. Для 'f<sub>Y</sub>''(''y''), это становится интегралом:
: <math> f_Y(y) = \int_{-\infty}^\infty f_Y(y\mid X=\xi )\,f_X(\xi)\,d\xi .</math>

=== Правило Байеса ===
Правило Байеса — это преобразованная теорема Байеса:
: <math>O(A_1:A_2\mid B) =  O(A_1:A_2) \cdot \Lambda(A_1:A_2 \mid B) </math>
где

: <math>\Lambda(A_1:A_2|B) = \frac{P(B \mid A_1)}{P(B \mid A_2)}</math>

Это называется правилом Байеса или отношением правдоподобия. Разница в вероятности наступления двух событий — это просто отношение вероятностей этих двух событий. Таким образом,

: <math>O(A_1:A_2) =  \frac{P(A_1)}{P(A_2)}</math>,

: <math>O(A_1:A_2 \mid B) =  \frac{P(A_1 \mid B)}{P(A_2 \mid B)}</math>,

== Вывод формул ==

=== Для событий ===
Теорема Байеса может быть получена из определения [[Условная вероятность|вероятности]]:
: <math>P(A \mid B)=\frac{P(A \cap B)}{P(B)}, \text{ if } P(B) \neq 0,</math>
: <math>P(B \mid A) = \frac{P(A \cap B)}{P(A)}, \text{ if } P(A) \neq 0,</math>

: <math>\implies P(A \cap B) = P(A \mid B)\, P(B) = P(B \mid A)\, P(A),</math>
: <math>\implies P(A \mid B) = \frac{P(B \mid A)\,P(A)}{P(B)}, \text{ if } P(B) \neq 0.</math>

=== Для случайных переменных ===
Для двух непрерывных [[Случайная величина|случайных величин]] ''X'' и ''Y'' теорема Байеса может быть аналогично выведена из определения [[Условное распределение|условного распределения]]:

: <math>f_X(x \mid Y=y) = \frac{f_{X,Y}(x,y)}{f_Y(y)} </math>
: <math>f_Y(y \mid X=x) = \frac{f_{X,Y}(x,y)}{f_X(x)} </math>

: <math>\implies f_X(x \mid Y=y) = \frac{f_Y(y|X=x)\,f_X(x)}{f_Y(y)}.</math>

== См. также ==
{{кол}}
* [[Байесовская фильтрация спама]]
* [[Байесовское программирование]]
* [[Байесовская сеть доверия]]
* [[Байесовская вероятность]]
* [[Некорректное априорное распределение]]
* [[Парадокс Монти Холла]]
{{кол|конец}}

== Примечания ==
{{примечания}}

== Литература ==
* ''Гмурман В. Е. '' Теория вероятностей и математическая статистика, — {{М}}: Высшее образование. 2005
* {{книга
 |заглавие      = Judgment under Uncertainty: Heuristics and Biases
 |ответственный = Daniel Kahneman, et al
 |издание       = 21st
 |издательство  = Cambridge University Press
 |год           = 2005
 |allpages      = 555
 |isbn          = 978-0-521-28414-1
 |ref = Kahneman, et al
}}
* {{книга |заглавие=The Theory That Would Not Die: How Bayes' Rule Cracked the Enigma Code, Hunted Down Russian Submarines & Emerged Triumphant from Two Centuries of Controversy |ссылка=https://archive.org/details/theorythatwouldn0000mcgr |издательство=[[Издательство Йельского университета|Yale University Press]] |год=2011 |isbn=978-0-300-18822-6 |язык=en |автор=McGrayne, Sharon Bertsch}}
* Andrew Gelman, John B. Carlin, Hal S. Stern, and Donald B. Rubin (2003), «Bayesian Data Analysis», Second Edition, CRC Press.
* Charles M. Grinstead and J. Laurie Snell (1997), «Introduction to Probability (2nd edition)», American Mathematical Society (free pdf available [http://www.dartmouth.edu/~chance/teaching_aids/books_articles/probability_book/book.html].
* Pierre-Simon Laplace. (1774/1986), «Memoir on the Probability of the Causes of Events», ''Statistical Science'' 1(3):364-378.
* Peter M. Lee (2012), «Bayesian Statistics: An Introduction», Wiley.
* Rosenthal, Jeffrey S. (2005): «Struck by Lightning: the Curious World of Probabilities». Harper Collings.
* Stephen M. Stigler (1986), «Laplace’s 1774 Memoir on Inverse Probability», ''Statistical Science'' 1(3):359-363.
* Stone, JV (2013). Chapter 1 of book [http://jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.html «Bayes’ Rule: A Tutorial Introduction»], University of Sheffield, England.

== Ссылки ==
* ''[[Юдковски, Елиезер|Элиезер Юдковски]].'' [http://schegl2g.bget.ru/bayes/YudkowskyBayes.html Наглядное объяснение теоремы Байеса]
* [https://www.nytimes.com/2011/08/07/books/review/the-theory-that-would-not-die-by-sharon-bertsch-mcgrayne-book-review.html The Theory That Would Not Die by Sharon Bertsch McGrayne] New York Times Book Review by John Allen Paulos on 5 August 2011
* {{MathWorld | urlname=BayesTheorem | title=Bayes' Theorem}}
* {{PlanetMath | urlname=BayesTheorem | title=Bayes' theorem | id=1051}}
* [https://web.archive.org/web/20140202131520/http://rldinvestments.com/Articles/BayesTheorem.html Bayes Theorem and the Folly of Prediction]
* [http://www.celiagreen.com/charlesmccreery/statistics/bayestutorial.pdf A tutorial on probability and Bayes’ theorem devised for Oxford University psychology students]
* [http://yudkowsky.net/rational/bayes An Intuitive Explanation of Bayes' Theorem by Eliezer S. Yudkowsky]

{{Внешние ссылки}}
{{rq|refless|sources}}

[[Категория:Теория вероятностей]]
[[Категория:Теоремы теории вероятностей и математической статистики|Байеса]]
[[Категория:Байесовская статистика]]