Ограниченная машина Больцмана

Ограниченная машина Больцмана

Ограниченная машина Больцмана (Шаблон:Lang-en), сокращённо RBM — вид генеративной стохастической нейронной сети, которая определяет распределение вероятности на входных образцах данных.

Первая ограниченная машина Больцмана была построена в 1986 году Полом Смоленски под названием Harmonium, но приобрела популярность только после изобретения Хинтоном быстрых алгоритмов обучения в середине 2000-х годов.

Такое название машина приобрела как модификация обычной машины Больцмана, в которой нейроны разделили на видимые и скрытые, а связи допустимы только между нейронами разного типа, таким способом ограничив связи. Значительно позже, в 2000-х годах, ограниченные машины Больцмана приобрели большую популярность и стали рассматриваться уже не как вариации машины Больцмана, а как особые компоненты в архитектуре сетей глубинного обучения. Объединение нескольких каскадов ограниченных машин Больцмана формирует глубокую сеть доверия, особый вид многослойных нейронных сетей, которые могут самообучаться без учителя при помощи алгоритма обратного распространения ошибки.

Особенностью ограниченных машин Больцмана является возможность проходить обучение без учителя, но в определённых приложениях ограниченные машины Больцмана обучаются с учителем. Скрытый слой машины представляет собой глубокие признаки в данных, которые выявляются в процессе обучения (см. также Data mining).

Ограниченные машины Больцмана имеют широкий спектр применений — это задачи снижения размерности данных, задачи классификации, коллаборативная фильтрация, выделение признаков (Шаблон:Lang-en) и тематическое моделирование.

В ограниченной машине Больцмана нейроны образуют двудольный граф, с одной стороны графа находятся видимые нейроны (вход), а с другой стороны — скрытые, причём перекрёстные связи устанавливаются между каждым видимым и каждым скрытым нейроном. Такая система связей позволяет применить при обучении сети метод градиентного спуска с контрастивной дивергенцией.

Структура сети

Ограниченная машина Больцмана базируется на бинарных элементах с распределением Бернулли, составляющие видимый $v_i$ и скрытый $h_j$ слои сети. Связи между слоями задаются с помощью матрицы весов $W=(w_{i,j})$ (размера m × n), а также смещений $a_i$ для видимого слоя и $b_j$ для скрытого слоя.

Вводится понятие энергии сети Шаблон:Math как

$E(v,h)=-\sum _i{a}_i{v}_i-\sum _j{b}_j{h}_j-\sum _i\sum _j{v}_i{w}_{i,j}{h}_j,$

или в матричной форме

$E(v,h)=-a^{\mathrm{T}}v-b^{\mathrm{T}}h-v^{\mathrm{T}}Wh.$

Подобной функцией энергии обладает также Сеть Хопфилда. Как и для обычной машины Больцмана, через энергию определяется вероятность распределения на векторах видимого и скрытого слоя:

$P(v,h)=\frac{1}{Z}{e}^{-E(v,h)},$

где $Z$ — статсумма, определяемая как $\sum e^{-E(v,h)}$ для всех возможных сетей (иными словами, $Z$ — константа нормализации, которая гарантирует, что сумма всех вероятностей равна единице). Определение вероятности для отдельного входного вектора (маргинальное распределение) проводится аналогично через сумму конфигураций всевозможных скрытых слоёв:

$P(v)=\frac{1}{Z}\sum _h{e}^{-E(v,h)}.$

По причине структуры сети как двудольного графа, отдельные элементы скрытого слоя независимы друг от друга и активируют видимый слой, и наоборот отдельные элементы видимого слоя независимы друг от друга и активируют скрытый слой. Для $m$ видимых элементов и для $n$ скрытых элементов условные вероятности Шаблон:Mvar определяются через произведения вероятностей Шаблон:Mvar:

$P(v|h)=\prod _{i=1}^{m}P(v_i|h),$

и наоборот условные вероятности Шаблон:Mvar определяются через произведение вероятностей Шаблон:Mvar:

$P(h|v)=\prod _{j=1}^{n}P(h_j|v).$

Конкретные вероятности активации для одного элемента определяются как

$P(h_j=1|v)=\sigma (b_j+\sum _{i=1}^m{w}_{i,j}{v}_i)$ и $P(v_i=1|h)=\sigma (a_i+\sum _{j=1}^n{w}_{i,j}{h}_j),$

где $\sigma$ — логистическая функция для активации слоя.

Видимые слои могут иметь также мультиномиальное распределение, в то время как скрытые слои распределены по Бернулли. В случае мультиномиальности вместо логистической функции используется softmax:

$P(v_i^k=1|h)=\frac{\exp (a_i^k+{\mathrm{\Sigma }}_j{W}_{ij}^k{h}_j)}{{\mathrm{\Sigma }}_{k^{\prime }=1}^K\exp (a_i^{k^{\prime }}+{\mathrm{\Sigma }}_j{W}_{ij}^{k^{\prime }}{h}_j)},$

где K — количество дискретных значений видимых элементов. Такое представление используется в задачах тематического моделирования и в рекомендательных системах.

Связь с другими моделями

Ограниченная машина Больцмана представляет собой частный случай обычной машины Больцмана и марковской сети. Их графовая модель соответствует графовой модели факторного анализа.

Алгоритм обучения

Целью обучения является максимизация вероятности системы с заданным набором образцов $V$ (матрицы, в которой каждая строка соответствует одному образцу видимого вектора $v$), определяемой как произведение вероятностей

$\arg \underset{W}{\max }\prod _{v\in V}P(v),$

или же, что одно и то же, максимизации логарифма произведения:

$\arg \underset{W}{\max }𝔼[\log P(v)].$

Для тренировки нейронной сети используется алгоритм контрастивной дивергенции (CD) с целью нахождения оптимальных весов матрицы $W$, его предложил Джеффри Хинтон, первоначально для обучения моделей PoE («произведение экспертных оценок»). Алгоритм использует семплирование по Гиббсу для организации процедуры градиентного спуска, аналогично методу обратного распространения ошибок для нейронных сетей.

В целом один шаг контрастивной дивергенции (CD-1) выглядит следующим образом:

1. Для одного образца данных Шаблон:Mvar вычисляются вероятности скрытых элементов и применяется активация для скрытого слоя Шаблон:Mvar для данного распределения вероятностей.
2. Вычисляется внешнее произведение (семплирование) для Шаблон:Mvar и Шаблон:Mvar, которое называют позитивным градиентом.
3. Через образец Шаблон:Mvar проводится реконструкция образца видимого слоя Шаблон:Mvar, а потом выполняется снова семплирование с активацией скрытого слоя Шаблон:Mvar. (Этот шаг называется Семплирование по Гиббсу.)
4. Далее вычисляется внешнее произведение, но уже векторов Шаблон:Mvar и Шаблон:Mvar, которое называют негативным градиентом.
5. Матрица весов $W$ поправляется на разность позитивного и негативного градиента, помноженного на множитель, задающий скорость обучения: $\mathrm{\Delta }W=\epsilon (v{h}^{𝖳}-v^{\prime }h{\text{'}}^{𝖳})$.
6. Вносятся поправки в биасы Шаблон:Mvar и Шаблон:Mvar похожим способом: $\mathrm{\Delta }a=\epsilon (v-v^{\prime })$, $\mathrm{\Delta }b=\epsilon (h-h^{\prime })$.

Практические указания по реализации процесса обучения можно найти на личной странице Джеффри Хинтона.

См. также

• Автокодировщик
• Глубокое обучение
• Машина Гельмгольца
• Сеть Хопфилда

Литература

• Introduction to Restricted Boltzmann Machines Шаблон:Wayback. Edwin Chen’s blog, July 18, 2011.
• A Beginner’s Guide to Restricted Boltzmann Machines. Deeplearning4j Documentation
• Understanding RBMs. Deeplearning4j Documentation, August 4, 2015.
• Python implementation Шаблон:Wayback of Bernoulli RBM and tutorial Шаблон:Wayback
• SimpleRBM Шаблон:Wayback is a very small RBM code (24kB) useful for you to learn about how RBMs learn.