Просмотр кода страницы Нейронная сеть

{{Эта статья|о понятии в программировании|Нервная сеть|о сетях нервных клеток живых организмов}}
[[Файл:Neural network.svg|thumb|Схема простой нейросети. Зелёным цветом обозначены ''входные'' нейроны, голубым — ''скрытые'' нейроны, жёлтым — ''выходной'' нейрон]]
'''Нейро́нная сеть'''<ref>{{БРЭ|статья=Нейронные сети|id=4114009 |автор=[[Галушкин, Александр Иванович (учёный)|Галушкин А. И.]] |ссылка=https://old.bigenc.ru/technology_and_technique/text/4114009|архив=https://web.archive.org/web/20221025173916/https://bigenc.ru/technology_and_technique/text/4114009|архив дата=2022-10-25}}</ref> (также '''иску́сственная нейро́нная сеть''', '''ИНС''', или просто '''нейросе́ть''') — [[математическая модель]], а также её программное или аппаратное воплощение, построенная по принципу организации биологических нейронных сетей — сетей [[Нейрон|нервных клеток]] живого организма. Это понятие возникло при изучении процессов, протекающих в [[мозг]]е, и при попытке [[Моделирование|смоделировать]] эти процессы. Первой такой [[Модель мозга|попыткой]] были нейронные сети [[Маккалок, Уоррен|У. Маккалока]] и [[Питтс, Уолтер|У. Питтса]]<ref name="Мак-Каллок">''[[Маккалок, Уоррен|Мак-Каллок У. С.]], Питтс В.'' [http://neuro.net.ua/pub/mcculloch.html Логическое исчисление идей, относящихся к нервной активности] {{Wayback|url=http://neuro.net.ua/pub/mcculloch.html |date=20071127004033 }} // Автоматы / Под ред. К. Э. Шеннона и Дж. Маккарти. — {{М.}}: Изд-во иностр. лит., 1956. — С. 363—384. (Перевод английской статьи 1943 г.)</ref>. После разработки алгоритмов обучения получаемые модели стали использовать в практических целях: в [[Задачи прогнозирования|задачах прогнозирования]], для [[Распознавание образов|распознавания образов]], в задачах [[Адаптивное управление|управления]] и др.

ИНС представляет собой [[система|систему]] соединённых и взаимодействующих между собой простых процессоров ([[искусственный нейрон|искусственных нейронов]]). Такие процессоры довольно просты (особенно в сравнении с процессорами, используемыми в персональных компьютерах). Каждый процессор подобной сети имеет дело только с [[сигнал]]ами, которые он периодически получает, и сигналами, которые он периодически посылает другим процессорам. И, тем не менее, будучи соединёнными в достаточно большую сеть с управляемым взаимодействием, такие простые по отдельности процессоры вместе способны выполнять довольно сложные задачи.

* С точки зрения [[Машинное обучение|машинного обучения]], нейронная сеть представляет собой частный случай методов [[Теория распознавания образов|распознавания образов]], [[Дискриминантный анализ|дискриминантного анализа]];
* С точки зрения [[математика|математики]], обучение нейронных сетей — это многопараметрическая задача [[нелинейное программирование|нелинейной оптимизации]];
* С точки зрения [[кибернетика|кибернетики]], нейронная сеть используется в задачах [[Адаптивное управление|адаптивного управления]] и как [[алгоритм]]ы для [[Робототехника|робототехники]];
* С точки зрения развития [[вычислительная техника|вычислительной техники]] и [[программирование|программирования]], нейронная сеть — способ решения проблемы эффективного [[Параллелизм (информатика)|параллелизма]]<ref>''Горбань А. Н.'' [http://www.library.mephi.ru/data/scientific-sessions/2000/Book_Diss/33.html Кто мы, куда мы идём, как путь наш измерить?] {{Wayback|url=http://www.library.mephi.ru/data/scientific-sessions/2000/Book_Diss/33.html |date=20090814221820 }} Пленарный доклад на открытии конференции ''Нейроинформатика-99'' (МИФИ, 20 января 1999). Журнальный вариант: ''Горбань А. Н.'' Нейроинформатика: кто мы, куда мы идём, как путь наш измерить // Вычислительные технологии. — {{М.}}: Машиностроение. — 2000. — № 4. — С. 10—14. = ''Gorban A.N.'' [http://arxiv.org/abs/cond-mat/0307346 Neuroinformatics: What are us, where are we going, how to measure our way?] {{Wayback|url=http://arxiv.org/abs/cond-mat/0307346 |date=20160217150055 }} The Lecture at the USA-NIS Neurocomputing Opportunities Workshop, Washington DC, July 1999 (Associated with IJCNN’99).</ref>;
* С точки зрения [[Искусственный интеллект|искусственного интеллекта]], ИНС является основой [[философия|философского]] течения [[коннективизм|коннекционизма]] и основным направлением в структурном подходе по изучению возможности построения (моделирования) [[интеллект|естественного интеллекта]] с помощью [[алгоритм|компьютерных]] [[алгоритм]]ов.

Нейронные сети не [[программирование|программируются]] в привычном смысле этого слова, они '''[[Машинное обучение|обучаются]]'''{{efn|По мнению известного специалиста по машинному обучению [[Лекун, Ян|Ян Лекуна]], [[машинное обучение]] есть воспроизведение [[Мышление|мышления]] на основе искусственных нейронных сетей {{sfn|Лекун|2021|loc=|с=78|name=}}}}. Возможность обучения — одно из главных преимуществ нейронных сетей перед традиционными [[алгоритм]]ами. Технически обучение заключается в нахождении коэффициентов связей между нейронами. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными и выходными данными, а также выполнять [[обобщение]]. Это значит, что в случае успешного обучения сеть сможет вернуть верный результат на основании данных, которые отсутствовали в обучающей выборке, а также неполных и/или «зашумлённых», частично искажённых данных.

== Хронология ==
* [[1943 год в науке|1943]] — [[Маккалок, Уоррен|У. Маккалок]] и [[Питтс, Уолтер|У. Питтс]] формализуют понятие нейронной сети в фундаментальной статье о логическом исчислении идей и нервной активности<ref name="Мак-Каллок"/>. В начале своего сотрудничества с Питтсом [[Винер, Норберт|Н. Винер]] предлагает ему вакуумные лампы в качестве средства для реализации эквивалентов нейронных сетей<ref>Н. Винер. Кибернетика. 2-е изд., 1961, гл. I.</ref>.
* [[1948 год в науке|1948]] — опубликована [[Cybernetics: Or Control and Communication in the Animal and the Machine|книга]] [[Винер, Норберт|Н. Винера]] о кибернетике. Основной идеей стало представление сложных биологических процессов математическими моделями.
* [[1949 год в науке|1949]] — [[Хебб, Дональд|Д. Хебб]] предлагает первый алгоритм обучения.
* [[1958 год в науке|1958]] — [[Розенблатт, Фрэнк|Ф. Розенблатт]] изобретает однослойный [[перцептрон]] и демонстрирует его способность решать задачи классификации{{sfn|Голубев|2007|с=4}}. Перцептрон использовали для распознавания образов, прогнозирования погоды. К моменту изобретения перцептрона завершилось расхождение теоретических работ Маккалока с «кибернетикой» Винера; Маккалок и его последователи вышли из состава «Кибернетического клуба».
* [[1960 год в науке|1960]] — {{iw|Уидроу, Бернард|Бернард Уидроу|en|Bernard Widrow}} совместно со своим студентом Хоффом на основе [[Дельта-правило|дельта-правила]] (''формулы Уидроу'') разработали Адалин, который сразу начал использоваться для задач предсказания и адаптивного управления. Адалин был построен на базе созданных ими же (Уидроу — Хоффом) новых элементах — [[мемистор]]ах<ref>{{Cite web |url=http://www-isl.stanford.edu/~widrow/papers/j1964patternrecognition.pdf |title=Pattern Recognition and Adaptive Control. ''BERNARD WIDROW'' |access-date=2009-02-09 |archive-date=2010-06-22 |archive-url=https://web.archive.org/web/20100622165828/http://www-isl.stanford.edu/~widrow/papers/j1964patternrecognition.pdf |deadlink=no }}</ref><ref>''Уидроу Б., Стирнс С.'' Адаптивная обработка сигналов. — {{М.}}: Радио и связь, 1989. — 440 c.</ref>.
* [[1963 год в науке|1963]] — в Институте проблем передачи информации АН СССР А. П. Петровым проводится исследование задач, «трудных» для перцептрона<ref>{{статья|автор=Петров А. П.&nbsp;|заглавие=О возможностях перцептрона|издание=Известия АН СССР, Техническая кибернетика|год=1964|номер=6}}</ref>. На эту работу в области моделирования ИНС в СССР опирался [[Бонгард, Михаил Моисеевич|М. М. Бонгард]] в своей работе как «сравнительно небольшой переделкой алгоритма (перцептрона) исправить его недостатки»<ref>{{книга|автор=[[Бонгард, Михаил Моисеевич|Бонгард М. М.]]&nbsp;|заглавие=Проблемы узнавания|место=М.|издательство=Физматгиз|год=1967}}</ref>.
* [[1969 год в науке|1969]] — [[Минский, Марвин Ли|М. Минский]] публикует формальное доказательство ограниченности перцептрона и показывает, что он не способен решать некоторые задачи (проблема «чётности» и «один в блоке»), связанные с инвариантностью представлений.
* [[1972 год в науке|1972]] — [[Кохонен, Теуво|Т. Кохонен]] и {{нп5|Андерсон, Джеймс (когнитивист)|Дж.&nbsp;Андерсон|en|James A. Anderson (cognitive scientist)}} независимо предлагают новый тип нейронных сетей, способных функционировать в качестве памяти{{sfn|Голубев|2007|с=5}}.
* [[1973 год в науке|1973]] — Б. В. Хакимов предлагает нелинейную модель с синапсами на основе сплайнов и внедряет её для решения задач в медицине, геологии, экологии<ref>''Хакимов Б. Б.'' Моделирование корреляционных зависимостей сплайнами на примерах в геологии и экологии. — {{М.}}: Изд-во Моск. ун-та; {{СПб.}}: Нева, 2003. — 144 с.</ref>.
* [[1974 год в науке|1974]] — Пол Дж. Вербос<ref>''Werbos P. J.'' Beyond regression: New tools for prediction and analysis in the behavioral sciences. — Ph. D. thesis, Harvard University, Cambridge, MA, 1974.</ref> и [[Галушкин, Александр Иванович (учёный)|Галушкин А. И.]]<ref>''Галушкин А. И.'' Синтез многослойных систем распознавания образов. — {{М.}}: Энергия, 1974.</ref> одновременно изобретают [[Метод обратного распространения ошибки|алгоритм обратного распространения ошибки]] для обучения [[многослойный перцептрон|многослойных перцептронов]]<ref name="Rumelhart">''Rumelhart D.E., Hinton G.E., Williams R.J.'', Learning Internal Representations by Error Propagation. In: Parallel Distributed Processing, vol. 1, pp. 318—362. Cambridge, MA, MIT Press. 1986.</ref>.
* [[1975 год в науке|1975]] — {{iw|Фукусима, Кунихико|Фукусима|en|Kunihiko Fukushima}} представляет [[когнитрон]] — самоорганизующуюся сеть, предназначенную для инвариантного [[Распознавание образов|распознавания образов]], но это достигается только при помощи запоминания практически всех состояний образа.
* [[1982 год в науке|1982]] — [[Хопфилд, Джон|Дж. Хопфилд]] показал, что нейронная сеть с обратными связями может представлять собой систему, минимизирующую энергию ([[нейронная сеть Хопфилда|сеть Хопфилда]]). Кохоненом представлены модели сети, обучающейся без учителя ([[нейронная сеть Кохонена]]), решающей задачи [[Кластеризация|кластеризации]], визуализации данных ([[самоорганизующаяся карта Кохонена]]) и другие задачи предварительного анализа данных.
* [[1986 год в науке|1986]] — [[Румельхарт, Дэвид|Дэвидом И. Румельхартом]], [[Хинтон, Джеффри|Дж. Е. Хинтоном]] и Рональдом Дж. Вильямсом<ref name="автоссылка1">''Rumelhart D. E., Hinton G. E., Williams R. J.'' Learning Internal Representations by Error Propagation // Parallel Distributed Processing. Vol. 1. — Cambridge, MA: MIT Press, 1986. P. 318—362.</ref>, а также независимо и одновременно С. И. Барцевым и В. А. Охониным<ref>''Барцев С. И., Охонин В. А.'' Адаптивные сети обработки информации. — Красноярск: Ин-т физики СО АН СССР, 1986. Препринт № 59Б. — 20 с.</ref>, переоткрыт и развит [[метод обратного распространения ошибки]].
* [[2007 год в науке|2007]] — [[Хинтон, Джеффри|Джеффри Хинтоном]] в университете Торонто созданы алгоритмы глубокого обучения многослойных нейронных сетей. Хинтон при обучении нижних слоёв сети использовал [[Машина Больцмана|ограниченную машину Больцмана]] (RBM — Restricted Boltzmann Machine). По Хинтону необходимо использовать много примеров распознаваемых образов (например, множество лиц людей на разных фонах). После обучения получается готовое быстро работающее приложение, способное решать конкретную задачу (например, осуществлять поиск лиц на изображении).

== Известные применения ==

=== Распознавание образов и классификация ===
{{main|Теория распознавания образов|Задача классификации}}
В качестве образов могут выступать различные по своей природе объекты: символы текста, изображения, образцы звуков и так далее. При обучении сети предлагаются различные образцы образов с указанием того, к какому классу они относятся. Образец, как правило, представляется как вектор значений признаков. При этом совокупность всех признаков должна ''однозначно определять класс'', к которому относится образец. В случае, если признаков недостаточно, сеть может соотнести один и тот же образец с несколькими классами, что неверно. По окончании обучения сети ей можно предъявлять неизвестные ранее образы и получать ответ о принадлежности к определённому классу.

Топология такой сети характеризуется тем, что количество нейронов в выходном слое, как правило, равно количеству определяемых классов. При этом устанавливается соответствие между выходом нейронной сети и классом, который он представляет. Когда сети предъявляется некий образ, на одном из её выходов должен появиться признак того, что образ принадлежит этому классу. В то же время на других выходах должен быть признак того, что образ данному классу не принадлежит<ref>Такой вид кодирования иногда называют кодом «1 из N»</ref>. Если на двух или более выходах есть признак принадлежности к классу, считается, что сеть «не уверена» в своём ответе.

==== Используемые архитектуры нейросетей ====
* Обучение с учителем:
** [[Перцептрон]]
** [[Свёрточные нейронные сети]]
* Обучение без учителя:
** [[Сети адаптивного резонанса]]
* Смешанное обучение:
** [[Сеть радиально-базисных функций]]

=== Принятие решений и управление ===
Эта задача близка к задаче классификации. Классификации подлежат ситуации, характеристики которых поступают на вход нейронной сети. На выходе сети при этом должен появиться признак решения, которое она приняла. При этом в качестве входных сигналов используются различные критерии описания состояния управляемой системы<ref name="OSPNeuro">[http://www.osp.ru/os/1997/04/16.htm Открытые системы — введение в нейросети] {{Wayback|url=http://www.osp.ru/os/1997/04/16.htm |date=20051031213746 }}</ref>.

=== Кластеризация ===
{{main|Кластерный анализ}}
{{нет источников в разделе|дата=2023-12-07}}
Под кластеризацией понимается разбиение множества входных сигналов на классы, при том, что ни количество, ни признаки классов заранее неизвестны. После обучения такая сеть способна определять, к какому классу относится входной сигнал. Сеть также может сигнализировать о том, что входной сигнал не относится ни к одному из выделенных классов — это является признаком новых, отсутствующих в обучающей выборке, данных. Таким образом, подобная сеть ''может выявлять новые, неизвестные ранее классы сигналов''. Соответствие между классами, выделенными сетью, и классами, существующими в предметной области, устанавливается человеком. Кластеризацию осуществляют, например, [[нейронная сеть Кохонена|нейронные сети Кохонена]].

Нейронные сети в простом варианте Кохонена не могут быть огромными, поэтому их делят на гиперслои (гиперколонки) и ядра (микроколонки). Если сравнивать с мозгом человека, то идеальное количество параллельных слоёв не должно быть более 112. Эти слои в свою очередь составляют гиперслои (гиперколонку), в которой от 500 до 2000 микроколонок (ядер). При этом каждый слой делится на множество гиперколонок, пронизывающих насквозь эти слои. Микроколонки кодируются цифрами и единицами с получением результата на выходе. Если требуется, то лишние слои и нейроны удаляются или добавляются. Идеально для подбора числа нейронов и слоёв использовать суперкомпьютер. Такая система позволяет нейронным сетям быть пластичными.

==== Используемые архитектуры нейросетей ====
* Обучение без учителя:
:* [[Перцептрон]]
:* [[Самоорганизующаяся карта Кохонена]]
:* [[Нейронная сеть Кохонена]]
:* [[Сети адаптивного резонанса]]

=== Прогнозирование ===
{{main|Прогнозирование}}
{{нет источников в разделе|дата=2023-12-07}}
Способности нейронной сети к прогнозированию напрямую следуют из её способности к обобщению и выделению скрытых зависимостей между входными и выходными данными. После обучения сеть способна предсказать будущее значение некой последовательности на основе нескольких предыдущих значений и (или) каких-то существующих в настоящий момент факторов. Прогнозирование возможно только тогда, когда ''предыдущие изменения в какой-то степени действительно предопределяют будущие''. Например, прогнозирование котировок акций на основе котировок за прошлую неделю может оказаться успешным (а может и не оказаться), тогда как прогнозирование результатов завтрашней лотереи на основе данных за последние 50 лет почти наверняка не даст никаких результатов.

==== Используемые архитектуры нейросетей ====
* Обучение с учителем:
:* [[Перцептрон]]
* Смешанное обучение:
:* [[Сеть радиально-базисных функций]]

=== Аппроксимация ===
{{main|Аппроксимация}}
{{нет источников в разделе|дата=2023-12-07}}
Нейронные сети могут аппроксимировать непрерывные функции. Доказана обобщённая [[аппроксимация|аппроксимационная]] [[теорема]]<ref>''Горбань А. Н.'' [http://neuroschool.narod.ru/pub/sibzhvm98.pdf Обобщённая аппроксимационная теорема и вычислительные возможности нейронных сетей] {{Wayback|url=http://neuroschool.narod.ru/pub/sibzhvm98.pdf |date=20120127111259 }} // ''Сибирский журнал вычислительной математики'', 1998, т. 1, № 1. — С. 12—24.</ref>: с помощью линейных операций и каскадного соединения можно из произвольного нелинейного элемента получить устройство, вычисляющее любую [[Непрерывное отображение|непрерывную функцию]] с некоторой наперёд заданной [[точность]]ю. Это означает, что нелинейная характеристика нейрона может быть произвольной: от [[сигмоид]]альной до произвольного волнового пакета или [[вейвлет]]а, [[синус (функция)|синуса]] или [[многочлен]]а. От выбора нелинейной функции может зависеть [[сложность]] конкретной сети, но с любой нелинейностью сеть остаётся [[Теорема Цыбенко|универсальным аппроксиматором]] и при правильном выборе структуры может достаточно точно аппроксимировать функционирование любого непрерывного автомата.

==== Используемые архитектуры нейросетей ====
* Обучение с учителем:
:* [[Перцептрон]]
* Смешанное обучение:
:* [[Сеть радиально-базисных функций]]

=== Сжатие данных и ассоциативная память ===
{{main|Нейросетевое сжатие данных|Ассоциативная память}}

Способность нейросетей к выявлению взаимосвязей между различными параметрами даёт возможность выразить данные большой размерности более компактно, если данные тесно взаимосвязаны друг с другом. Обратный процесс — восстановление исходного набора данных из части информации — называется (авто)ассоциативной памятью. Ассоциативная память позволяет также восстанавливать исходный сигнал/образ из зашумлённых/повреждённых входных данных. Решение задачи гетероассоциативной памяти позволяет реализовать память, адресуемую по содержимому<ref name="OSPNeuro" />.

=== Анализ данных ===

==== Используемые архитектуры нейросетей ====
* Обучение с учителем:
:* [[Перцептрон]]
* Обучение без учителя:
:* [[Перцептрон]]
:* [[Самоорганизующаяся карта Кохонена]]
:* [[Нейронная сеть Кохонена]]

=== Оптимизация ===

==== Используемые архитектуры нейросетей ====
* Обучение без учителя:
:* [[Самоорганизующаяся карта Кохонена]]
:* [[Нейронная сеть Кохонена]]

== Этапы решения задач ==
* Сбор данных для обучения;
* Подготовка и нормализация данных;
* Выбор топологии сети;
* Экспериментальный подбор характеристик сети;
* Экспериментальный подбор параметров обучения;
* Собственно обучение;
* Проверка адекватности обучения;
* Корректировка параметров, окончательное обучение;
* [[Вербализация (программирование)|Вербализация]] сети<ref>''[[Миркес, Евгений Моисеевич|Миркес Е. М.]]'' [https://www.intuit.ru/studies/courses/2257/141/lecture/20597 Логически прозрачные нейронные сети и производство явных знаний из данных] {{Wayback|url=https://www.intuit.ru/studies/courses/2257/141/lecture/20597|date=20190204065749}} // Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с. — ISBN 5-02-031410-2.</ref> с целью дальнейшего использования.

Следует рассмотреть подробнее некоторые из этих этапов.

=== Сбор данных для обучения ===
{{нет источников в разделе|дата=2023-11-03}}
Выбор данных для обучения сети и их обработка является самым сложным этапом решения задачи. Набор данных для обучения должен удовлетворять нескольким критериям:
* репрезентативность — данные должны иллюстрировать истинное положение вещей в предметной области;
* непротиворечивость — противоречивые данные в обучающей выборке приведут к плохому качеству обучения сети.

Исходные данные преобразуются к виду, в котором их можно подать на входы сети. Каждая запись в файле данных называется ''обучающей парой'' или ''обучающим вектором''. Обучающий вектор содержит по одному значению на каждый вход сети и, в зависимости от типа обучения (с учителем или без), по одному значению для каждого выхода сети. Обучение сети на «сыром» наборе, как правило, не даёт качественных результатов. Существует ряд способов улучшить «восприятие» сети.
* ''Нормировка'' выполняется, когда на различные входы подаются данные разной размерности. Например, на первый вход сети подаются величины со значениями от нуля до единицы, а на второй — от ста до тысячи. При отсутствии нормировки значения на втором входе будут всегда оказывать существенно большее влияние на выход сети, чем значения на первом входе. При нормировке размерности всех входных и выходных данных сводятся воедино;
* ''[[Квантование (обработка сигналов)|квантование]]'' выполняется над непрерывными величинами, для которых выделяется конечный набор дискретных значений. Например, квантование используют для задания частот звуковых сигналов при распознавании речи;
* ''[[фильтрация]]'' выполняется для «зашумлённых» данных.

Кроме того, большую роль играет само представление как входных, так и выходных данных. Предположим, сеть обучается распознаванию букв на изображениях и имеет один числовой выход — номер буквы в алфавите. В этом случае сеть получит ложное представление о том, что буквы с номерами 1 и 2 более похожи, чем буквы с номерами 1 и 3, что, в общем, неверно. Для того, чтобы избежать такой ситуации, используют топологию сети с большим числом выходов, когда каждый выход имеет свой смысл. Чем больше выходов в сети, тем большее расстояние между классами и тем сложнее их спутать.

=== Выбор топологии сети ===
{{нет источников в разделе|дата=2023-11-03}}
Выбирать тип сети следует, исходя из постановки задачи и имеющихся данных для обучения. Для обучения с учителем требуется наличие для каждого элемента выборки «экспертной» оценки. Иногда получение такой оценки для большого массива данных просто невозможно. В этих случаях естественным выбором является сеть, обучающаяся без учителя (например, [[самоорганизующаяся карта Кохонена]] или [[нейронная сеть Хопфилда]]). При решении других задач (таких, как прогнозирование временных рядов) экспертная оценка уже содержится в исходных данных и может быть выделена при их обработке. В этом случае можно использовать [[многослойный перцептрон]]{{Уточнить}} или [[нейронная сеть Ворда|сеть Ворда]].

=== Экспериментальный подбор характеристик сети ===
{{нет источников в разделе|дата=2023-11-03}}
После выбора общей структуры нужно экспериментально подобрать параметры сети. Для сетей, подобных перцептрону, это будет число слоёв, число блоков в скрытых слоях (для сетей Ворда), наличие или отсутствие обходных соединений, передаточные функции нейронов. При выборе количества слоёв и нейронов в них следует исходить из того, что ''способности сети к обобщению тем выше, чем больше суммарное число связей между нейронами''. С другой стороны, число связей ограничено сверху количеством записей в обучающих данных.

=== Экспериментальный подбор параметров обучения ===
{{нет источников в разделе|дата=2023-11-03}}
После выбора конкретной топологии необходимо выбрать параметры обучения нейронной сети. Этот этап особенно важен для сетей, [[Обучение с учителем|обучающихся с учителем]]. От правильного выбора параметров зависит не только то, насколько быстро ответы сети будут сходиться к правильным ответам. Например, выбор низкой скорости обучения увеличит время схождения, однако иногда позволяет избежать [[Паралич нейронной сети|паралича сети]]. Увеличение момента обучения может привести как к увеличению, так и к уменьшению времени сходимости, в зависимости от формы [[Поверхность ошибок|поверхности ошибки]]. Исходя из такого противоречивого влияния параметров, можно сделать вывод, что их значения нужно выбирать экспериментально, руководствуясь при этом критерием завершения обучения (например, минимизация ошибки или ограничение по времени обучения).

=== Обучение сети ===
{{нет источников в разделе|дата=2023-11-03}}
В процессе обучения сеть в определённом порядке просматривает обучающую выборку. Порядок просмотра может быть последовательным, случайным и т. д. Некоторые сети, [[Обучение без учителя|обучающиеся без учителя]] (например, [[Нейронная сеть Хопфилда|сети Хопфилда]]), просматривают выборку только один раз. Другие (например, [[Нейронная сеть Кохонена|сети Кохонена]]), а также сети, обучающиеся с учителем, просматривают выборку множество раз, при этом один полный проход по выборке называется ''эпохой обучения''. При обучении с учителем набор исходных данных делят на две части — собственно обучающую выборку и тестовые данные; принцип разделения может быть произвольным. Обучающие данные подаются сети для обучения, а проверочные используются для расчёта ошибки сети (проверочные данные никогда для обучения сети не применяются). Таким образом, если на проверочных данных ошибка уменьшается, то сеть действительно выполняет обобщение. Если ошибка на обучающих данных продолжает уменьшаться, а ошибка на тестовых данных увеличивается, значит, сеть перестала выполнять обобщение и просто «запоминает» обучающие данные. Это явление называется переобучением сети или [[оверфиттинг]]ом. В таких случаях обучение обычно прекращают. В процессе обучения могут проявиться другие проблемы, такие как паралич или попадание сети в локальный минимум поверхности ошибок. Невозможно заранее предсказать проявление той или иной проблемы, равно как и дать однозначные рекомендации к их разрешению.

Всё выше сказанное относится только к итерационным алгоритмам поиска нейросетевых решений. Для них действительно нельзя ничего гарантировать и нельзя полностью автоматизировать обучение нейронных сетей.{{нет АИ|19|06|2013}} Однако, наряду с итерационными алгоритмами обучения, существуют не итерационные алгоритмы, обладающие очень высокой устойчивостью и позволяющие полностью автоматизировать процесс обучения{{Citation needed|reason=reference to the source|01|12|2017}}.

=== Проверка адекватности обучения ===
Даже в случае успешного, на первый взгляд, обучения сеть не всегда обучается именно тому, чего от неё хотел создатель. Известен случай, когда сеть обучалась распознаванию изображений танков по фотографиям, однако позднее выяснилось, что все танки были сфотографированы на одном и том же фоне. В результате сеть «научилась» распознавать этот тип ландшафта, вместо того, чтобы «научиться» распознавать танки<ref>{{Cite web |url=http://www.popmech.ru/article/2233-po-obrazu-i-podobiyu/ |title=Упоминание этой истории в журнале «Популярная механика» |access-date=2012-04-16 |archive-date=2011-09-08 |archive-url=https://web.archive.org/web/20110908032706/http://www.popmech.ru/article/2233-po-obrazu-i-podobiyu/ |deadlink=no }}</ref>. Таким образом, сеть «понимает» не то, что от неё требовалось, а то, что проще всего обобщить.

Тестирование качества обучения нейросети необходимо проводить на примерах, которые не участвовали в её обучении. При этом число тестовых примеров должно быть тем больше, чем выше качество обучения. Если ошибки нейронной сети имеют вероятность близкую к одной миллиардной, то и для подтверждения этой вероятности нужен миллиард тестовых примеров. Получается, что тестирование хорошо обученных нейронных сетей становится очень трудной задачей.

== Классификация по типу входной информации ==
{{нет источников в разделе|дата=2023-12-07}}
* Аналоговые нейронные сети (используют информацию в форме действительных чисел);
* Двоичные нейронные сети (оперируют с информацией, представленной в двоичном виде);
* Образные нейронные сети (оперируют с информацией, представленной в виде образов: знаков, иероглифов, символов).

== Классификация по характеру обучения ==
{{нет источников в разделе|дата=2023-12-07}}
* [[Обучение с учителем]] — выходное пространство решений нейронной сети известно;
* [[Обучение без учителя]] — нейронная сеть формирует выходное пространство решений только на основе входных воздействий. Такие сети называют самоорганизующимися;
* [[Обучение с подкреплением]] — система назначения штрафов и поощрений от среды.

== Классификация по характеру настройки синапсов ==
{{нет источников в разделе|дата=2023-12-07}}
* Сети с фиксированными связями (весовые коэффициенты нейронной сети выбираются сразу, исходя из условий задачи, при этом: <math>\boldsymbol dW/dt=0</math>, где W — весовые коэффициенты сети);
* Сети с динамическими связями (для них в процессе обучения происходит настройка синаптических связей, то есть <math>\boldsymbol dW/dt\not=0</math>, где W — весовые коэффициенты сети).

== Классификация по времени передачи сигнала ==
{{нет источников в разделе|дата=2023-12-07}}
В ряде нейронных сетей активирующая функция может зависеть не только от весовых коэффициентов связей <math>w_{ij}</math>, но и от времени передачи импульса (сигнала) по каналам связи <math>\tau_{ij}</math>. Поэтому в общем виде активирующая (передающая) функция связи <math>c_{ij}</math> от элемента <math>u_i</math> к элементу <math>u_j</math> имеет вид:
<math>c_{ij}^* = f [ w_{ij}(t), u_i^*(t - \tau_{ij})]</math>.
Тогда ''синхронной сетью'' называют такую сеть, у которой время передачи <math>\tau_{ij}</math> каждой связи равно либо нулю, либо фиксированной постоянной <math>\tau</math>. ''Асинхронной'' называют такую сеть, у которой время передачи <math>\tau_{ij}</math> для каждой связи между элементами <math>u_i</math> и <math>u_j</math> своё, но тоже постоянное.

== Классификация по характеру связей ==

=== Нейронные сети прямого распространения ===
{{нет источников в разделе|дата=2023-12-07}}
В нейронных сетях прямого распространения ({{lang-en|feedforward neural network}}) все связи направлены строго от входных нейронов к выходным. Примерами таких сетей являются [[Перцептрон|перцептрон Розенблатта]], [[многослойный перцептрон]], [[Нейронная сеть Ворда|сети Ворда]].

=== Рекуррентные нейронные сети ===
{{Main|Рекуррентная нейронная сеть}}

Сигнал с выходных нейронов или нейронов скрытого слоя частично передаётся обратно на входы нейронов входного слоя ([[обратная связь]]). Рекуррентная [[Нейронная сеть Хопфилда|сеть Хопфилда]] «фильтрует» входные данные, возвращаясь к устойчивому состоянию и, таким образом, позволяет решать задачи [[Нейросетевое сжатие данных|компрессии данных]] и построения [[Ассоциативная память|ассоциативной памяти]]<ref>{{Cite web |url=http://www.intuit.ru/department/expert/neuro/10/ |title=INTUIT.ru — Рекуррентные сети как ассоциативные запоминающие устройства |access-date=2007-10-05 |archive-date=2007-12-17 |archive-url=https://web.archive.org/web/20071217071556/http://www.intuit.ru/department/expert/neuro/10/ |deadlink=no }}</ref>. Частным случаем рекуррентных сетей являются двунаправленные сети. В таких сетях между слоями существуют связи как в направлении от входного слоя к выходному, так и в обратном. Классическим примером является [[Нейронная сеть Коско]].

=== Радиально-базисные функции ===
{{main|Сеть радиально-базисных функций}}
{{нет источников в разделе|дата=2023-12-07}}
Разработаны нейронные сети, использующие в качестве активационных функций радиально-базисные (также называются RBF-сетями). Общий вид радиально-базисной функции:

<math>f(x)=\phi \left(\frac{x^2}{\sigma^2}\right)</math>, например,
<math>f(x)=e^{-{{x^2}\over{\sigma^2}}},</math>

где <math>x</math> — вектор входных сигналов нейрона, <math>\sigma</math> — ширина окна функции, <math>\phi(y)</math> — убывающая функция (чаще всего, равная нулю вне некоторого отрезка).

Радиально-базисная сеть характеризуется тремя особенностями:
# единственный скрытый слой;
# только нейроны скрытого слоя имеют нелинейную активационную функцию;
# синаптические веса связей входного и скрытого слоёв равны единице.

=== Самоорганизующиеся карты ===
{{main|Самоорганизующаяся карта Кохонена}}
Такие сети представляют собой соревновательную нейронную сеть с [[обучение без учителя|обучением без учителя]], выполняющую задачу визуализации и [[кластеризация|кластеризации]]. Является методом проецирования многомерного пространства в пространство с более низкой размерностью (чаще всего, двумерное), применяется также для решения задач моделирования, прогнозирования и др. Является одной из версий [[нейронная сеть Кохонена|нейронных сетей Кохонена]]<ref>''Kohonen T.'' Self-Organizing Maps. 3rd edition. — Berlin — New York: Springer-Verlag, 2001/ — ISBN 0-387-51387-6, ISBN 3-540-67921-9.</ref>. Самоорганизующиеся карты Кохонена служат, в первую очередь, для визуализации и первоначального («разведывательного») [[Интеллектуальный анализ данных|анализа данных]]<ref name="Зиновьев">{{книга|автор=Зиновьев А. Ю.&nbsp;|заглавие=Визуализация многомерных данных|ссылка=http://pca.narod.ru/ZINANN.htm|место=Красноярск|издательство=Изд-во Красноярского гос. техн. ун-та|год=2000|страниц=180|archive-date=2019-03-06|archive-url=https://web.archive.org/web/20190306171737/http://pca.narod.ru/ZINANN.htm}}</ref>.

Сигнал в сеть Кохонена поступает сразу на все нейроны, веса соответствующих синапсов интерпретируются как координаты положения узла, и выходной сигнал формируется по принципу «победитель забирает всё» — то есть ненулевой выходной сигнал имеет нейрон, ближайший (в смысле весов синапсов) к подаваемому на вход объекту. В процессе обучения веса синапсов настраиваются таким образом, чтобы узлы решётки «располагались» в местах локальных сгущений данных, то есть описывали кластерную структуру облака данных, с другой стороны, связи между нейронами соответствуют отношениям соседства между соответствующими кластерами в пространстве признаков.

Удобно рассматривать такие карты как двумерные сетки узлов, размещённых в многомерном пространстве. Изначально самоорганизующаяся карта представляет собой сетку из узлов, соединённую между собой связями. Кохонен рассматривал два варианта соединения узлов — в прямоугольную и гексагональную сетку — отличие состоит в том, что в прямоугольной сетке каждый узел соединён с четырьмя соседними, а в гексагональной — с шестью ближайшими узлами. Для двух таких сеток процесс построения сети Кохонена отличается лишь в том месте, где перебираются ближайшие к данному узлу соседи.

Начальное вложение сетки в пространство данных выбирается произвольным образом. В авторском пакете SOM_PAK предлагаются варианты случайного начального расположения узлов в пространстве и вариант расположения узлов в плоскости. После этого узлы начинают перемещаться в пространстве согласно следующему алгоритму:
# Случайным образом выбирается точка данных <math>x</math>.
# Определяется ближайший к <math>x</math> узел карты (BMU — Best Matching Unit).
# Этот узел перемещается на заданный шаг по направлению к <math>x</math>. Однако он перемещается не один, а увлекает за собой определённое количество ближайших узлов из некоторой окрестности на карте. Из всех двигающихся узлов наиболее сильно смещается центральный — ближайший к точке данных — узел, а остальные испытывают тем меньшие смещения, чем дальше они от BMU. В настройке карты различают два этапа — этап грубой (''ordering'') и этап тонкой (''fine-tuning'') настройки. На первом этапе выбираются большие значения окрестностей и движение узлов носит коллективный характер — в результате карта «расправляется» и грубым образом отражает структуру данных; на этапе тонкой настройки радиус окрестности равен 1-2 и настраиваются уже индивидуальные положения узлов. Кроме этого, величина смещения равномерно затухает со временем, то есть она велика в начале каждого из этапов обучения и близка к нулю в конце.
# Алгоритм повторяется определённое число эпох (понятно, что число шагов может сильно изменяться в зависимости от задачи).

== Известные типы сетей ==
{{кол}}
* [[Перцептрон|Перцептрон Розенблатта]];
* [[Сплайн-модель Хакимова]];
* [[Многослойный перцептрон Розенблатта]];
* [[Многослойный перцептрон Румельхарта]];
* [[Нейронная сеть Джордана|Сеть Джордана]];
* [[Нейронная сеть Элмана|Сеть Элмана]];
* [[Нейронная сеть Хэмминга|Сеть Хэмминга]];
* [[Нейронная сеть Ворда|Сеть Ворда]];
* [[Нейронная сеть Хопфилда|Сеть Хопфилда]];
* [[Нейронная сеть Кохонена|Сеть Кохонена]];
* [[Нейронный газ]]<ref>''Martinetz T. M., Berkovich S. G., Schulten K. J.'' [http://pca.narod.ru/MartinesShultenNeuralGas1993.pdf Neural-gas network for vector quantization and its application to time-series prediction] {{Wayback|url=http://pca.narod.ru/MartinesShultenNeuralGas1993.pdf |date=20190716111749 }} // IEEE Trans. on Neural Networks, 1993, No. 4. — P. 558—569. На сайте [http://pca.narod.ru/ PCA] {{Wayback|url=http://pca.narod.ru/ |date=20190316011853 }}</ref>;
* [[Когнитрон]];
* [[Неокогнитрон]];
* [[Хаотическая нейронная сеть]];
* [[Осцилляторная нейронная сеть]];
* [[Сеть встречного распространения]];
* [[Сеть радиально-базисных функций]] (RBF-сеть);
* [[Сеть обобщённой регрессии]];
* [[Сеть В. Чеботкова]];
* [[Вероятностная сеть]];
* [[Вероятностная нейронная сеть Решетова]];
* [[Сиамская нейронная сеть]];
* [[Сети адаптивного резонанса]];
* [[Свёрточная нейронная сеть]] ({{lang-en|convolutional neural network}});
* [[Нечёткий многослойный перцептрон]];
* [[Импульсная нейронная сеть]].
{{конец кол}}

== Отличия от машин с архитектурой фон Неймана ==
{{нет источников в разделе|дата=2023-12-07}}
[[Вычислительная система|Вычислительные системы]], основанные на нейронных сетях, обладают рядом качеств, которые отсутствуют в машинах с [[Архитектура фон Неймана|архитектурой фон Неймана]] (но присущи мозгу человека):
* массовый [[Параллельные вычислительные системы|параллелизм]];
* распределённое представление информации и [[Распределённые вычисления|вычисления]];
* способность к обучению и обобщению;
* [[Адаптивная система|адаптивность]];
* свойство [[контекст]]уальной обработки информации;
* [[Допуск|толерантность]] к ошибкам;
* низкое энергопотребление.

== Примеры использований ==

=== Предсказание финансовых временных рядов ===
{{нет ссылок в разделе|дата=2023-10-22}}
Входные данные — курс акций за год. Задача — определить завтрашний курс. Проводится следующее преобразование — выстраивается в ряд курс за сегодня, вчера, за позавчера. Следующий ряд — смещается по дате на один день и так далее. На полученном наборе обучается сеть с тремя входами и одним выходом — то есть выход: курс на дату, входы: курс на дату минус один день, минус два дня, минус три дня. Обученной сети подаётся на вход курс за сегодня, вчера, позавчера и получается ответ на завтра. В этом случае сеть выведет зависимость одного параметра от трёх предыдущих. Если желательно учитывать ещё какой-то параметр (например, общий индекс по отрасли), то его надо добавить как вход (и включить в примеры), переобучить сеть и получить новые результаты.
Для наиболее точного обучения стоит использовать [[Метод обратного распространения ошибки|метод ОРО]], как наиболее предсказуемый и несложный в реализации.

=== Психодиагностика ===
Серия работ М. Г. Доррера с соавторами посвящена исследованию вопроса о возможности развития психологической [[интуиция|интуиции]] у нейросетевых [[экспертная система|экспертных систем]]<ref>''Gorban A. N., Rossiyev D. A., Dorrer M. G.'' [http://arxiv.org/ftp/q-bio/papers/0411/0411034.pdf MultiNeuron — Neural Networks Simulator For Medical, Physiological, and Psychological Applications] {{Wayback|url=http://arxiv.org/ftp/q-bio/papers/0411/0411034.pdf |date=20160217134451 }} // Wcnn’95, Washington, D.C.: World Congress on Neural Networks, 1995. International Neural Network Society Annual Meeting : Renaissance Hotel, Washington, D.C., USA, July 17-21, 1995.</ref><ref>''Доррер М. Г.'' [http://psyfactor.org/lib/dorrer-0.htm Психологическая интуиция искусственных нейронных сетей] {{Wayback|url=http://psyfactor.org/lib/dorrer-0.htm|date=20090325121522}}, Дисс. … 1998. Другие копии онлайн: [http://www.tnu.in.ua/study/books.php?do=file&id=1501] {{Wayback|url=http://www.tnu.in.ua/study/books.php?do=file&id=1501|date=20090428072610}}, [http://lib.sibnet.ru/referat/6923] {{Wayback|url=http://lib.sibnet.ru/referat/6923|date=20090407001000}}</ref>. Полученные результаты дают подход к раскрытию механизма интуиции нейронных сетей, проявляющейся при решении ими психодиагностических задач. Создан нестандартный для компьютерных методик ''интуитивный'' подход к [[психодиагностика|психодиагностике]], заключающийся в исключении построения ''описанной реальности''. Он позволяет сократить и упростить работу над психодиагностическими методиками.

=== Хемоинформатика ===
Нейронные сети широко используются в химических и биохимических исследованиях<ref>''Баскин И. И., Палюлин В. А., Зефиров Н. С.'' [http://www.chem.msu.su/rus/vmgu/995/323.pdf Применение искусственных нейронных сетей в химических и биохимических исследованиях] {{Wayback|url=http://www.chem.msu.su/rus/vmgu/995/323.pdf |date=20070710073538 }} // ''Вестн. Моск. ун-та. Сер. 2. Химия''. 1999. Т. 40. № 5.</ref>. В настоящее время нейронные сети являются одним из самых распространённых методов [[Хемоинформатика|хемоинформатики]] для [[Поиск количественных соотношений структура-свойство|поиска количественных соотношений структура-свойство]]<ref>{{статья|автор=Гальберштам Н. М., Баскин И. И., Палюлин В. А., [[Зефиров, Николай Серафимович|Зефиров Н. С.]]&nbsp;|заглавие=Нейронные сети как метод поиска зависимостей структура — свойство органических соединений|издание=[[Успехи химии]]|год=2003|том=72|номер=7|страницы=706—727|ссылка=https://www.uspkhim.ru/php/getFT.phtml?jrnid=rc&paperid=754&year_id=2003|язык=ru|издательство=[[Российская академия наук]]|archivedate=2023-03-29|archiveurl=https://web.archive.org/web/20230329103727/https://www.uspkhim.ru/php/getFT.phtml?jrnid=rc&paperid=754&year_id=2003}}</ref><ref>{{статья|автор=Баскин И. И., Палюлин В. А., Зефиров Н. С.&nbsp;|заглавие=Многослойные персептроны в исследовании зависимостей «структура-свойство» для органических соединений|издание=Российский химический журнал (Журнал Российского химического общества им. Д.&nbsp;И.&nbsp;Менделеева)|год=2006|том=50|страницы=86—96}}</ref>, благодаря чему они активно используются как для прогнозирования физико-химических свойств и биологической активности химических соединений, так и для направленного дизайна химических соединений и материалов с заранее заданными свойствами, в том числе при разработке новых лекарственных препаратов.

=== Нейроуправление ===
{{main|Нейроуправление}}
Нейронные сети успешно применяются для синтеза [[Регулятор (теория управления)|систем управления]] динамическими объектами{{sfn|Сигеру, Марзуки, Рубия|2000}}<ref>''Чернодуб А. Н., Дзюба Д. А.'' [http://ailen.org/wp-content/uploads/2011/08/2011_NeuroControl_Survey.pdf Обзор методов нейроуправления] {{Wayback|url=http://ailen.org/wp-content/uploads/2011/08/2011_NeuroControl_Survey.pdf |date=20120113002620 }} // ''Проблемы программирования''. — 2011. — № 2. — С. 79—94.</ref>.

В области управления нейронные системы находят применение в задачах идентификации объектов, в алгоритмах прогнозирования и диагностики, а также для синтеза оптимальных АСР. Для реализации АСР на основе ИНС в настоящее время интенсивно развивается производство ''нейрочипов и нейроконтроллеров'' (НК).

В определённом смысле ИНС является имитатором [[мозг]]а, обладающего способностью к обучению и ориентации в условиях неопределённости. Искусственная нейросеть сходна с мозгом в двух аспектах. Сеть приобретает знания в процессе обучения, а для сохранения знаний использует не сами объекты, а их связи — значения коэффициентов межнейронных связей, называемые синаптическими весами или синаптическими коэффициентами.

Процедура обучения ИНС состоит в идентификации синаптических весов, обеспечивающих ей необходимые преобразующие свойства. Особенностью ИНС является её способность к модификации параметров и структуры в процессе обучения<ref>Сабании В. Р. Автоматические системы регулирования на основе нейросетевых технологий / В. Р. Сабанин, Н. И. Смирнов, А. И. Репин // Труды Международной научной конференции Control-2003. М.: Издательство МЭИ, 2003. С. 45—51.</ref>.

=== Экономика ===
Алгоритмы нейронных сетей нашли широкое применение в экономике<ref>''Калацкая Л. В., Новиков В. А., Садов В. С.'' Организация и обучение искусственных нейронных сетей: Экспериментальное учеб. пособие. — Минск: Изд-во БГУ, 2003. — 72 с.</ref>. С помощью нейронных сетей решается задача разработки алгоритмов нахождения аналитического описания закономерностей функционирования экономических объектов (предприятие, отрасль, регион). Эти алгоритмы применяются к прогнозированию некоторых «выходных» показателей объектов. Применение нейросетевых методов позволяет решить некоторые проблемы экономико-статистического моделирования, повысить адекватность математических моделей, приблизить их к экономической реальности<ref>''Кенин А. М., Мазуров В. Д.'' [http://www.uralstars.com/Docs/Editor/Neuro.htm Опыт применения нейронных сетей в экономических задачах] {{Wayback|url=http://www.uralstars.com/Docs/Editor/Neuro.htm |date=20130402025015 }}</ref>. Поскольку экономические, финансовые и социальные системы очень сложны и являются результатом человеческих действий и противодействий, создание полной [[Математическая модель|математической модели]] с учётом всех возможных действий и противодействий является очень сложной (если разрешимой) задачей. В системах подобной сложности естественным и наиболее эффективным является использование моделей, которые напрямую имитируют поведение общества и экономики. Именно это способна предложить методология нейронных сетей<ref>[http://www.intuit.ru/department/itmngt/iteconomy/11/2.html] Нейронные сети в экономике</ref>.

=== Самостоятельные системы ===
{{нет АИ 2|Самостоятельные системы, такие как роботы, беспилотные автомобили и дроны, все чаще применяются в различных отраслях, а для их разработки нейросети играют ключевую роль в решении задач, таких как распознавание образов, анализ текста и управление системами. Нейросети используются для анализа данных, полученных от датчиков, для управления устройствами и принятия решений. Методы глубокого обучения часто применяются для решения проблем обнаружения и распознавания объектов, но возникают трудности при работе с объектами, находящимися в труднодоступных местах или в условиях плохой освещённости. В области автономного транспорта, нейросети являются примером заимствования концепций работы мозга и разума. Исследования используют нейронные сети для интеллектуального восприятия транспорта и определения типа транспорта|29|10|2023}}<ref>{{Статья|ссылка=http://dx.doi.org/10.46960/1816-210x_2018_3_121|автор=Виталий Валентинович Гаевский, Андрей Михайлович Иванов|заглавие=ПРОБЛЕМЫ ПРИМЕНЕНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ ПОМОЩИ ВОДИТЕЛЮ НА ОДНОКОЛЕЙНЫХ ТРАНСПОРТНЫХ СРЕДСТВАХ|год=2018|издание=Transactions of NNSTU n.a. R.E. Alekseev|выпуск=3|страницы=121–129|issn=1816-210X|doi=10.46960/1816-210x_2018_3_121}}</ref>{{нет в источнике|29|10|2023}}.

=== Системы рекомендаций ===
{{нет АИ 2|Нейросети представляют собой ценный инструмент для усовершенствования систем рекомендаций, которые основываются на нашей предыдущей активности, чтобы подсказывать нам что-то новое и интересное, например, музыку, фильмы или товары. Однако, с ростом объёма данных возникает потребность в более продвинутых методах обработки, и здесь на помощь приходят нейросети, которые способны обработать информацию, обнаружить скрытые связи между данными и определить, что может быть наиболее интересным и релевантным для нас. Например, они могут использоваться, чтобы с большей точностью рекомендовать товары, исходя из нашего прошлого поведения и покупок. Благодаря применению нейросетей в этой области, удаётся значительно улучшить качество рекомендаций и повысить уровень удовлетворения пользователей|29|10|2023}}<ref>{{Статья|ссылка=http://dx.doi.org/10.46916/12042021-2-978-5-00174-191-6|автор=Ризван Рамзанович Турлуев|заглавие=НЕЙРОСЕТИ В СИСТЕМАХ КОРПОРАТИВНОГО УПРАВЛЕНИЯ|год=2021|издание=НЕЙРОСЕТИ В СИСТЕМАХ КОРПОРАТИВНОГО УПРАВЛЕНИЯ|издательство=ICSP «NEW SCIENCE»}}</ref>{{нет в источнике|29|10|2023}}.

== См. также ==
{{кол}}
* [[ChatGPT]]
* [[Оптические нейронные сети]]
* [[Искусственный интеллект]]
* [[Нейронный процессор]]
* [[Нейрокомпьютер]]
* [[BBP|Blue Brain Project]]
* [[Модель биологического нейрона]]
* [[Когнитивистика]]
* [[DeepMind]]
* [[Генеративный искусственный интеллект]]
{{кол|конец}}

== Примечания ==

=== Комментарии ===
{{комментарии}}

=== Сноски ===
{{примечания|2}}

== Литература ==
* {{книга|автор=[[Беркинблит, Мендель Бейнусович|Беркинблит М. Б.]]&nbsp;|заглавие=Нейронные сети|ссылка=|место=М.|издательство=МИРОС и ВЗМШ РАО|год=1993|страниц=96|isbn=5-7084-0026-9}}
* {{книга|автор=Вороновский Г. К., Махотило К. В., Петрашев С. Н., Сергеев С. А.&nbsp;|заглавие=Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности|место=Харьков|издательство=Основа|год=1997|страниц=112|isbn=5-7768-0293-8}}
* {{книга|автор=[[Голубев, Юрий Филиппович|Голубев Ю. Ф.]]&nbsp;|заглавие=Нейросетевые методы в мехатронике|место=М.|издательство=Изд-во Моск. унта|год=2007|страниц=157|isbn=978-5-211-05434-9|ref=Голубев}}
* {{книга|автор=[[Горбань, Александр Николаевич|Горбань А. Н.]] &nbsp;|заглавие=Обучение нейронных сетей|ссылка=http://dx.doi.org/10.13140/RG.2.1.1784.4724|место=М.|издательство=СССР-США СП «Параграф»|год=1990|страниц=160|ref=Горбань1}}
* {{книга|автор=Горбань А. Н., Россиев Д. А.&nbsp;|заглавие=Нейронные сети на персональном компьютере|ссылка=https://www.researchgate.net/publication/334971618_Neural_Networks_on_Personal_Computer|место=Новосибирск|издательство=Наука|год=1996|страниц=276|isbn=5-02-031196-0|ref=ГорбаньРоссиев}}
* {{книга|автор=Горбань А. Н., Дунин-Барковский В. Л. и др.&nbsp;|заглавие=Нейроинформатика|ссылка=http://icm.krasn.ru/refextra.php?id=2795|место=Новосибирск|издательство=Наука|год=1998}}
* {{книга|автор = Гудфеллоу Я., Бенджио И., Курвилль А.|заглавие = Глубокое обучение|оригинал = Deep Learning|издательство = [[ДМК-Пресс]]|место = М.|год = 2017|страниц = 652|isbn= 978-5-97060-554-7}}
* {{книга|автор=Ерёмин Д. М., Гарцеев И. Б.&nbsp;|заглавие=Искусственные нейронные сети в интеллектуальных системах управления|место=М.|издательство=МИРЭА|год=2004|страниц=75|isbn=5-7339-0423-2}}
* {{книга|автор=[[Каллан, Роберт|Каллан Р.]]|заглавие=Основные концепции нейронных сетей|оригинал=The Essence of Neural Networks First Edition|место=М.|издательство=Вильямс|год=2001|страниц=288|isbn=5-8459-0210-X}}
* {{книга|автор=[[Круглов, Владимир Васильевич|Круглов В. В.]], [[Борисов, Вадим Владимирович|Борисов В. В.]]&nbsp;|заглавие=Искусственные нейронные сети. Теория и практика|место=М.|издательство=Горячая линия - Телеком|год=2001|страниц=382|isbn = 5-93517-031-0}}
* {{книга|автор=[[Миркес, Евгений Моисеевич|Миркес Е. М.]]&nbsp;|заглавие=Нейрокомпьютер. Проект стандарта|ссылка=http://pca.narod.ru/MirkesNeurocomputer.htm|место=Новосибирск|издательство=Наука|год=1999|страниц=337|isbn=5-02-031409-9}} Другие копии онлайн: [https://web.archive.org/web/20090703165215/http://neuroschool.narod.ru/books/mirkes/mirkes.html Нейрокомпьютер. Проект стандарта].
* {{книга|автор = [[Николенко, Сергей Игоревич|Николенко С.]], Кадурин А., Архангельская Е.|заглавие = Глубокое обучение|издательство = [[Питер (издательство)|Питер]]|место = СПб.|год = 2018|страниц = 480|isbn= 978-5-496-02536-2}}
* {{книга|автор=Осовский Станислав.&nbsp;|заглавие=Нейронные сети для обработки информации|оригинал=Sieci neuronowe do przetwarzania informacji{{ref-pl}}|ответственный=Перевод И. Д. Рудинского|место=М.|издательство=Финансы и статистика|год=2004|страниц=344|isbn=5-279-02567-4}}
* {{статья|автор=Савельев А. В.&nbsp;|заглавие=На пути к общей теории нейросетей. К вопросу о сложности|ссылка=http://www.radiotec.ru/catalog.php?cat=jr7|издание=Нейрокомпьютеры: разработка, применение|год=2006|номер=4—5|страницы=4—14|archiveurl=https://web.archive.org/web/20160911045113/http://www.radiotec.ru/catalog.php?cat=jr7|archivedate=2016-09-11}}
* {{книга|автор=Сигеру Омату, Марзуки Халид, Рубия Юсоф.&nbsp;|заглавие=Нейроуправление и его приложения|оригинал=Neuro-Control and its Applications. 2-е изд|место=М.|издательство=ИПРЖР|год=2000|страниц=272|isbn=5-93108-006-6|ref=Сигеру, Марзуки, Рубия}}
* {{книга|автор=Тадеусевич Рышард, Боровик Барбара, Гончаж Томаш, Леппер Бартош.&nbsp;|заглавие=Элементарное введение в технологию нейронных сетей с примерами программ|ответственный=Перевод И. Д. Рудинского|место=М.|издательство=Горячая линия — Телеком|год=2011|страниц=408|isbn=978-5-9912-0163-6}}.
* {{книга|автор=Терехов В. А., Ефимов Д. В., Тюкин И. Ю.&nbsp;|заглавие=Нейросетевые системы управления|место=М.|издательство=[[Высшая школа (издательство)|Высшая школа]]|год=2002|страниц=184|isbn=5-06-004094-1}}
* {{книга|автор=Уоссермен Ф.&nbsp;|заглавие=Нейрокомпьютерная техника: Теория и практика|оригинал=Neural Computing. Theory and Practice|ссылка=http://evrika.tsi.lv/index.php?name=texts&file=show&f=410|место=М.|издательство=Мир|год=1992|страниц=240|isbn=5-03-002115-9}} {{Wayback|url=http://evrika.tsi.lv/index.php?name=texts&file=show&f=410 |date=20090630215858 }}
* {{книга|автор=Хайкин С.&nbsp;|заглавие=Нейронные сети: полный курс|оригинал=Neural Networks: A Comprehensive Foundation. 2-е изд|место=М.|издательство=Вильямс|год=2006|страниц=1104|isbn=0-13-273350-1}}
* {{книга|автор=Ясницкий Л. Н.&nbsp;|заглавие=Введение в искусственный интеллект|место=М.|издательство=Издат. центр «Академия»|год=2005|страниц=176|isbn=5-7695-1958-4}}
* {{книга |автор= [[Лекун, Ян|Ян Лекун]]| заглавие=Как учится машина. Революция в области нейронных сетей и глубокого обучения. (Библиотека Сбера: Искусственный интеллект) |оригинал= |издательство= Альпина нон-фикшн |год= 2021|место = М. |cтраниц= 348 |isbn= 978-5-907394-29-2|ref= Лекун}}

== Ссылки ==
{{dmoz|Computers/Artificial_Intelligence/Neural_Networks/|Neural Networks}}
* [http://neuralnet.info/ Учебник] по искусственным нейронным сетям
* {{cite web
 |url = http://www.deeplearningbook.org
 |title = Deep Learning
 |author = Ian Goodfellow, Yoshua Bengio, Aaron Courville
 |publisher = [[MIT Press]]
 |date = 2016
 |lang = en
 |description = Книга по [[Машинное обучение|машинному обучению]] и, в частности, по [[Глубокое обучение|глубокому обучению]]
}}

{{Внешние ссылки}}
{{^}}
{{Типы искусственных нейронных сетей}}
{{Искусственный интеллект}}
{{Инженерия знаний}}
{{Машинное обучение}}
{{Генеративный ИИ}}

[[Категория:Искусственные нейронные сети| ]]