История нейронных сетей

История нейронных сетей. Часть 02

В этой статье я продолжу предыдущую статью История нейронных сетей. Часть 01. Затем поговорим об истории нейронных сетей с 1980-х годов по настоящее время.

В 1982 году появился новый интерес к этой области. Джон Хопфилд из Калифорнийского технологического института доставил письмо в Национальную академию наук. Его методология была сосредоточена на создании более эффективных машин с использованием двунаправленных связей. Раньше нейронные связи были строго однонаправленными.

В том же году Рейли и Купер использовали «гибридную сеть», состоящую из разных слоев, каждый из которых использует разную стратегию решения проблем.

Аналогичным образом, в 1982 году состоялась совместная американо-японская конференция по кооперативным/конкурентным нейронным сетям. Япония представила свою инициативу пятого поколения в области нейронных сетей, вызвав обеспокоенность по поводу отставания США в этой области. (Вычисления пятого поколения относятся к искусственному интеллекту. Предыдущие поколения включали в себя различные технологические достижения.) В результате увеличение финансирования привело к увеличению исследовательской деятельности.

К 1986 году, когда основное внимание уделялось многослойным нейронным сетям, возникла проблема распространения правила Уидроу-Хоффа на эти слои. Три отдельные группы исследователей, в том числе Дэвид Румельхарт, бывший сотрудник факультета психологии Стэнфорда, предложили схожие идеи, теперь известные как сети пост-распространения. Эти сети распределяют ошибки распознавания образов по всей сети. В отличие от гибридных сетей с двумя уровнями, сети обратного распространения включают в себя несколько уровней. В результате сети обратного распространения ошибки характеризуются как «медленные обучающиеся», требующие тысяч итераций для обучения.

Сегодня нейронные сети находят применение в различных областях, некоторые из которых будут рассмотрены далее в нашей презентации. Основная идея нейронных сетей заключается в том, что если они работают в природе, их можно адаптировать к компьютерам. Однако будущее нейронных сетей зависит от развития аппаратного обеспечения. Подобно продвинутым шахматным машинам, таким как Deep Blue, эффективность быстрых нейронных сетей зависит от специализированного оборудования.

Прогресс в исследованиях нейронных сетей развивается относительно медленно. Нейронным сетям требуются недели на изучение из-за ограничений процессора. Некоторые компании пытаются разработать «кремниевый компилятор» для создания индивидуальных интегральных схем для приложений нейронных сетей. Разрабатываются различные типы чипов: цифровые, аналоговые и оптические. Аналоговые сигналы, на которые часто не обращают внимания, больше напоминают поведение нейронов мозга, чем цифровые сигналы. В то время как цифровые сигналы имеют двоичные состояния, аналоговые сигналы охватывают диапазон значений. Однако интеграция оптических чипов в коммерческие приложения все еще может занять время.

Если вы получили знания об истории нейронных сетей с 1980-х годов по настоящее время благодаря этой статье, я буду очень признателен за аплодисменты, и я приложу сюда несколько ссылок, чтобы помочь вам узнать больше. знания об истории нейронных сетей.

История нейронных сетей — Часть 02