close

Предложен метод создания высокоэффективных нейронных сетей
Предложен метод создания высокоэффективных нейронных сетей

Андрей Величко

Нейронные сети широко используются для решения ряда задач, например, для распознавания изображений, проведения компьютерных вычислений или прогнозирования событий. Работу сети значительно улучшает эффект, названный новым термином «химерная синхронизация»: появление согласованных колебаний между сигналами с хаотически изменяющимся периодом. Российский ученый предложил использовать этот эффект для создания высокоэффективных нейронных сетей с увеличенным набором возможностей. Работа опубликована в журнале Electronics. Исследования поддержаны грантом Российского научного фонда.

Осцилляторные нейронные сети работают за счет колебаний и взаимодействий составных частей – осцилляторов, связанных друг с другом. До начала XXI века считалось, что эти элементы либо смогут синхронизировать свои колебания, либо будут работать хаотично, каждый в своем ритме. Однако в 2002 году японский физик Ёсики Курамото и его коллега из Монголии Дорьсурен Баттогтох выяснили, что в нейронной сети осцилляторы разделяются на две группы. Одни колеблются синхронно, а другие – нет. Такое состояние сети было названо химерным из-за ассоциации с древнегреческими мифическими существами – химерами, тела которых состояли из частей различных животных. Ведущий научный сотрудник Петрозаводского государственного университета Андрей Величко в своей работе рассмотрел явление синхронизации между сигналами с хаотически меняющимся периодом и предложил для него название «химерная синхронизация». Название отражает тот факт, что синхронизация состоит из различных повторяющихся шаблонов и наблюдается в химерном состоянии нейронной системы.

На практике нелегко понять, присутствует в системе химерная синхронизация или поведение системы осцилляторов является хаотическим. Ранее не существовало конкретных методов оценки сложной структуры синхронизационных рисунков. В ходе исследования ученые проводили работу с шестью осцилляторами, оснащенными переключателями на основе оксида ванадия (VO2). Была собрана схема нейронной сети; ее инициацию осуществляли с помощью 16 различных сигналов. Затем схема решала поставленную перед ней задачу: определяла характеристику синхронизации в виде специальных метрик при каждом сигнале. Также сеть проходила обучение по специальному алгоритму. Системе случайным образом задавались значения следующих параметров: силы различных токов, силы связи, амплитуды шума и порога эффективности синхронизации. В результате такого подбора существовала ненулевая вероятность того, что сеть обучится необходимым образом и станет решать поставленную перед ней задачу.

Таким образом, Андрей Величко испытал новый метод, результатом которого стало внедрение целого семейства метрик, описывающих химерную синхронизацию. Метрики – это числовые значения, содержащие информацию о состоянии системы, а именно: дробные отношения номеров субгармоник и эффективность синхронизации. Субгармоники – это части спектра сигнала, частота которых (число движений за единицу времени) в несколько раз больше основной частоты колебаний системы. Наличие синхронизации на субгармониках увеличивает число синхронных состояний, такой эффект носит название синхронизации высокого порядка. Присутствие химерной синхронизации еще больше увеличивает число возможных синхронных состояний. Новые метрики описывают состояние системы точнее, чем один параметр синхронизации высокого порядка, использовавшийся в более ранних методах. Помимо этого, предложена конфигурация переключателей на основе трехмерной интеграции, которая будет обеспечивать тепловую связь осцилляторов, расположенных на разных слоях. Она наиболее выгодна для эффективной работы сети.

«В будущем использование результатов работы позволит многократно увеличить функционал нейронных сетей и приведет к созданию осцилляторных сетей на базе высокопроизводительных вычислительных нейроморфных платформ. Их внедрение – вот в чем научная значимость и актуальность нашего исследования. Высокопроизводительные вычислительные способы обработки информации основаны на использовании глобальной коллективной динамики нелинейных систем на базе новых нейросетевых схем. Они станут импульсом развития этого направления когнитивных и информационных технологий», – прокомментировал автор статьи Андрей Величко.

Источник: www.Gazeta.ru