Global Temporal Dynamic

обсуждение
Исследования, описанные здесь, мотивированы временной динамикой живых нейронных систем и особенно временными способностями людей и высших животных. Наш мозг может реагировать на изменяющиеся во времени сигналы, может генерировать изменяющиеся во времени шаблоны, может обрабатывать информацию (думать) с течением времени, может мысленно представлять концепции и изображения в течение произвольных интервалов времени и иметь различные состояния непрерывной самостоятельной активности ( бодрствующий, спящий). Кроме того, мы, кажется, автоматически обладаем связанными со временем навыками и динамикой, такими как распознавание пространственно-временных моделей по мере их появления; координация внутренней обработки в головном мозге, несмотря на отсутствие явных контрольных часов; и наличие самоподдерживающейся динамической активности во многих областях головного мозга посредством колебаний (например, дыхательных нейронов) или другой более сложной непрерывной активности («спонтанная активность»). Этот обширный набор временных возможностей и изменяющихся во времени действий указывает на динамическую во времени нейронную сеть, лежащую в основе этих процессов. На сегодняшний день многие нейронные модели демонстрируют способности картирования паттернов, но им не хватает динамики и временного поведения систем, которые они предназначены для моделирования.
Мы исследовали ряд парадигм, касающихся динамической активности в нейронных сетях. Мы показали, как простая модель нейронной сети может развить динамические аттракторы, самостоятельную деятельность и хаос. Управление параметром g, множителем веса, позволяет модулировать динамику с переходом от простого аттрактора с фиксированной точкой к хаосу. Как только мы создадим хаотические паттерны активности в нейронной сети, мы сможем применить паттерн стимула и заблокировать сеть в аттракторе предельного цикла. Этот сценарий представляет собой потенциальный способ выполнения распознавания образов и классификации сигналов. Поскольку динамические системы могут иметь сложные границы бассейна для своих аттракторов, есть основания ожидать повышения производительности и возможностей обобщения от такого подхода.
Разработка нескольких аттракторов в нейронной сети может быть осуществлена ​​с помощью аккреционного метода с возмущениями веса. В полученной сети каждый набор начальных состояний вызывает свой собственный аттрактор. Вычислительные задачи в классификации паттернов и ассоциативной памяти могут быть выполнены с помощью различных начальных состояний, вызывающих различные динамические аттракторы.
В динамических бинарных сетях исследование бассейнов аттракторов и гибкости этих бассейнов притяжения показало, что возможности аттракторов значительно выше, чем количество запоминающих устройств в статической сети Хопфилда (0,15n). С помощью всего лишь пяти нейронов в динамической бинарной сети можно выполнить тысячи классов бассейнов - деление моделей на разные бассейны.
Чтобы обучить определенный аттрактор в нейронной сети, нейронная сеть с задержками по времени была обучена генерировать траекторию с обратной связью. Обученная сеть генерирует эту траекторию, несмотря на шумные условия запуска и с различными начальными сегментами Результатом является надежный генератор сигналов и путей для приложений связи и управления.
Импульсные поезда добавляют новое измерение пространственно-временной обработки в биологических нейронных системах. Временные паттерны нервных импульсов и синхронизаций среди ансамблей нейронов являются предполагаемыми кодами для обработки и представления информации. Стреляющая активность нейронов и нейронных ансамблей может отражать переходные процессы и динамические аттракторы, наложенные на структуру импульсной последовательности биологической нейронной обработки.
Общая проблема распознавания и генерации пространственно-временных сигналов представляется разрешимой с помощью динамических нейронных сетей, хотя предстоит еще много исследований. Способность генерировать и тренировать самостоятельную деятельность на основе динамических осциллирующих аттракторов показана в предварительных результатах, описанных здесь.