Global Temporal Dynamic APP
这里描述的研究是由活的神经系统的时间动力学,特别是人类和高等动物的时间能力驱动的。我们的大脑可以响应时变信号,可以生成时变模式,可以随时间处理信息(思考),可以在任意时间间隔内在心理上表示概念和图像,并且具有持续的,自我维持的活动的不同状态(醒着,醒来,睡觉)。此外,我们似乎自动拥有与时间相关的技能和动态,例如在发生时识别时空模式;尽管没有明显的控制时钟,但是大脑内部处理的协调;通过振荡(例如,呼吸神经元)或其他更复杂的持续活动(“自发活动”)在大脑的许多区域中存在自我维持的动态活动。这种广泛的时间能力和时变活动指向这些过程的时间动态神经网络。迄今为止,许多神经模型显示模式映射能力,但缺乏他们打算建模的系统的动态和时间行为。
我们已经探索了一系列涉及神经网络中动态活动的范例。我们已经说明了神经网络的简单模型如何能够发展动态吸引子,自我维持活动和混乱。对参数g(一个权重乘数)的控制允许通过从简单的固定点吸引器到混沌的进展来调制动态。一旦我们在神经网络中生成混乱活动模式,我们就可以应用刺激模式并将网络锁定为极限循环吸引子。该场景提供了执行模式识别和信号分类的潜在方式。由于动态系统的吸引子可能具有复杂的流域边界,因此有理由期望通过这种方法提高性能和泛化能力。
在神经网络中开发多个吸引子可以通过具有重量扰动的增生方法来实现。在生成的网络中,一组初始状态各自唤起它们自己的吸引子。模式分类和联想记忆中的计算任务可以通过引起不同动态吸引子的不同初始状态来实现。
在动态二进制网络中,吸引子盆地的探索和这些吸引盆地的灵活性表明吸引子的容量远远高于静态Hopfield网络中的存储器数量(0.15n)。在动态二元网络中只有五个神经元,可以实现数千个流域类 - 将模式划分为不同的流域。
为了将特定吸引子训练到神经网络中,训练具有时间延迟的神经网络以产生闭环轨迹。尽管有嘈杂的起始条件,并且具有不同的初始段,训练好的网络也会产生这种轨迹。结果是用于通信和控制应用的强大信号和路径生成器。
脉冲序列为生物神经系统增加了时空处理的新维度。神经冲动的时间模式和神经元集合之间的同步是用于信息处理和表示的推定代码。神经元和神经集合的射击活动可以反映叠加在生物神经处理的脉冲序列结构上的瞬态和动态吸引子。
尽管仍有许多研究尚待完成,但是时空信号的识别和生成的一般问题似乎可以用动态神经网络解决。基于动态振荡吸引子产生和训练自我维持活动的能力显示在此处描述的初步结果中。