Global Temporal Dynamic

Discussie
Het hier beschreven onderzoek wordt gemotiveerd door de temporele dynamiek van levende neurale systemen en vooral door de temporele vermogens van mensen en hogere dieren. Onze hersenen kunnen reageren op tijdsafhankelijke signalen, kunnen tijdafhankelijke patronen genereren, kunnen informatie verwerken (denken) in de tijd, kunnen concepten en beelden mentaal vertegenwoordigen voor willekeurige tijdsintervallen, en hebben verschillende toestanden van aanhoudende, zichzelf onderhoudende activiteit ( wakker, opgewonden, slapend). Bovendien lijken we automatisch tijdgerelateerde vaardigheden en dynamieken te hebben, zoals het herkennen van spatio-temporele patronen als ze zich voordoen; coördinatie van interne verwerking in de hersenen, ondanks geen duidelijke controlerende tijdklok; en de aanwezigheid van zelfonderhoudende dynamische activiteit in veel gebieden van de hersenen, door oscillatie (bijvoorbeeld respiratorische neuronen) of andere meer complexe voortdurende activiteit ("spontane activiteit"). Deze uitgebreide reeks tijdelijke mogelijkheden en tijdsvariërende activiteit wijst naar een tijdelijk dynamisch neuraal netwerk dat onder deze processen valt. Tot op heden laten veel neurale modellen patronen zien voor het in kaart brengen van patronen, maar missen de dynamiek en het temporele gedrag van de systemen die ze moeten modelleren.
We hebben een aantal paradigma's onderzocht die betrekking hebben op dynamische activiteit in neurale netwerken. We hebben geïllustreerd hoe een eenvoudig model van een neuraal netwerk dynamische attractors, zelfonderhoudende activiteiten en chaos kan ontwikkelen. Controle over parameter g, een gewichtsvermenigvuldiger, maakt modulatie van de dynamiek mogelijk met een progressie van een eenvoudige vaste punt attractor naar chaos. Zodra we chaotische activiteitspatronen in een neuraal netwerk genereren, kunnen we een stimuluspatroon toepassen en het netwerk vergrendelen in een limietcyclus-attractor. Dit scenario vormt een mogelijke manier om patroonherkenning en signaalclassificatie uit te voeren. Omdat dynamische systemen gecompliceerde bekkengrenzen kunnen hebben voor hun attractors, is er reden om verhoogde prestatie- en generaliseringsmogelijkheden van dit type benadering te verwachten.
Het ontwikkelen van meerdere attractoren in een neuraal netwerk kan worden bereikt via een accretional-methode met gewichtsverstoringen. In het resulterende netwerk roept een reeks initiële toestanden elk hun eigen attractor op. Computationele taken in patroonclassificatie en associatief geheugen zouden bereikt kunnen worden door verschillende initiële toestanden die verschillende dynamische attractoren oproepen.
In dynamische binaire netwerken toonde de verkenning van attractorbasins en de flexibiliteit van die bekkens van aantrekking dat capaciteiten voor attractoren aanzienlijk hoger zijn dan het aantal geheugens in het statische Hopfield-netwerk (0,15 n). Met slechts vijf neuronen in een dynamisch binair netwerk kunnen duizenden bekkenklassen - verdelingen van patronen in verschillende bekkens - tot stand worden gebracht.
Om een ​​specifieke attractor in een neuraal netwerk te trainen, werd een neuraal netwerk met tijdvertragingen getraind om een ​​gesloten lustraject te genereren. Het getrainde netwerk genereert dit traject ondanks luidruchtige startomstandigheden en met verschillende beginsegmenten. Het resultaat is een robuuste signaal- en padgenerator voor communicatie- en besturingstoepassingen.
Impulstreinen voegen een nieuwe dimensie toe van spatiotemporele verwerking in biologische neurale systemen. Temporele patronen van zenuwimpulsen en synchronieën tussen ensembles van neuronen zijn vermoedelijke codes voor informatieverwerking en representatie. De schietactiviteit van neuronen en neurale ensembles kan transiënten en dynamische attractoren reflecteren die op de impulstreinstructuur van biologische neurale verwerking zijn gesuperponeerd.
Het algemene probleem van herkenning en generatie van spatio-temporele signalen lijkt oplosbaar te zijn met dynamische neurale netwerken, hoewel er nog veel onderzoek moet worden gedaan. Het vermogen om zelfonderhoudend gedrag te genereren en te trainen, gebaseerd op dynamische oscillerende attractoren, wordt weergegeven in de voorlopige resultaten die hier worden beschreven.