Global Temporal Dynamic

Discussione
La ricerca qui descritta è motivata dalle dinamiche temporali dei sistemi neurali viventi e, in particolare, dalle capacità temporali degli umani e degli animali superiori. I nostri cervelli possono rispondere a segnali che variano nel tempo, possono generare pattern che variano nel tempo, possono elaborare informazioni (pensare) nel tempo, possono rappresentare mentalmente concetti e immagini per intervalli arbitrari di tempo e avere diversi stati di attività continua autosufficiente ( sveglio, eccitato, dormendo). Inoltre, sembra che abbiamo automaticamente competenze e dinamiche legate al tempo come il riconoscimento di schemi spaziotemporali man mano che si verificano; coordinamento dell'elaborazione interna nel cervello, nonostante nessun apparente orologio di controllo; e la presenza di attività dinamica autosostenuta in molte aree del cervello, attraverso l'oscillazione (ad esempio, i neuroni respiratori) o altre attività continue più complesse ("attività spontanea"). Questa vasta gamma di capacità temporali e attività variabili nel tempo indica una rete neurale temporalmente dinamica che si trova in questi processi. Ad oggi, molti modelli neurali mostrano capacità di mappatura dei pattern, ma mancano della dinamica e del comportamento temporale dei sistemi che intendono modellare.
Abbiamo esplorato una serie di paradigmi che riguardano l'attività dinamica nelle reti neurali. Abbiamo illustrato come un semplice modello di una rete neurale possa sviluppare attrattori dinamici, attività autosufficiente e caos. Il controllo del parametro g, un moltiplicatore di peso, consente la modulazione della dinamica con una progressione da un semplice attrattore a punto fisso al caos. Una volta generati schemi di attività caotici in una rete neurale, possiamo applicare un modello di stimolo e bloccare la rete in un attrattore a ciclo limite. Questo scenario rappresenta un potenziale modo per eseguire il riconoscimento dei pattern e la classificazione dei segnali. Poiché i sistemi dinamici possono avere confini di bacino complicati per i loro attrattori, vi è motivo di aspettarsi un aumento delle prestazioni e delle capacità di generalizzazione da questo tipo di approccio.
Lo sviluppo di più attrattori in una rete neurale può essere realizzato tramite un metodo accreziante con perturbazioni del peso. Nella rete risultante, un insieme di stati iniziali ognuno evoca il proprio attrattore. I compiti computazionali nella classificazione del modello e nella memoria associativa potrebbero essere realizzati attraverso diversi stati iniziali che evocano attrattori dinamici differenti.
Nelle reti binarie dinamiche, l'esplorazione dei bacini di attrattore e la flessibilità di questi bacini di attrazione hanno dimostrato che le capacità per gli attrattori sono notevolmente superiori al numero di memorie nella rete statica di Hopfield (0,15 n). Con un minimo di cinque neuroni in una rete binaria dinamica, è possibile realizzare migliaia di classi di bacino, ovvero divisioni di schemi in diversi bacini.
Per addestrare un attrattore specifico in una rete neurale, una rete neurale con ritardi è stata addestrata per generare una traiettoria a circuito chiuso. La rete addestrata genera questa traiettoria nonostante le condizioni di partenza rumorose e con segmenti iniziali diversi. Il risultato è un robusto generatore di segnale e di percorso per applicazioni di comunicazione e controllo.
I treni ad impulsi aggiungono una nuova dimensione dell'elaborazione spaziotemporale nei sistemi neuronali biologici. I modelli temporali degli impulsi nervosi e le sincronizzazioni tra gruppi di neuroni sono codici putativi per l'elaborazione e la rappresentazione delle informazioni. L'attività di sparo dei neuroni e degli insiemi neurali potrebbe riflettere i transienti e gli attrattori dinamici sovrapposti alla struttura del treno di impulsi dell'elaborazione neurale biologica.
Il problema generale del riconoscimento e della generazione di segnali spaziotemporali appare risolvibile con reti neurali dinamiche, anche se resta ancora molto da fare. La capacità di generare e addestrare l'attività auto-sostenuta, basata su attrattori oscillanti dinamici, è mostrata nei risultati preliminari qui descritti.