LiVinG NeTWorkS LaB

1. LiVinG NeTWorkS LaB • Dal 2002 il Living Networks Lab (Dipartimento di Scuenze dell’Informazione - Università di Milano) lavora con culture di neuroni su MEA (array di microelettrodi) • Il gruppo è composto da fisici, elettronici, informatici e biotecnologi, con il supporto di un laboratorio biologico esterno.

2. LiVinG NeTWorkS LaB • Obiettivo del gruppo è lo sviluppo della ricerca nel campo della biologia computazionale, della bionica e dell’Intelligenza Artificiale. • Il gruppo ha effettuato molti esperimenti sullo sviluppo e l’analisi di strutture organizzate di reti neurali biologiche adese a supporto elettronico.

3. Ambiti di ricerca • Ricerca in campo neurofisiologico: metodo di decodifica di segnali provenienti da reti di neuroni; non esistono ad oggi interpretazioni sperimentali della semantica dei segnali gestiti da reti di cellule nervose • Ricerca in campo robotico: sistema bionico in grado di apprendere e di guidare attuatori

4. Ambiti di ricerca • Ricerca nel campo delle reti neurali artificiali (ANN):implementazione di una rete software autoorganizzante in grado di fornire un output esplicito e di funzionare in tempo reale • Ricerca nel campo del supporto dell’handicap:metodo per implementare in futuro protesi direttamente impiantate nel sistema nervoso centrale per sostituire porzioni di cervello danneggiate e/o guidare arti naturali o artificiali

5. Struttura del neurone • La scoperta della struttura del neurone risale al 1965 (Deiters) • Il neurone è dotato di un soma, di un assone, dei dendriti e delle sinapsi • Ramòn y Cajal evidenzia i dendriti e gli assoni con il metodo di Golgi

6. Rete di neuroni

7. La trasmissione dei segnali neurali • La trasmissione dei segnali nei neuroni avviene per via elettrochimica • L’arrivo di un segnale elettrico libera dei neurotrasmettitori che attraversano la fessura sinaptica e vengono riconvertiti in segnali elettrici

8. La trasmissione dei segnali neurali

9. Il potenziale d’azione (spike) • Il potenziale d’azione è il segnale che si propaga attraverso le cellule neurali lungo l’assone • Si innesca quando il potenziale di membrana si allontana dal suo valore di riposo superando una certa soglia

10. Modello del potenziale d’azione A.C. Hodgkin e A.F. Huxley nel 1952 hanno aperto le porte ad una comprensione dettagliata di come i segnali elettrofisiologici siano trasmessi all'interno del sistema nervoso n indica la frazione di canali K+ (potassio) aperti, m la frazione di canali Na+ (sodio) attivati, h la frazione di canali Na+ (sodio) inattivati

11. Studio della codifica dell’informazione neurale • Lo studio della codifica dell’ informazione neurale è basata sull’ implementazione di analisi statistiche • Attualmente si ritiene che la maggior partedelle informazioni rilevanti, se non tutte, siano contenute nel tasso medio di “firing” del neurone • Oltre al firing rate si considera l’Inter Spike Interval (ISI) che è l’intervallo temporale che intercorre tra due spikes successivi.

12. Tecniche di misura del segnale neurale • Gran parte della moderna neurofisiologia è basata su studi sperimentali con tecnica patch-clamp • Il metodo del patch-clamp risale al 1983 (Sakmann and Neher), ed è effettuato tramite una micropipetta di vetro • Misura il potenziale a cavallo della membrana cellulare • Misura anche il potenziale all’interno della membrana cellulare se si perfora la membrana

13. Interfacciamento fra neuroni e circuiti elettronici • Nei primi anni novanta fu stabilita per la prima volta un’interfaccia elettrica tra cellule nervose e microstrutture semiconduttrici, utilizzando i neuroni delle sanguisughe, uniti a transistor disposti su una piastra di silicio (Fromherz) • In seguito Fromherz ha approfondito la natura della giunzione neurone-silicio perfezionando la tecnica di interfacciamento

14. Interfacciamento fra neuroni e circuiti elettronici • Nel 2000 un team di ricercatori della Northwestern University di Chicago, dell’Università dell’Illinois e dell’Università di Genova ha creato una creatura ibrida costituita da un corpo meccanico controllato dal cervello di lampreda marina • Nel 2002 Fromherz ha coltivato delle cellule nervose su elettrodi di silicio: le cellule nervose hanno formato sinapsi con gli elettrodi di silicio che rispondevano a stimoli elettrici

15. Interfacciamento fra neuroni e circuiti elettronici • Nel 2003 il gruppo della Duke University è riuscito a collegare 320 microelettrodi alle cellule nel cervello di una scimmia, permettendo di tradurre direttamente i segnali elettrici in istruzioni per il computer, in grado di spostare un braccio robotico • Nel 2005 il gruppo del SISSA di Trieste ha sperimentato la possibilità di utilizzare i neuroni su MEA come “neurocomputers” in grado di filtrare delle immagini digitali

16. Il nostro progetto • Strutturare reti di neuroni biologici in forma di ANN. • Ipotizzare una forma di apprendimento di questo sistema ibrido attraverso l’immissione iterata di pattern digitali secondo la tecnica ANN • Decodificare i segnali neurali di output attraverso una ANN (ITSOM) e con questi guidare gli attuatori di un robot

17. Il nostro progetto • Coltivazione sul MEA delle cellule staminali che sono state fatte differenziare in neuroni umani. • Creazione della rete di Kohonen e di Hopfield su MEA • La configurazione delle reti è stata scelta dopo una simulazione software su reti artificiali di Kohonen e di Hopfield, in modo da valutare il numero minimo di neuroni necessari a classificare delle semplici immagini

18. Il sistema hardware/software • Abbiamo sviluppato un sistema che interfaccia le cellule attraverso l’adesione diretta a MEA (MultiElectrode Arrays) • Un MEA è un disco di Petri di vetro in cui sono inseriti piccolissimi elettrodi. Ciascun elettrodo è connesso per mezzo di una traccia isolata ad un connettore esterno.

19. Il sistema hardware/software • Il MEA permette la registrazione dell’attività delle cellule simultaneamente da diversi canali • Può registrare a lungo l’attività cellulare senza danneggiare le cellule • E’ adatto ai nostri esperimenti perché permette di studiare il comportamento dinamico di un’intera rete di neuroni

20. Il sistema hardware/software • Il sistema è stato cambiato e migliorato molte volte, adottando man mano schede di acquisizioni più potenti e controller dedicati

21. Il sistema hardware/software • Al momento usiamo un sistema avanzato National Instruments: • Rack esterno PXI 1031 con board DAQ ad alta velocità PXI 6251 (16 input analogici, 24 Digital I/O, 2 output analogici) , velocità di campionamento 1.25 MS/s • Labview 8.0 per la gestione della scheda e della regsitrazione dei segnali

22. Il sistema hardware/software • Un controller dedicato progettato dal nostro gruppo permette di preamplificare i segnali neurali e stimolarli con pattern digitali

23. I neuroni • Fino ad oggi abbiamo usato cellule staminali neurali • Le cellule vengono piastrate alla densità a 3500 celle/cm2 in un mezzo contenente i fattori di crescita EGF e FGF-2 • Le cellule sono coltivate per 15 giorni per ottenere neuroni maturi • Abbiamo coltivato le cellule direttamente su MEA ricoperto da substrato di matrigel

24. Il nostro progetto • E’ stato sviluppato un programma di controllo del sistema in linguaggio Labview, utilizzato per: • il controllo del flusso degli esperimenti • la generazione dei pattern sensoriali simulati • l’acquisizione dei segnali • l’interfacciamento con la rete neurale • la generazione dei segnali di controllo degli attuatori del robot • E’ stata sviluppata una rete neurale in linguaggio C sotto forma di DLL ed è stata linkata a Labview

25. Il nostro progetto • Il differenziamento avviene su MEA. • I nostri MEA Panasonic hanno 64 microelettrodi ITO (Indium Tin Oxide) – platino. • La dimensione dei microelettrodi è 20 µ, la distanza interpolare 100 µ.

26. Il nostro progetto • Si sono creati dei collegamenti per ricreare la rete di Hopfield e di Kohonen • Kohonen: 8 neuroni di input, 3 neuroni dello strato competitivo • Hopfield: 8 neuroni di input/output Kohonen Hopfield

27. Il nostro progetto • Il software di stimolazione crea una serie di bitmap composte da 3 x 3 bit che rappresentano o un segnale “0” o un segnale “1” • Si utilizzano gli 8 punti esterni Carattere 0 11111111 Carattere 1 00001111

28. I pattern digitali • Oltre allo “0” e “1” perfetto si considerano anche zeri e uni con rumore 0 con rumore 1 con rumore

29. L’apprendimento • Le stimolazioni vengono dati con impulsi di +/-35 mV a frequenze diverse • La durata del singolo impulso è stata impostata a 1.25 ms o 25 ms nei diversi esperimenti

30. Analisi dei risultati

31. Analisi dei risultati

32. Analisi dei risultati

33. Analisi dei risultati • I segnali misurati sono stati successivamente elaborati utilizzando la RQA (Recurrence Quantification Analysis). • Questo strumento di analisi non lineare analizza il grado di autoorganizzazione di un segnale • Si costruisce una serie di M vettori di lunghezza N ricavati prendendo porzioni di segnale al tempo t+i (i=i+k),ottenendo una matrice di valori. • Si calcola la distanza euclidea fra i punti costituiti dalle righe della matrice, e queste vengono codificate attraverso dei colori (Recurrence Plots)

34. Analisi dei risultati • Essenzialmente, il Recurrence Plot è una tabella di codici di colori, in cui i colori caldi (giallo, rosso ed arancio) possono essere associati con le piccole distanze fra i vettori, mentre i colori freddi (azzurro, nero) possono essere usati per mostrare le grandi distanze. • Per segnali random la distribuzione dei colori è completamente uniforme. Quanto più deterministico è il segnale, tanto più strutturato sarà il Recurrence Plot

35. Recurrent Plots • Segnale di output prima della somministrazione dei pattern • Il grafico è costituito da colori freddi e disorganizzati che segnalano la mancanza di autoorganizzazione della serie temporale.

36. Recurrent Plots • Segnale di output durante la somministrazione dei pattern • disorganizzato anche se con un inizio di autoorganizzazione

37. Recurrent Plots • Segnale di output subito dopo la fine della somministrazione di un pattern sensoriale simulato • Si vedono ampie bande uniformi di colore giallo e rosso, mentre i colori freddi sono limitati agli estremi del diagramma

38. Recurrent Plots • Segnale di output dopo la fine della somministrazione dei pattern sensoriali simulati • Si vedono ampie bande uniformi di colore giallo e rosso, mentre i colori freddi sono limitati agli estremi del diagramma, a dimostrazione di un altissimo grado di autoorganizzazione

39. Analisi dei risultati • Sia l’analisi dei segnali elettrici che i Recurrent Plots concorrono alle stesse conclusioni : • La rete di neuroni risponde in modo simile a stimolazioni simili, risponde in modo diverso a stimolazioni diverse • I risultati raggiunti consentono di affermare che la rete di neuroni è in grado di “apprendere” stimoli sensoriali simulati autoorganizzandosi, e rispondendo adeguatamente ai pattern anche successivamente all’apprendimento

40. Decodifica dei segnali neurali attraverso una rete neurale artificiale • Abbiamo quindi pensato possibile un passo successivo: offrire un’interpretazione agli output generati dai neuroni • Sviluppo di una rete autoorganizzante ITSOM (Inductive Tracing Self Organizing Map) per la decodifica dei segnali neuronali • La rete ITSOM è un’ evoluzione della SOM (Kohonen)

41. La rete SOM Caratteristiche della rete SOM: • Rete ad apprendimento non supervisionato. • Composta da due strati: uno strato di input e uno strato competitivo o di Kohonen • Tutti i neuroni di input sono connessi ad ogni neurone dello stato di output. • Autoorganizzazione di insiemi di dati n-dimensionali su una mappa k-dimensionale ( k << n ) (quantizzazione vettoriale)

42. La rete SOM Apprendimento e classificazione della rete di Kohonen: • Regola Winner Take All • Calcolo delle distanze tra segnali di input x e pesi delle connessioni wi. • Il neurone vincente è quello con distanza minima, premiato con una variazione dei pesi

43. Problematiche della SOM • Per input strettamente non lineari lo strato di output non riesce a mappare correttamente l’input • Difficoltà di pervenire a convergenza certa non essendoci la possibilità di stabilire un errore della rete per ciascuna epoca • Output non è esplicitato e necessita di un algoritmo per estrarlo PUNTI DI FORZA DELLA ITSOM • Funziona in tempo reale • Non necessita di convergenza • Esplicitazione dell’output

44. La rete ITSOM • Osservando la sequenza temporale dei neuroni vincenti di una SOM si nota che questa tende a ripetersi creando una serie temporale, costituente attrattori caotici, e che questi caratterizzano univocamente l’elemento di input che gli ha prodotti • La rete ITSOM memorizza la serie temporale dei neuroni vincenti e successivamente li analizza col metodo degli z-score

45. Lo z-score I punteggi cumulativi relativi a ciascun input vengono normalizzati secondo la distribuzione della variabile standardizzata “z” • x = numero vittorie per il neurone • μ = media dei punteggi sui vari neuroni • σ = scarto quadratico medio

46. Lo z-score z = 1 per z > τ z = 0 per z ≤τ Fissata una soglia τ, 0<τ<1 • In questo modo ogni configurazione dei neuroni vincenti è rappresentata da un numero composto da zeri e uni • Diventa poi immediato confrontare tra loro questi numeri binari detti codice ITSOM.

47. CODICI Z-SCORE FASE DI TRAINING FASE DI TESTING Generazione degli z-score di riferimento Classificazione dei segnaliin funzione degli z-score acquisiti nella fase di training Lo z-score

48. Lo z-score • Ad esempio nella tabella sotto sono riportati i codici generati dalla ITSOM che elabora un set di segnali emessi dalle cellule stimolate con lo stesso patternR • La prima volta vince 10 volte il neurone 2, 5 volte il neurone 5, 6 volte il neurone 6, una volta il neurone 7 e così via • La seconda volta vince 1 volta il neurone 2, 6 volte il neurone 5, 4 volte il neurone 6 e così via

49. Fasi dell’esperimento • Strutturazione di una rete di Hopfield • Generazione dei segnali e stimolazione dei neuroni biologici, registrazione della loro risposta. • Inoltro dei dati alla rete neurale artificiale ITSOM: • fase di training • fase di testing • Utilizzo dell’output della ITSOM per pilotare gli attuatori del Robot.

50. I neuroni • Nell’ultimo esperimento abbiamo stimolato la rete per mezzo di pattern direzionali • I pattern sono bitmap 8x8 • La durata del bit è 300 ms • Ciascuna stimolazione è seguita da una pausa di 1 s in cui una Artificial Neural Network elabora i segnali • L’impulso di stimolazione è un segnale è un segnale alternato a basso voltaggio (+/- 30 mV, 733 Hz)