Redes Neurais Pulsadas - SNN (do ingles Spiking Neural Networks) são uma arquitetura de redes neurais artificiais baseadas nos sistemas neuronal-biológicos, e que visam assim, imitar o funcionamento das redes neurais biológicas. Esse grupo de redes neurais incorpora em sua estrutura a ideia da codificação da informação no domínio do tempo, através dos chamados "Códigos de Pulsos", e do uso de um conjunto de equações de estado que governam o funcionamento individual de cada célula da rede.
O entendimento das características básicas de um neurônio pode ser remetido à 1952, quando a dupla de cientistas britânicos Alan Hodgkin e Andrew Huxley descreveram pela primeira vez um grupo de equações diferenciais que governavam as características fisico-químicas dos neurônios de uma lula, em seu famoso paper "A quantitative description of membrane current and its application to conduction and excitation in nerve", o que lhes rendeu o Prêmio Nobel de 1963 "por suas descobertas sobre os mecanismos iônicos envolvidos na excitação e inibição nas porções periférica e central da membrana das células nervosas". Nesse mesmo estudo, Hodgkin e Huxley ao descrever o conjunto de equações, nos introduz a um modelo eletrônico com os quais é possível simular o comportamento do neurônio, o qual ficou conhecido por Modelo de Hodgkin-Huxley.
O modelo eletrônico de Hodgking-Huxley é descrito a seguir:
Esse conjunto de equações têm por variável principal a "Tensão de membrana" (Vm) do neurônio, que é a variável de estado básica do sistema. As soluções para as equações descrevem um comportamento pulsado do sistema, ou seja: Os sinais de comunicação (sinapses) entre os neurônios são também sinais pulsados.
Uma vez que o modelo de Hodgkin-Huxley, composto por equações diferenciais não-lineares, é computacionalmente bastante complexo, é interessante buscarmos uma simpĺificação das mesmas de modo que, a partir do comportamento ddo modelo completo, seja possivel extrair um modelo computacionalmente mais simples e que mantenha as principais características descritas pelo modelo original.
Seguindo esse pensamento, nos é proposto o modelo Leak, Integrate and Fire (LIF), descrito pelas seguintes equações
Nesse modelo, passa a existir uma chamada "Tensão de Limiar": Quando a variável interna do sistema (Tensão de Membrana) atinge esse valor, ocorre instantaneamente um pulso, o que é descrito pelos seguites passos:
- A tensão de membrana "salta" instantaneamente para uma tensão de disparo
- Logo em seguida, a tensão de membrana retorna instantaneamente a um valor mais baixo, chamado "Tensão de Reset"
- O neurônio pode ou não entrar em um período "refratorio", onde a tensão de membrana permanecerá inalterada
Uma vez que a tensão de membrana salta "instantâneamente" ao atingir sua "Tensão de Limiar", podemos imaginá-la como um impulso de Dirac, e é através de tais impulsos que o neurônio irá enviar informações para os demais neurônios.
Sinapse é o nome dado às regiões de contato entre um neurônio e o meio exterior (outro neurônio, uma célula muscular, etc), e é aonde ocorre a propagação da informação entre neurônios através de processos bioquímicos. Os principais contatos sinápticos são do tipo axo-somático, axo-dendrítico, neuroefetor e neuromuscular [6]. Do ponto de vista computacional, é por meio de sinapses que o as sinais processados em um neurônio são transmitidos para outras células.
Físicamente, o efeito que as sinápses geram no comportamento celular é o de aumentar ou diminuir o potencial da membrana pós-sináptico: Uma resposta excitatória despolariza o interior da célula, o que gera o aumento do potencial da membrana local. Já uma resposta inibitória hiperpolariza o interior celular, o que diminui o potencial de membrana local. [5]
No modelo RC do LIF apresentado anteriormente, podemos modelar o efeito de uma sinápse no potencial de membrana Vmem através da adição de uma condutância sináptica controlada gs, conectada entre o potencial Vmem e um potencial sináptico Vs.
Essa condutânia gs é igual a multiplicação de três termos [5][1, Pág. 169,180]:
- gsmax: máxima condutância assumida por gs
- Prel: Probabilidade de haver uma resposta (liberação de neurotransmissores) dada uma resposta recebida
- Ps: Probabilidade de haver a abertura de canais pós-sinapticos (= fração de canais abertos)
Por simplicidade, podemos assumir que Prel = 1, ou seja, há a liberação de neurotransmissores todas as vezes que uma resposta é recebida.
Podemos modelar os efeitos de Ps a partir de um modelo cinético, onde os canais os canais fecham e abrem, respectivamente, à taxas α_s e β_s:
A taxa β_s é aproximadamente constante durante todo o intervalo de tempo. A taxa α_s entretanto, depende da concentração de transmissores disponíveis para juntar-se aos do receptor, e dessa maneira varia dinamicamente [1, Pág 180]. A solução desse sistema para um Impulso de Dirac descreve então Ps(t) como uma função exponencial. Ela subirá até seu valor máximo com taxa α_s até um tempo T, quando α_s possui um valor muito menor que β_s. Após, α_s aumenta dinamicamente seu valor, fazendo que o termo β_s passe a ser dominante, e o sinal caia exponencialmente com taxa β_s [1, Pág 180]. Podemos dessa forma, imaginarmos esta equação como um filtro sináptico: Cada sinal sinaptico recebido será filtrado por ele, ou, em outras palavras, um trem de impulsos sinápticos na entrada do sistema descreverá uma resposta sináptica no sistema (através da condutância sináptica gs) dada por uma Integral de convolução do trem de impulsos com a resposta ao impulso do sistema, representada por:
Na equação:
- K(t): É a resposta ao impulso do filtro (uma resposta exponencial decrescente)
- ρb(t): Trem de impulsos sinápticos, representa uma resposta sináptica recebida de outro neurônio
- gb,max: É a máxima condutância assumida por gb(t)
- gb(t): É a condutância sinaptica do modelo eletrônico LIF
Principais Dependências:
- Python (3.5.2)
- Brian2 - https://brian2.readthedocs.io/en/stable/
Outras bibliotecas utilizadas:
- Jquery-3.5.1 - https://jquery.com
- Vis.JS - https://visjs.org
- Json
- matplotlib
- webbrowser
- subprocess
- SimpleHTTPServer
- SocketServer
(As bibliotecas Jquery e Vis.JS já estão incluidas na pasta /js)
[1] DAYAN,P.;ABBOTT,L.F;Theoretical Neuroscience - Computational and Mathematical Modeling of Neural Systems. Cambridge, 2001
[2] AAMIR, S. A. Mixed-Signal Circuit Implementation of Spiking Neuron Models. Orientador: Prof. Dr. Marc Weber. 2018. Dissertação (Doktors der Ingenieurwissenschaften) - Fakultät für Elektrotechnik und Informationstechnik des Karlsruher Instituts für Technologie (KIT), Karlsruher Instituts für Technologie, 2018.
[3] SAKEMI, Y; MORINO, K. スパイキングニューラルネットワークにおける深層学習: Deep Learning for Spiking Neural Networks. 生産研究, J-STAGE, ano 2019, v. 71, n. 2, p. 159-167, 30 mar. 2019.
[4] https://www.researchgate.net/figure/Simulation-of-LIF-Model-of-SNN_fig1_316284143
[5] Aulas de Neurociência Computacional - https://www.coursera.org/learn/computational-neuroscience/
[6] Marcus Lira Brandão (2008). As bases biológicas do comportamento. Introdução à neurociência. São Paulo: E.P.U. 244 páginas. ISBN 8512406305
[7] https://pt.wikipedia.org/wiki/Modelo_de_Hodgkin-Huxley
[8] https://demonstrations.wolfram.com/MinimalHodgkinHuxleyModelDCStimulus/