Context
Malgrat el gran interès a reproduir i utilitzar les funcions neuronals en construccions artificials, encara és més interessant i estimulant entendre el nostre encèfal, com funciona i com pot evolucionar per a la millora humana que és allò que ens interessa a nosaltres.
Entrades (X)
Les entrades en les neurones biològiques són les terminacions nervioses d’axons d’altres neurones convergents, que en formar sinapsis constitueixen el component presinàptic de cadascuna (botons presinàptics). L’actuació funcional rellevant d’aquests components és l’alliberament d’un neurotransmissor i altres molècules (cotransmissors).
Una entrada la podem continuar anomenant X1 i definir-la amb alguna característica més. Un botó sinàptic (X1) sobre una motoneurona medul·lar pot ser descrit inicialment:
X1 = Neurotransmissor – Localització – Origen
X1 = Glutamat (Glu) – Soma – 1a Neurona sensitiva
(Una sinapsi glutamatèrgica sobre el soma de la motoneurona i originada en una protoneurona sensitiva d’un gangli espinal).
El paràmetre quantitatiu presinàptic més precís i rellevant i que pot ser emprat com a valor d’una entrada, és el contingut quàntic (CQ) de la neurotransmissió.
El neurotransmissor en les sinapsis està contingut en vesícules de característiques i mida relativament constant. Algunes estan retingudes en les anomenades zones actives de la membrana presinàptica (el seu contingut és immediatament alliberable per la nanomàquina d’alliberament quan s’activa la sinapsi) mentre que altres, allunyades de la membrana, estan en posició de reserva o de recàrrega.
Encara que les sinapsis poden alliberar certes quantitats de neurotransmissor de manera poc organitzada (per dir-ho així), el mecanisme normal consisteix en la secreció de vesícules senceres, una o dues o un número més alt enter. Així la quantitat mínima és una vesícula, el contingut d’una vesícula, un quàntum de neurotransmissor (com la quantitat mínima o quàntum d’energia electromagnètica és un fotó). Com per cada tipus de sinapsis la quantitat de neurotransmissor que conté una vesícula és força fixa i molt estable, diem que aquesta quantitat és un quàntum o quanta (quantitat mínima) alliberable. En les sinapsis que funcionen amb el neurotransmissor acetilcolina, cada vesícula (un quàntum) conté unes 10.000 molècules que és la mida molecular estàndard d’un quàntum.
En algunes sinapsis s’alliberen força quàntums, més dels necessaris per produir un efecte determinat. Es diu que aquestes sinapsis tenen un elevat factor de seguretat com és el cas de les sinapsis neuromusculars que alliberen desenes de quàntums per provocar la contracció de les cèl·lules musculars quan amb uns pocs n’hi pot haver prou. Tanmateix, moltes sinapsis en el sistema nerviós central alliberen molt pocs quàntums, sovint un sol. Per tant, definir un rang òptim, amb les seves desviacions, que serveixi de referència general del paràmetre CQ no és massa operatiu.
A més, en el sistema nerviós central, el neurotransmissor alliberat no produeix un efecte fàcil d’identificar i monitorar com sí que ho és la contracció muscular de la qual parlàvem a dalt. En la majoria dels circuits neuronals, els quàntums alliberats solament es manifesten en la producció d’un cert canvi de potencial local, passiu, sovint molt petit, un potencial postsinàptic excitador (PPE, EPP en anglès) o inhibidor (PPI, IPP) segons la sinapsi sigui excitadora o inhibidora. Les neurones integren milers de petits canvis de potencial com aquests.
Per altra banda, a diferència del valor fix que es pot atribuir a una entrada en una neurona artificial, l’alliberament de quàntums en sinapsis biològiques és probabilístic i profundament plàstic com hem descrit en altres seccions de la web (vegeu el capítol 4 de la Secció I, per exemple). La probabilitat d’alliberament es modifica amb petits canvis en qualsevol punt de la complexa maquinària molecular de la neurotransmissió. Pot ser adaptat o modulat pels mecanismes presinàptics (dependents del calci) com la facilitació, la depressió, la potenciació de curta i llarga durada.
També la modulació autocrina i paracrina retrograda (o també originada en les cèl·lules glials) modifica localment la maquinària d’alliberament i permet transportar el senyal de modulació (una neurotrofina per exemple) en direcció al soma neuronal per modificar l’expressió genètica neuronal.
Fins i tot una petita oscil·lació en la concentració intracel·lular de calci deguda a l’oscil·lació en la probabilitat d’obertura dels canals (en resposta a la termodinàmica de l’entorn) pot provocar l’alliberament espontani, no regulat, d’un quàntum de neurotransmissor, d’una vesícula. Tot un conjunt d’adaptacions moleculars que fan difícil (no impossible però, segurament) pensar a reproduir els mecanismes en una neurona artificial. En cada sinapsi de les 1000 o 2000 o més d’una neurona i de les 1011 neurones.
Desconec fins a quin punt això és possible i els recursos que implicaria. Si més no, en aquelles neurones directament implicades en la producció de la ment que no sabem quantes i quines són! No se’m fa difícil pensar que quasi totes i participen. La reflexió precedent solament pretén constatar com complexes són les neurones que generen el pensament, i considerar que la utilització del paràmetre CQ i el seu ampli espectre d’adaptacions plàstiques és una possibilitat interessant a explorar en xarxes neuronals.
Un paràmetre menys precís, més general, que s’utilitza sovint és la força (strength) sinàptica. Fa referència a com és de potent la comunicació entre una neurona presinàptica i una postsinàptica. A més a més dels factors presinàptics implicats en la determinació de la probabilitat d’alliberament vesicular, del CQ, la força sinàptica es refereix a l’efecte global de la sinapsi sobre la neurona postsinàptica i compta també amb paràmetres postsinàptics relacionats amb els receptors com el seu nombre i el seu estat. Així, un paràmetre que descrigui una entrada de forma general pot ser simplement el potencial postsinàptic excitador o inhibidor que resulta de la neurotransmissió.
Vegem-ho!
Pesos (p)
L’eficàcia sinàptica (ES) (synaptic efficacy) és un terme més específic. Es refereix a com és d’efectiva una sinapsi en produir una resposta postsinàptica. És a dir quina resposta (canvi del potencial postsinàptic) s’obté per cada impuls presinàptic.
L’eficàcia sinàptica mesura l’eficiència funcional de la transmissió. Com l’alliberament de neurotransmissor (per exemple mesurat com a CQ) afecta la neurona postsinàptica. Si una sinapsi allibera molt neurotransmissor té força alta, sí a més, cada impuls produeix un gran potencial postsinàptic té alta eficàcia.
L’eficàcia d’una sinapsi ens informa sobre la mida de la despolarització (o hiperpolarització si la sinapsi és inhibidora) postsinàptica produïda cada vegada que la sinapsi s’activa. Ens diu quina és la grandària del canvi en el potencial postsinàptic produït per una sinapsi, canvi que se sumarà algebraicament amb els produïts per la resta de sinapsi en un moment donat i per tant ens diu el pes de la sinapsi, la seva importància relativa entre el conjunt de totes les connexions.
Si la valoració del CQ necessita certs càlculs per definir-lo, la valoració de l’eficàcia pot demanar solament la mesura del canvi de potencial local.
Mentre el CQ és un paràmetre presinàptic determinat en cada moment pel nombre de vesícules alliberades i la quantitat (força estable) de neurotransmissor que contenen, l’eficàcia sinàptica és un paràmetre postsinàptic determinat sobretot pel nombre i estat (sensibilitat) dels receptors postsinàptics.
El gran valor plàstic de les sinapsis és la capacitat d’adaptar l’eficàcia sinàptica (modulant els receptors postsinàptics) i també l’alliberament de neurotransmissor (modulant la disponibilitat i contingut de les vesícules). La memòria i l’aprenentatge neuronal depenen d’això.
Com hem comentat en el capítol anterior, una neurona artificial rep valors d’entrada, els multiplica per uns pesos que s’han donat prèviament a cada entrada i suma els resultats per donar el valor de la sortida. En els circuits artificials, quan múltiples corrents elèctrics d’entrada conflueixen en un punt, s’aplica la Llei de Kirchhoff sobre corrents que diu que la suma de tots els corrents que entren en un node és igual a la suma de tots els corrents que en surten tenint en compte els signes i d’acord amb el principi de conservació de la càrrega elèctrica: la càrrega no es crea ni es destrueix, només es mou.
En una neurona biològica els potencials postsinàptics, positius (excitadors) i negatius (inhibidors) se sumen algebraicament, i és això el que determina si s’acabarà generant o no un potencial d’acció a l’inici de l’axó. La suma algebraica es fa en pràcticament tot el hialoplasma de les mateixes dendrites i del cos neuronal (sumació espacial) quan diverses sinapsis activen la neurona al mateix temps, però en punts diferents. També, òbviament, una mateixa o diferents sinapsis s’activen repetidament o en moments diferents i en aquest cas es realitza la sumació temporal dels potencials tal com han evolucionat en un moment donat.
Hem descrit en capítols anteriors (i també en les Seccions I i II de la web) que la mala qualitat conductora (de cable) del material biològic fa que les càrregues elèctriques es propaguen passivament, en direcció prioritària per confluir al segment inicial de l’axó, de forma decreixent i debilitant-se amb la distància. És en el conus axònic on si la suma de tots els senyals provinents de les sinapsis arriba a un llindar, s’activaran els canals de sodi que permeten la conducció, a partir d’aquí, sense modificar a llarga distància.
Així és que en una neurona biològica la suma de les diferents entrades amb els seus pesos és més complexa i plàstica que en un model artificial, si bé és cert que en els pesos es poden introduir els conceptes de posició de les entrades, de distància al conus axònic i inclús d’asincronia i freqüència d’activació. La gran variabilitat de les entrades en temps real no és fàcil de modular, però, en models artificials.
Bias (b)
Aquesta variabilitat biològica en el mecanisme i procés d’integració neuronal dels senyals també es pot introduir de certa manera en el concepte de bias (b). En una neurona artificial el bias permet millorar l’ajust a les dades. Amb la incorporació d’un bias per a cada neurona sumat a la combinació lineal de les entrades es pot modular millor la resposta neuronal.
En una neurona biològica no existeix un bias com a terme matemàtic explícit, però hi ha mecanismes equivalents.
Per exemple el potencial de membrana en repòs o en un moment determinat. El nivell d’aquest potencial fa que la neurona estigui més o menys a prop de disparar. Una neurona està en un estat més excitable en els moments en què el potencial de membrana és més baix, la cèl·lula està més despolaritzada. La semblança amb un bias està en el fet que desplaça el punt de partida de la neurona i afecta la facilitat amb què respon als estímuls.
També té relació amb el bias artificial el llindar d’activació (llindar o threshold) biològic que no és fix, ja que pot canviar segons l’estat de la neurona i de fet determina quan la sortida de la neurona s’activa ajustant la sensibilitat del sistema.
Per últim, es pot insistir en la idea que les neurones, rebin poques o moltes sinapsis i senyals, solen estar en activitat més o menys permanent i constant encara que no s’arribi al llindar en molts moments. El potencial de membrana es va movent amunt i avall com hem dit i moltes sinapsis fan funcions neuromoduladores, especialment sinapsis monoaminèrgiques que alliberen dopamina, serotonina, etc. i que modifiquen l’excitabilitat basal de les neurones i, per tant, la probabilitat que disparin davant d’un mateix estímul. Aquests senyals poden fer que la neurona sigui més o menys excitable i això és molt semblant a un bias dinàmic. El bias biològic no és un número únic, sinó un conjunt de factors que desplacen la resposta de la neurona com el potencial de repòs, el llindar d’activació i la modulació química.
Funció d’activació (σ)
Si el valor de les entrades que està rebent una neurona arriba al llindar per la seva activació, la neurona posa en marxa el seu propi senyal, un o una tanda de potencials d’acció mentre el potencial de membrana del conus axonal estigui en el llindar d’activació.
En una neurona artificial, el valor que es pot assignar al llindar és aquell en què la neurona arriba a poder complir el seu objectiu o target per funcionar en la xarxa on està inserida, a aportar la seva pròpia senyalització em forma de potencials d’acció. Podem dir que arriba al 100% de probabilitats de generar el seu senyal. En altres paraules, entre 0 i 1, essent 0 cap probabilitat i 1 la màxima probabilitat.
Així és que ara hem de veure com el resultat de la computació d’entrades, pesos i bias (cada vegada que funciona la neurona o mentre està funcionant), s’acosta o se separa del valor 1. En una motoneurona de la medul·la espinal, arribar al llindar (al valor 1 o 100%) significa que pot iniciar la generació d’un o diversos potencials d’acció que en arribar al final del seu axó, a les sinapsis neuromusculars (plaques motrius), promourà la contracció de les fibres musculars innervades de la Unitat motora. Aquest és l’objectiu o target de l’activitat de les neurones motores espinals.
La funció matemàtica sigmoide o funció d’activació ens dona valors de sortida entre 0 i 1 i permet veure quan el resultat de l’operació neuronal s’acosta al 100 % de coincidència amb l’objectiu fixat, el target, i si no quina és la diferència o Error.
Coneixent aquest error, es pot retroalimentar (backpropagation) i modificar entrades i pesos (i bias si cal) perquè la neurona artificial aprengui a complir l’objectiu fixat.
Taxa d’aprenentatge
En les neurones artificials, una vegada vist l’error i posat en marxa un algorisme de feedback, s’ha de decidir d’una forma o l’altra, una taxa d’aprenentatge consistent en introduir en els càlculs un valor addicional per determinar la velocitat d’aprenentatge i controlar la grandària dels canvis a fer. La taxa d’aprenentatge controla el procés d’entrenament.
Mentre que el bias és part de la neurona, és un valor que se suma a les dades de la neurona, la taxa d’aprenentatge (learning rate) no és part de la neurona i s’ajusta externament per definir com aprèn el model, la velocitat i magnitud del canvi amb les iteracions, cada vegada que s’inicia una seqüència de retroalimentació.
La taxa d’aprenentatge controla quant es modifiquen els pesos del model en cada pas d’entrenament. Durant l’entrenament, una neurona o una xarxa ajusta els seus pesos per reduir l’error.
Pes_nou = pes_actual – η * gradient
η (eta) = taxa d’aprenentatge; gradient = direcció en què cal ajustar el pes mentre que el signe (-) vol dir que es vol reduir l’error.
Si introduïm una taxa massa alta (molt propera a 1 o 1), l’entrenament és inestable i l’error pot no disminuir, i passar de llarg del resultat buscat. Si la taxa és massa baixa (per exemple 0.000001) l’aprenentatge pot ser molt lent. Un aprenentatge eficient necessita taxes entre 0,1 i 0.001.
La taxa d’aprenentatge és el paràmetre que controla quant es modifiquen els pesos (i si es vol també les entrades i el bias) en cada pas d’entrenament, i determina si el model aprèn massa ràpid, massa lent (ineficient) o de manera òptima.
En les neurones biològiques no hi ha una única variable com η. La taxa d’aprenentatge biològic, per dir-ho així, emergeix de la combinació de diversos mecanismes que controlen quant canvien les sinapsis en el decurs de la seva actuació, davant d’una experiència. Això és la plasticitat sinàptica!
El que més s’aproxima a una taxa (η) en determinar la magnitud del canvi sinàptic és l’actuació conjunta de tots els mecanismes de plasticitat, cadascun aportant la seva intensitat i curs temporal, com els de potenciació i depressió de llarga durada (LTP, LTD), els presinàptics autocrins (receptors al neurotransmissor i a eventuals cotransmissors) i paracrins (neurotrofines retrogrades bàsicament). Però també els de més curta manifestació i durada com els presinàptics dependents de calci (facilitació, potenciació i depressió).
El principal element implicat en determinar si hi ha o no aprenentatge i la seva magnitud és l’ió calci actuant en la maquinària presinàptica d’alliberament de neurotransmissor i en la postsinàptica al través dels receptors a glutamat (AMPA i NMDA) en les sinapsis glutamatèrgiques (recordem que són la gran majoria de les excitadores) i al través de fosforilacions dependents de calci en altres sinapsis.
El receptor NMDA és el detector de coincidència perquè solament permet l’actuació del calci quan s’activen juntes una o més neurones presinàptiques i la postsinàptica.
Els enzims presinàptics i postsinàptics cinases I fosfatases acoblades en les cascades intracel·lulars dels diferents receptors actuen amplificant o reduint el canvi plàstic sinàptic i així tenen el rol que juga el gradient (el signe -) en la taxa d’aprenentatge.
Les neurones funcionen permanentment i reben múltiples sinapsis, totes elles contribueixen a modular la plasticitat en les altres sinapsis del conjunt que convergeix en una neurona en la mesura que s’influencien mútuament. Algunes ho fan deixant anar una part del neurotransmissor alliberat que pot actuar en sinapsis veïnes. Aquest paper neuromodulador és força característic de les sinapsis monoaminèrgiques (vegeu el capítol 13 d’aquesta secció on s’analitza la dotació sinàptica que integren les motoneurones).
La Noradrenalina (l’activitat de les sinapsis que l’alliberen) augmenta en situacions noves o inesperades (recordem el rol de les catecolamines en la reacció d’alarma o estrès) i sembla que els circuits implicats aprenen més ràpidament. La participació d’aquest modulador equival, per dir-ho així, a introduir una taxa η alta. La Serotonina, en canvi, és un limitador de la taxa d’aprenentatge en reduir canvis massa bruscos i donar estabilitat als circuits. En l’encèfal aprendre no només depèn del que passa, sinó de com d’important, sorprenent o rellevant és el que passa.
La taxa d’aprenentatge biològica és complexa i a més del ja dit, també depèn del temps perquè l’aprenentatge és ràpid al principi i es consolida lentament amb la memòria. Així mateix, l’historial d’activitat d’una sinapsi modifica com és canviar de fàcil en un moment donat (meta-plasticitat).