Context
En els capítols anteriors hem reflexionat sobre la idea de la predisposició de la matèria a la complexitat i a la vida que és un epifenomen. Hem rumiat sobre el rol dels sistemes vasculars i neurals en la gestió de la complexitat. Hem cavil·lat sobre la relativa simplicitat dels elements, mecanismes i propietats de les neurones biològiques individuals. Hem fet alguna lleugera incursió per comprendre el desenvolupament de les propietats neuronals en la construcció de xarxes vegetatives i sensitivomotores. També sobre la forma en què les propietats neuronals poden ser simulades artificialment. Ens va costant, però, fer el pas per anar més enllà, buscar i suggerir hipòtesis plausibles i amb algun fonament sobre la formació del pensament. Tot i el convenciment que el mecanisme està basat en els mateixos elements descrits. Com actuen, però!
Se sol considerar que la ment és el conjunt de facultats psíquiques d’una persona que inclou processos com el pensament, la memòria, l’atenció, la percepció, les emocions i la imaginació. El pensament és un procés de la ment, el principal, és l’activitat mental que ens permet elaborar idees, raonar, imaginar, recordar, prendre decisions i resoldre problemes. I ser-ne conscient.
Personalment, no he de fer massa esforç per imaginar un grandiós nombre de neurones arborescents distribuïdes en columnes, en nuclis i ganglis, connectades directament o indirecta i processant, sense parar del tot mai, la informació que cadascuna de les neurones rep contínuament de centenars o milers de connexions sinàptiques. Entre 100 i 1000 bilions de sinapsis (1014-1015), aprofitant tots els mecanismes descrits per aprendre de la utilització que d’elles se’n fa, aprendre de l’experiència que deixa vies preferents en el flux de la informació. Experiència que deixa memòria.
Veiem, especialment en la Secció I de la web, exemples més o menys paradigmàtics de la primera funció del sistema nerviós que consisteix amb la gestió i coordinació automàtica, vegetativa, de la complexitat dels organismes. En aquests mecanismes es poden identificar causes i efectes. En els exemples no és difícil adonar-se com les propietats del sistema que permeten salvar distàncies i comunicar de forma ràpida, precisa i adaptativa, en generar, conduir, transmetre, rebre i integrar senyals elèctrics, permet la vida dels organismes tal com la coneixem. Quasi res seria igual sense alguna de les propietats de les neurones.
Més difícil sembla, furgant en les propietats cel·lulars i tissulars dels circuits neuronals, imaginar, fer hipòtesis i descriure com es produeix el pensament. Estudiants del sistema nerviós i usuaris de l’epistemologia solem tenir intuïcions, tenir sovint un cert convenciment que aquest o altre experiment clarificarà algun dels aspectes del procés. Podem tenir de vegades la sensació que ens falta poc per entendre.
No és així, però, és una tasca immensa. Tanmateix, és difícil deixar de pensar-hi, i deixar de fer un intent al darrere d’un altre barrejant coneixements propis i d’altres. Ho dic per mi. Barreja certament desordenada a la cerca d’interpretació raonable dels coneixements. Després de 50 anys fent experiments sobre la fisiologia de les connexions neuronals, trobo que reflexionar ara sense massa prejudicis i amb modèstia (conec de primera mà les dificultats) és atractiu.
Una pantalla
La ment humana és com una pantalla ‘al darrere del front’ per dir-ho de forma tosca, on tot o quasi tot hi té cabuda, encara que no tot a l’hora. Una pantalla virtual.
Si més no, qualsevol percepció immediata (després, o al mateix temps, de fluir per les xarxes somatosensitives i motores) o qualsevol record fluint (com un whatsapp amb text, veu, figura o vídeo i emoticones, junts o separats) per les vies preferents fixades en l’aprenentatge, pot accedir a la ment si el context (les associacions en temps real) ho permet o bé ho facilita. Per la ment hi pot passar qualsevol percepció externa (exterocepció) o interna (propiocepció) en temps quasi real, el cos i el món, com una percepció intrusa que s’esmuneix quan és sorpresiva, ràpida i bellugadissa. També quan la percepció interna és, solament, un fil de pensament mentre va treballant, amb la imaginació, encadenant i ordenant els fulls de la memòria.
Per què he dit que la ment que sosté el pensament és com una pantalla? Per a mi, amb els ulls oberts de la vigília, té força preeminència pràctica la visió, imaginar qualsevol situació és evocar i veure imatges més o menys actives, generalment en moviment. En certa manera podem dir que la imaginació és la propietat de la producció d’imatges oi! Per a la producció del pensament les imatges sorgeixen de tot l’encèfal amb totes les xarxes treballant a l’hora, sense parar, projectant la seva història en la pantalla de la ment. En tancar els ulls o bé durant alguna part del somni les imatges en la ment poden ser més rellevants i definides encara que en el somni són força incontrolables, sense o amb poc fre.
Una olor ens pot evocar imatges de la cuina de casa pares i iaios quan érem petits, imatges força vívides acompanyant alguna emoció. De vegades, però, el so, la percepció de música pot evocar emocions sentides, força netes, amb poc o gens d’acompanyament visual.
Així, la pantalla de la ment mostra històries visuals, també imatges de números que es mouen i es transformen quan calculem o la imatge d’un recipient amb boletes que es mouen quan reflexionem sobre el que significa la més abstracta entropia. La pantalla de la ment ha de mostrar també emocions.
La ment, una pantalla que mostra històries i emocions. La consciència podria ser directament l’observació de la pantalla o més fàcil encara, la mateixa pantalla que mostra en tot i cada moment l’estat de la funció de senyalització de tot l’encèfal.
Unes carpetes
Les ‘unitats’ de procés pel pensament poden comportar-se en part com a carpetes diferents en l’escriptori d’un ordinador. Carpetes més o menys especialitzades amb desenes o centenars de documents en l’interior de cadascuna, amb contingut abundant cada document. Tanmateix, el contingut de les carpetes i dels mateixos documents poden ser reescrits en part o fins i tot completament. Una altra forma de dir-ho és que els documents han de poder ser actualitzats permanentment amb múltiples entrades externes a l’ordinador (sentits propioceptius i exteroceptius, cos i món) i també a partir d’informació d’origen intern ja guardada en les mateixes carpetes (pas d’informació entre diferents carpetes i documents seguint algoritmes específics). L’actualització d’un document s’ha de compartir i actualitzar amb les carpetes relacionades per evitar incongruències.
Una carpeta pot contenir, per exemple, la informació de l’estat d’un circuit específic, d’una columna cortical, un glomèrul del cerebel o del lòbul olfactori, o fins i tot, com a unitat bàsica, una carpeta pot contenir les dades d’una neurona individual com una cèl·lula de Purkinje del còrtex del cerebel, una motoneurona medul·lar o una cèl·lula piramidal de la capa V del còrtex cerebral premotor. Una d’aquestes carpetes ha de contenir les dades de les sinapsis convergents (les que la neurona rep) i sinapsis divergents (les que la neurona projecta) en diferent estat d’activitat, de consolidació i potenciació o bé depressió en funció del temps. També l’estat de bombes, transportadors i canals que determinen la seva situació elèctrica. El que en xarxes neuronals artificials s’anomena Bias.
Les carpetes han d’estar Interrelacionades directament o indirectament, o si més no han de poder estar-hi, funcionant permanentment els mecanismes que les relacionen.
Tot això pot semblar molt complex, impossible fins i tot. De fet, però, aquesta és una descripció real de l’organització de l’encèfal.
Qui o què decideix en cada moment el que es projecta i qui interpreta el que surt a la pantalla de la ment, que mira de posar llum a les associacions que s’han fet per produir un determinat pensament i per extreure’n conclusions i projeccions immediates i futures de comportament. És necessària l’existència d’un mecanisme de guiatge, d’administració, que porti les dades de les carpetes a la pantalla de la ment, permanentment, seguint algun ordre o seqüència. Primer poden ser els esdeveniments de l’entorn que evoquen l’activació i funcionament de les vies, neurones i connexions més relacionades amb les percepcions immediates. En segon lloc, pot intervenir el reclutament i participació de circuits relacionats més indirectament amb les entrades motivadores inicials. En tercer lloc, la participació de mecanismes de curiositat i de voluntat poden expandir, mantenir o acabar la gestió d’un fil de pensament.
En el somni, l’activador és intern bàsicament amb el funcionament autònom i permanent dels circuits utilitzats més recentment. També pot haver-hi generadors de patrons d’activitat que ja sabem com treballen en diferents funcions vegetatives (control de la freqüència cardíaca, respiratòria o dels orgasmes, per exemple, vegeu Secció I de la web).
Un ordinador
En un ordinador real és necessari, però, un operador que visualitzant les carpetes en una pantalla interactuï amb els continguts buscant associacions per crear un relat i perseguint un coneixement. Tanmateix, a l’ordinador també se’l pot deixar treballar sol, seguint algoritmes, i fent meravelles amb les seves conclusions que poden ser positives i valuoses, fins i tot aplicades automàticament (com el disseny i control de producció d’una proteïna antibiòtica).
Amb un operador treballant directament o bé programant algoritmes pel funcionament automàtic sembla necessària l’actuació humana. Això no obstant, aquesta actuació pot no ser necessària si s’automatitza la cerca i l’entrada d’informació i també s’expandeix la capacitat i potència del seu processament. Avui, els grans ordinadors dedicats a la generació d’intel·ligència artificial (IA) poden programar directament algorismes i fer-los servir. Incrementant la potència i nombre de sensors (entrada de dades de fet) i processadors el resultat serà, en un temps pròxim, extraordinari ben segur.
Les persones interpretem indicis en les percepcions de l’entorn (i internes), associant conceptes, reconeixent patrons i aleshores avancem hipòtesis i anticipem conseqüències. Els models del llenguatge artificial de la IA, com també la nostra ment, s’entrenen amb grans quantitats de percepcions, d’imatges i símbols per aprendre patrons estadístics mitjançant xarxes neuronals artificials. La seva tasca bàsica consisteix a predir, calculant probabilitats en cada context, quina és la continuació més probable, quina paraula, fragment de paraula o signe té més sentit que aparegui després. La capacitat dels mecanismes d’IA ja és extraordinària actualment pel que fa al tractament estadístic d’informació.
Ara bé, el sistema nerviós i les neurones individuals creen corrents elèctrics amb significat segons el seu origen i destí. Malgrat la complexitat aparent, l’algoritme de gestió biològic amb la seqüència de corrents passius i actius i en particular el mecanisme de la seva integració és relativament simple. Segurament, però, ha de ser difícil de reproduir artificialment a l’escala de l’enorme nombre d’elements necessaris. Tantíssimes neurones amb tantíssima capacitat de modulació cadascuna i amb un entramat de circuits i connexions tan complex sembla difícil de reproduir.
Així és que ens podem preguntar sobre la possibilitat d’anar progressivament més lluny que actualment en la construcció de màquines amb elements i connexions similars a les neurones i si podrà sorgir consciència d’aquestes màquines. Els mecanismes d’IA podran segurament produir resultats tan intel·ligents i reflexius com el pensament humà, de fet ja ho fan avui en gran manera amb la informació que se’ls dona i la que ells busquen directament. La unitat bàsica, les neurones individuals, amb les seves extraordinàries (encara que ben senzilles en el fons) propietats descrites de generació, recepció, integració, conducció i transmissió de senyals elèctrics podran potser ser reproduïdes artificialment com a nodes integrats en circuits més i més complexos, quasi tan complexos com es vulgui.
Tot, això no obstant, amb relació als èxits de la construcció artificial d’intel·ligència que podria arribar a alguna forma de consciència evolucionada, els creixents coneixements han de ser coneguts finalment per les ments humanes perquè el que és realment important és la millora del pensament i consciència de les persones, presents i futures, els representants en cada moment de l’evolució natural, mentre que la millora d’una màquina és un objectiu secundari, aplicat podríem dir, perquè ens pugui ajudar a expandir el nostre pensament. És a nosaltres que el coneixement ens ha de donar satisfacció intel·lectual i pràctica. Nosaltres volem saber, volem conèixer, i si una màquina també vol saber, conèixer, gaudir amb el raonament i potser fins i tot ser-ne conscient, tant de bo, millor per ella, haurem creat una cosa similar a nosaltres i estaria bé establir algun nivell de convivència.
La profunditat en la capacitat d’associació, reflexió i previsió depèn ara ja, en les màquines actuals, de la informació subministrada, de com s’emmagatzema i memoritza i de la potència d’associació de les dades. Si algú hi veu perill en la creixent capacitat intel·lectual de les màquines, en restringir les dades i no donar informació a les estructures generadores d’IA, limitant també la seva capacitat d’accés per elles mateixes, podrà fer concloure la seva activitat. L’accés a la informació serà la limitació.
L’evolució de la complexitat del sistema nerviós humà ha construït una molt raonable dotació de sensors, una màquina construïda amb sofisticades unitats bàsiques, les neurones. Aquesta màquina, amb elements i mecanismes simples, genera, rep, integra, condueix i transmet senyals a distància de forma ràpida, precisa i extraordinàriament adaptable i és capaç de retenir i recordar els senyals que manega. D’aquesta complexitat anatòmica, histològica i fisiològica sorgeix la ment i el pensament humà i la consciència que hem de preservar i millorar, amb totes les ajudes a l’abast.
Simbolisme, connexionisme i neurosimbolisme en IA.
El simbolisme, el connexionisme i el neurosimbolisme són tres paradigmes fonamentals de la intel·ligència artificial. Representen tres maneres diferents d’entendre com una màquina pot adquirir coneixement, raonar i aprendre.
1. Simbolisme
Parteix de la idea que la intel·ligència consisteix a manipular símbols explícits mitjançant regles lògiques.
En IA, especialment en lògica simbòlica, la lletra A majúscula invertida (∀) és el quantificador universal i es llegeix: «per a tot», «per a qualsevol» o «per a tots els elements». Si escrivim: ∀x Humà(x) → Mortal(x), això vol dir «Per a tot x, si x és humà, x és mortal.» Un altre quantificador molt utilitzat és ∃ que significa: «existeix almenys un». Si escrivim: ∃x Home(x), això vol dir «Existeix almenys un home».
Aquests símbols apareixen sovint en la representació del coneixement amb la lògica dels algoritmes neurosimbòlics. La lògica simbòlica permet exposar un raonament clar i interpretable amb poques dades. Tanmateix, es pot fer difícil gestionar ambigüitats i millorar o escalar en complexitat.
2. Connexionisme
La idea és que la intel·ligència no emergeix de regles explícites, i el coneixement no està escrit en forma de símbols sinó distribuït en milions o milers de milions de connexions. Idea inspirada en les xarxes neuronals biològiques i amb neurones artificials, pesos sinàptics, aprenentatge estadístic i patrons distribuïts. Les xarxes aprenen elles soles patrons a partir de milions d’imatges o textos.
Un avantatge és que aquestes xarxes aprenen automàticament a partir de moltes dades, i poden encertar estadísticament, però sense una regla explícita, no fan una deducció formal.
Aquestes xarxes treballen sobre paràmetres. Els paràmetres solen ser els pesos (weights) que indiquen la importància de cada connexió entre neurones, i els biaixos (biases) que permeten desplaçar o ajustar les decisions de les neurones (vegeu capítols 22 i 23 d’aquesta Secció de la web). Les xarxes poden treballar amb milers de xips i escalar a desenes de milers de paràmetres per extreure informació estadística de les dades que se li subministren i donar resposta així a qüestions plantejades. Sovint, en funció de la qualitat de les dades, poden donar respostes errònies i inconvenients, i també moral i èticament rebutjables. Aquestes xarxes necessiten treballar amb moltes dades i sovint l’eliminació pels usuaris de les respostes indesitjables es fa a posteriori de la massiva entrada de dades crues. Aquesta feina se sol encarregar a empreses que poden ignorar els drets dels treballadors en països precaris. Aquesta realitat juntament amb l’enorme despesa energètica del procés informàtic són, potser, els vessants més negatius de la intel·ligència artificial actual.
3. Neurosimbolisme
Tracta de combinar representacions neuronals (connexionisme) i raonament simbòlic lògic.
Es poden abocar dades (per exemple imatges) en una xarxa neuronal que detecta i extreu conceptes simbòlics (característiques morfològiques com regularitat de línies, mida, color, etc.) que introduïts en un motor de raonament aplica regles precises per separar i classificar les imatges segons un criteri desitjat.
Així, el neurosimbolisme integra aspectes del simbolisme i del connexionisme. Per exemple, utilitza regles explícites i també pesos distribuïts, aprenentatge manual i també automàtic. El seu raonament és excel·lent pel component de simbolisme.
Cap dels tres paradigmes és una còpia del cervell. El simbolisme s’assembla al pensament conscient amb llenguatge i lògica com els sil·logismes. El connexionisme s’assembla més als mecanismes de percepció i memòria associativa com la formació dels engrames en els quals la informació s’emmagatzema distribuïdament en els pesos de la xarxa, de manera semblant a com els records estan distribuïts entre moltes neurones. El neurosimbolisme és més proper al funcionament cerebral quan combina xarxes neuronals (imatges, sons) i representacions abstractes simbòliques com paraules, regles i relacions causals.
Hi ha de diversos tipus d’algoritmes i arquitectures neurosimbòliques segons com s’integri la part neuronal i la simbòlica. En l’anàlisi experta d’una radiografia posem per cas, la part neuronal (connexionista) aporta la percepció bruta (identificació, topografia i distribució de densitats anormals) mentre que la part simbòlica aporta el raonament explícit (els pesos dels diferents paràmetres de densitat indiquen probabilitat alta de normalitat, pneumònia o tumoració) I amb un motor lògic suggereix una conclusió (hospitalització, pròxima visita, etc.).
Alguns valors del neurosimbolisme
Des d’un punt de vista neurocientífic, els sistemes neurosimbòlics s’assemblen més al cervell que el simbolisme o el connexionisme purs. La percepció sensorial sembla funcionar de manera molt connexionista, mentre que el raonament conscient, el llenguatge i la planificació tenen característiques clarament simbòliques.
El neurosimbolisme intenta unir el millor del connexionisme com l’aprenentatge automàtic a partir de dades i el simbolisme amb representació explícita del coneixement i raonament lògic, per exemple:
1. Aprèn i raona alhora perquè les xarxes neuronals poden reconèixer automàticament patrons (com objectes i textos) i extreure’n conclusions complexes amb regles lògiques independents de les dades.
2. Necessita menys dades que els models neuronals que necessiten entrenar-se amb enormes quantitats d’exemples i, tanmateix, el coneixement simbòlic aporta informació prèvia i sovint fa innecessari entrenar específicament cada cas.
3. Elimina errors de les xarxes neuronals que poden produir resultats incoherents i un component simbòlic pot detectar la contradicció.
4. Té un millor raonament causal. Les xarxes neuronals solen capturar correlacions, però no necessàriament entenen les relacions causa-efecte amb facilitat i els sistemes simbòlics afegits poden aplicar sil·logismes permetent explicacions causals més properes al pensament humà.
5. Facilita la planificació perquè percepció i planificació són problemes diferents. La part neuronal gestiona la percepció mentre que el component simbòlic gestiona la seqüència lògica d’accions.
6. És més proper al funcionament cognitiu humà perquè el sistema nerviós combina els dos nivells, el connexionista amb percepcions, memòria i associacions i el simbòlic del llenguatge lògic i abstracte i la planificació.
7. Redueix al·lucinacions perquè els grans models de llenguatge automàtic poden generar afirmacions incorrectes, però plausibles i un sistema neurosimbòlic pot verificar les respostes amb bases de dades i de coneixement, regles lògiques i restriccions formals.
En resum, el neurosimbolisme combina la capacitat de les xarxes neuronals per aprendre patrons a partir de dades amb la capacitat dels sistemes simbòlics per raonar i explicar apropant-se més al tipus d’intel·ligència flexible humana.
Algun exemple concret d’aplicació
Existeixen aplicacions molt concretes on el neurosimbolisme aporta avantatges clars respecte a les xarxes neuronals pures. Per exemple en la construcció de vehicles autònoms on un component neuronal de percepció identifica els agents del trànsit com vianants semàfors, etc., i un component simbòlic aplica normes de trànsit com aturar-se en semàfor vermell. En realitat una xarxa neuronal podria aprendre estadísticament que efectivament cal frenar en un semàfor vermell, tanmateix, el component simbòlic garanteix el compliment explícit de les regles.
Aquest tipus de combinació entre reconeixement de patrons i inferència abstracta és precisament el que els sistemes neurosimbòlics intenten reproduir. Els camps on el neurosimbolisme mostra més potencial són, entre d’altres, la medicina, els vehicles autònoms i els agents basats en models de llenguatge (Large Language Models, LLM), és a dir, totes aquelles situacions en què cal combinar percepció complexa, coneixement explícit i raonament lògic.
Neurosimbolisme i models de llenguatge (LLM)
La integració entre LLM (Large Language Models) i neurosimbolisme permet superar les limitacions dels models purament neuronals. Un LLM té utilitat per entendre el llenguatge natural, reconèixer patrons complexos i extreure informació, però té dificultats amb raonaments llargs i lògics i planificació complexa. La idea del neurosimbolisme és utilitzar l’LLM com a còrtex associatiu i creador d’engrames per afegir-hi mòduls simbòlics que actuïn com a motor de raonament. Per exemple, un LLM llegeix múltiples textos no estructurats, transforma el text en símbols i un sistema simbòlic aplica regles. L’LLM és la part perceptiva i el sistema simbòlic és la part inferencial.
Un LLM pur és excel·lent per reconèixer patrons lingüístics, de manera semblant a un cervell que percep i associa. Un sistema simbòlic és excel·lent per aplicar regles, planificar i demostrar conclusions. El neurosimbolisme intenta unir aquests dos nivells: percepció i aprenentatge seguit de raonament i planificació per generar una AGI (sigles d’Artificial General Intelligence o intel·ligència artificial general) potent i confiable.
Una futura AGI podrà entendre i aprendre qualsevol tasca intel·lectual que pugui fer una persona, aprendre de manera autònoma a partir de l’experiència, raonar i planificar i adaptar-se a situacions noves sense haver estat entrenada específicament per a cada cas. Actualment no existeix cap AGI reconeguda. Els models més avançats són encara formes d’IA especialitzada.