c1 bnaia retele neuronale naturale

Biodinamic neliniar. Aplicaii la Inteligena Artificiala C1

Conf. dr. ing. Daniela DANCIU 1/6

CONINUT C1 REELELE NEURONALE CA SISTEME DINAMICE NELINIARE ...................................... 1

1.1. Reele neuronale naturale .............................................................................................. 1 1.1.1. Neuronul biologic ................................................................................................. 2 1.1.2. Potenialul de aciune............................................................................................ 3 1.1.3. Memoria i ponderile sinaptice............................................................................. 4 1.1.4. Funcionarea neuronului biologic ......................................................................... 5 1.1.5. Principii de organizare i calcul specifice creierului uman .................................. 5

1. REELELE NEURONALE CA SISTEME DINAMICE NELINIARE

1.1. Reele neuronale naturale

Dup dicionarul Webster, creierul reprezint partea sistemului nervos central al vertebratelor

situat n cutia cranian i continuat cu mduva spinrii care este format din neuroni i celulele

gliale (structuri de suport i nutriie) i care integreaz informaia senzorial din interiorul i exteriorul

corpului n controlul funciei autonome (procese incontiente cum sunt btile inimii i respiraia), n

coordonarea i controlul rspunsurilor motoare corelate i n procesul nvrii.

O alt definiie, de exemplu din manualul de biologie [TeE82] arat c Sistemul nervos

recepioneaz, transmite i integreaz informaiile din mediul extern i intern, pe baza crora

elaboreaz rspunsuri adecvate, motorii i secretorii. Prin funcia reflex, care st la baza activitii

sale, sistemul nervos contribuie la realizarea unitii funcionale a organismului i a echilibrului

dinamic dintre organism i mediul nconjurtor.

Observm n cele dou formulri ideea de unitate funcional (a se citi coordonare, control,

eventual sincronizarea aciunilor subsistemelor componente) i de echilibru dinamic al sistemului n

raport cu modificrile mediului nconjurtor (adic, stabilitate, consens, sincronizarea rspunsurilor

sistemului cu stimulii variabili n timp) proprieti importante pentru un sistem dinamic n

funcionarea sa i n rezolvarea adecvat a problemelor (sarcinilor) specifice (induse de mediul intern

sau extern).

Din punct de vedere sistemic, creierul uman reprezint un sistem dinamic neliniar, cu reacie,

asincron i puternic paralel.

Puterea mare de procesare a informaiei specific creierului uman se bazeaz n principal pe

operarea n paralel a unui numr imens de elemente simple de prelucrare (neuroni) dens interconectate

ntr-o reea complex. Mai precis, dup R.F. Thomson, [Tho85], creierul uman conine circa 1011

neuroni, un neuron putnd fi conectat cu ali 104 neuroni prin intermediul jonciunilor sinaptice;

rezult deci, existena a unui numr de aproximativ 1015 jonciuni sinaptice la nivelul creierului uman.



1.1.1. Neuronul biologic

Neuronul biologic (Fig. 1.1) reprezint unitatea morfo-funcional a sistemului nervos [TeE82].

Neuronul este un tip special de celul care prelucreaz i transmite informaia prin intermediul

semnalelor electrice i chimice.

Conceptul de neuron a fost introdus de anatomistul german Heinrich Wilhelm Waldeyer.

Histologul spaniol Santiago Ramn y Cajal laureat al premiului Nobel n anul 1906 a contribuit

prin opera sa la dezvoltarea teoriei neuronale [Lop06]. O contribuie important la cunoaterea celulei

nervoase n stare normal i patologic este monografia cercettorului romn Gheorghe Marinescu, La

cellule nerveuse [Mar09] lucrare prefaat de Cajal.

Fig. 1.1. Componentele neuronului biologic (prelucrare dup

http://vv.carleton.ca/~neil/neural/neuron-a.html)

Fig. 1.2. Regiunea efectoare: transmiterea semnalului de la neuronul presinaptic la receptorii

neuronului postsinaptic (dup http://vv.carleton.ca/~neil/neural/neuron-a.html)

Dendrite

Corpul celulei (soma)

Nucleu Ramuri

Butoni terminali

AxonHilul axonic

Buton terminal Neurotransmitori

Sinaps interneural

Dire

cia

de

prop

agar

e a

sem

nalu

lui

neuron presinaptic

neuron postsinapti



Sistemul nervos conine o mare varietate de neuroni care au n comun faptul c, din punct de

vedere funcional, prezint trei regiuni:

regiunea receptoare este format din dendrite i soma (corpul neuronului); n aceast regiune se preiau informaii de la alte celule i se realizeaz o prelucrare preliminar care presupune de

obicei formarea potenialelor locale (poteniale postsinaptice) i nu a potenialelor de aciune. regiunea conductoare leag regiunea receptoare de cea efectoare i este format din poriunea axonului

cuprins ntre ieirea din som (hilul axonic) i arborizaia sa; n aceast regiune se produc potenialele de

aciune prin sumarea potenialelor locale.

regiunea efectoare (Fig.1.2) are ca rol recodificarea potenialului de aciune sub form chimic, prin neurotransmitori, i transmiterea informaiei ctre ali neuroni prin eliberarea

neurotransmitorilor n jonciunile sinaptice formate ntre butonii terminali ai neuronilor

presinaptici i regiunile receptoare ale neuronilor postsinaptici.

1.1.2. Potenialul de aciune

Membrana neuronului este polarizat n starea de repaus, fiind ncrcat pozitiv pe faa sa

extern i negativ pe faa intern, configuraie datorat repartiiei inegale a ionilor pozitivi de sodiu

Na+ i potasiu K+ [TeE82]. n acest caz, diferena de potenial dintre cele dou fee ale membranei,

numit potenial de repaus al membranei neuronului, este de aproximativ -70 mV.

Un neuron primete informaia de la neuronii presinaptici la nivelul sinapsei interneurale din

regiunea sa receptoare. Dac potenialul postsinaptic (suma ponderat a potenialelor locale) depete,

ntr-o perioad de timp scurt, o anumit valoare numit potenial de prag (aproximativ -55 mV)

atunci are loc o aprindere a neuronului, sau altfel spus, se genereaz un impuls nervos de natur

electric care se autopropag de-a lungul axonului. Potenialele (stimulii) cu intensitate inferioar

valorii de prag se numesc subliminale, iar cele cu intensitate superioar acesteia se numesc

supraliminale [TeE82].

Comparaia potenialului postsinaptic cu potenialul de prag se face la nivelul hilului axonic, iar

impulsul rezultat se numete potenial de aciune i poate atinge aproximativ +35 mV. Potenialul de

aciune este generat doar dac potenialul postsinaptic acioneaz cu o anumit bruschee (aceasta

presupune apariia potenialelor presinaptice ntr-un interval scurt de timp) pentru a nu se permite o

adaptare a nervului [TeE82].

Generarea potenialului de aciune este un proces de tipul totul-sau-nimic n sensul c, dac

potenialul postsinaptic este supraliminal atunci este generat un impuls, iar n caz contrar neuronul nu

se aprinde. O intensitate mai mare a stimulului nu va produce ns un semnal mai puternic, ci mai

multe impulsuri pe secund (o cretere a frecvenei de aprindere). n funcie de tipul neuronului, exist

diferite tipuri de rspunsuri la stimuli, dintre care mai importante sunt: adaptarea lent sau o frecven

constant de aprindere pentru un stimul constant.



Fenomenul de generare a impulsului se numete depolarizare (sau activare sau excitare) i

dureaz cu aproximaie ntre 0.2 ms i 5.0 ms [Bos96]; termenul de depolarizare este dat chiar de

procesul fizico-chimic care st la baza apariiei impulsului, adic generarea unui flux mare de ioni Na+

care traverseaz membrana neuronului de la exterior la interior. Dup depolarizare potenialul

membranei celulei nervoase revine la valoarea de repaus i se instaureaz aa-numita perioad

refractar n care neuronul nu rspunde la noi stimuli indiferent de intensitatea acestora.

Se menioneaz n [Bos96] c unii neuroni pot genera pn la 500 de impulsuri pe secund, iar

viteza de propagare a impulsului nervos de-a lungul axonului poate varia, n funcie de tipul

neuronului, ntre sub 1 m/sec. i aproximativ 110 m/sec. Potenialele de aciune generate de un neuron

au aceeai form i amplitudine. Informaia transmis este codificat prin frecvena i forma trenurilor

de impulsuri generate de neuron.

Propagarea impulsurilor nervoase ntre neuroni se realizeaz cu ntrzieri de timp ce variaz

ntre 0.5 ms i 2 ms. Aceste ntrzieri apar datorit mecanismului de transmitere a semnalului la

nivelul sinapselor interneurale care presupune eliberarea, difuzia i recepia neurotransmitorilor

(mediatori chimici) [Bos96] (v. Fig. 1.2).

1.1.3. Memoria i ponderile sinaptice

Stimulii (orice variaie a unei forme de energie), att externi ct i interni organismului biologic,

genereaz la nivelul sistemului nervos central anumite forme de activitate. O form de activitate

neuronal este memoria; se disting: memoria senzorial (MS), memoria de scurt-durat (MSD) i

memoria de lung-durat (MLD). Memoria senzorial (sensory memory, n englez) acioneaz ca un

tampon pentru stimulii primii de organism din mediul nconjurtor. Informaia de la acest nivel este

filtrat, reinndu-se doar informaia util la momentul curent, i transferat, prin intermediul ateniei,

memoriei de scurt-durat (denumit i memoria de lucru).

Formele oscilatorii care persist orict de puin de-a lungul activrilor reprezint evenimente ale

memoriei de scurt-durat (short-term memory, n englez). Memoria de scurt durat are o capacitate

limitat i permite reinerea informaiei circa 200 ms, valoare care difer de la individ la individ.

Necesitatea utilizrii judicioase a capacitii MSD a condus, de exemplu, la scrierea numerelor de

telefon n grupuri de cifre sau memorarea unor sintagme sau expresii lungi sub forma acronimelor.

Pentru a nelege fenomenul de persisten a informaiei n MSD putem observa relativa rapiditate cu

care uitm noile nume sau numere de telefon ceea ce arat o competiie a formelor de activare pentru

imprimarea n MSD.

Memorarea informaiei timp ndelungat se realizeaz prin transferarea acesteia din MSD n

memoria de lung durat (long-term memory, n englez) prin repetiie: aplicarea repetat a unui

stimul sau repetarea unei informaii. De fapt, memoria i experiena sunt codificate biologic la nivelul

sinapselor dintre neuroni, fenomenul stnd la baza nvrii adaptive.



D. Hebb sugera n 1949 [Heb49] mecanismul nvrii adaptive. Ideea de baz este urmtoarea:

eficacitatea sinaptic crete dac neuronul presinaptic stimuleaz repetat i persistent neuronul

postsinaptic. Privind auto-asociativitatea, Hebb arta c dac intrrile unui sistem conduc la apariia

repetat a aceleiai forme de activitate, atunci se va intensifica inter-asocierea elementelor active care

constituie acea form. Cu alte cuvinte, fiecare element din mulimea corespunztoare formei de

activitate va tinde s aprind (ponderi sinaptice pozitive, excitatoare) elementele din aceast

mulime i s sting (ponderi sinaptice negative, inhibitoare) orice element care nu face parte din

mulime; astfel, forma devine auto-asociat.

Exist trei activiti de baz ale MLD: memorarea (nregistrarea), tergerea i regsirea

informaiei. Memorarea informaiei se realizeaz prin fixarea ponderilor sinaptice (existena i tria

conexiunii sinaptice) ntre neuronii asociai formei de activitate generate de stimulul informaie.

tergerea informaiei poate fi cauzat n principal ori de uitare ori de interferena formelor de

activitate. Uitarea se refer la slbirea sau tergerea conexiunilor dintre neuronii afereni unei forme de

activitate i se datoreaz nefolosirii ndelungate a acestei asocieri (stimulare sau rechemare a

informaiei din MLD). Interferena presupune suprapunerea total sau parial a unei noi forme de

activitate peste coninutul de neuroni i sinapse aferent unei forme vechi. Regsirea informaiei n

MLD se poate face prin rechemare sau prin recunoatere. Deoarece ponderile sinaptice sunt modificate

n procesul de nvare astfel nct s se memoreze o anumit form de activitate, este posibil ulterior

regsirea acesteia plecnd de la o form parial sau distorsionat a ei.

1.1.4. Funcionarea neuronului biologic

Schematic, funcionarea neuronului biologic const n sumarea algebric ponderat, n arborele

dendritic, a semnalelor (poteniale electrice presinaptice) primite de la ali neuroni i/sau a stimulului

ce provine din mediul extern. Dac valoarea sumei depete un anumit prag, corpul celulei produce

un impuls electric (potenial de aciune; spike sau action potential, n englez) care se autopropag n

lungul axonului. Potenialul de aciune poate varia n durat, amplitudine i form. Potenialul de

aciune este codificat n amplitudine la nivelul membranei postsinaptice i n frecven pe canalul de

transmisie axonul [Bos96].

1.1.5. Principii de organizare i calcul specifice creierului uman

n [Bos96] sunt prezentate principiile de organizare i procesare identificate la sistemul nervos

uman principii care rezult din datele anatomice i fiziologice existente. Acestea sunt:

Paralelism masiv. Un numr mare de uniti simple i lente sunt organizate pentru a rezolva independent, dar colectiv, probleme.

Grad nalt de complexitate a interconectrii. Neuronii au un numr mare de conexiuni i forme de interconectare complexe; n consecin, creierul are un numr mare de variabile.



Antrenare. Parametrii de interaciune interneural (forma i tria conexiunii) se modific n timp (sunt ajustabili) ca rezultat al acumulrii experienei senzoriale.

Stri binare i variabile continue. Potenialul de aciune al unui neuron este un proces totul-sau-nimic. Fiecare neuron are doar dou stri: repaus i depolarizare. Dei exist i excepii de la

aceast regul, se poate spune c neuronii au la ieire un rspuns binar. Cu toate acestea,

variabilele creierului variaz continuu n timp i spaiu.

Numeroase tipuri de neuroni i semnale. Creierul are n componen diferite tipuri de neuroni, acetia putnd genera diferite tipuri de semnale.

Interaciuni complicate ale semnalelor. Interaciunea impulsurilor primite de un singur neuron este neliniar i depinde de muli factori.

Descompunere fizic. Creierul este organizat ca un ansamblu de subreele. Fiecare subreea este format din cteva mii de neuroni dens interconectai. Aceste subreele reprezint modulele de

procesare de baz ale creierului. Conexiunile cu neuronii ndeprtai sunt mult mai rare i prezint

mult mai puine conexiuni ciclice, permind astfel procesarea colectiv local autonom n

paralel, urmat de o procesare preponderent serial i integratoare a acestor ieiri locale colective.

Descompunerea funcional. Din punct de vedere funcional, creierul se descompune ntr-o serie de zone. Fiecare zon sau subreea este responsabil pentru o funcie specific.

BIBLIOGRAFIE

[Bos96] Bose N.K., P. Liang Neural Network Fundamentals with Graphs, Algorithms and

Applications, McGraw-Hill, Inc., SUA, 1996.

[Mar09] Marinescu Ghe. La Cellule Nerveuse, Ed. Doin, Paris (cu o prefata de Santiago Ramn y

Cajal), 1909.

[TeE82] Teodorescu Exarcu I., Ciuhat I., Gherghescu S. Soigat M., - Biologie. Manual pentru clasa a XI-

a, Editura Didactic i Pedagogic, Bucurti, 1982.

[Tho85] Thompson R.F. The Brain: An introduction to neuroscience, W.H. Freeman & Company,

New York, 1985.

c1 bnaia retele neuronale naturale

Documents