licenta rna

1

UNIVERSITATEA PETRU MAIOR DIN TRGU-MURE

FACULTATEA DE INGINERIE ELECTRIC

LUCRARE DE LICEN

Coordonator tiinific:

Prof. univ. dr. Clin Enchescu

Absolvent

Belean Cosmin Emilian

-2014-

4

UNIVERSITATEA PETRU MAIOR TRGU MURE

FACULTATEA DE INGINERIE

CALCULATOARE

PREDICIA SEMNALELOR UTILIZND REELE NEURONALE

Coordonator tiinific

Prof. univ.dr. Clin Enchescu

Absolvent

Belean Cosmin Emilian

2014

5

CUPRINS Cap.1 Introducere.....7

1.1 Obiectivele lucrrii.........7

1.2 Privirea de ansamblu asupra lucrrii.....7

1.3 Scurt istoric.8

Cap.2 Fundamente teoretice ale reelelor neuronale........10

2.1 Consideraii teoretice.....10

2.2 Modelul biologic....12

2.3 Neuronul artificial..14

2.3.1 Neuronul artificial..15

2.4 Arhitecturi ale reelelor neuronale.....18

2.4.1 Reele neuronale tip feeedforward....18

2.4.2 Reele neuronale de tip perceptron....21

2.4.3 Reele neuronale recurente...22

2.5 Tipuri de reele neuronale ..23

2.5.1 nvarea de tip supervizat24

2.5.2 nvarea de tip nesupervizat....24

2.5.3 nvarea prin ntrire....26

2.5.4 nvarea hebbian ........26

2.5.5 Reprezentarea cunoaterii..28

2.5.6 Algoritmi de nvare bazai pe corecia erorii......29

2.5.7 Algoritmi de nvare de tip Boltzman.....30

2.5.8 Algoritmi de nvare de tip competitiv....31

Cap.3 Serii cronologice de timp...32

3.1 Consideraii teoretice.....32

3.2 Componentele unei serii de timp.........36

6

3.3 Tipuri de serii cronologice ....38

3.3.1 Serii cronologice de momente.39

3.3.2 Serii cronologice formate din indicatori absolui.40

3.3.3 Serii cronologice formate din indicatori relativi...41

3.3.4 Serii cronologice formate din indicatori medii.41

Cap.4 Proiectarea aplicaiei.48

4.1 Specificarea cerinelor48

4.2 Analiza cerinelor49

4.2.1 Proiectarea reelei neuronale..49

4.2.2 Reele neuronale NARXNET....50

4.2.3 Identificarea principalelor entiti.52

Cap.5 Implementarea aplicaiei..54

5.1 Structura aplicaiei...54

5.2 ncrcarea datelor...56

5.3 Procesul de antrenare.57

5.4 Validarea datelor57

5.5 Testarea reelei pe un anumit interval din seria de timp.58

Cap.6 Rezultate experimentale61

Cap.7 Concluzii i perspective.84

Bibliografie86

Anexe..87

7

CAP. 1. INTRODUCERE

1.1 OBIECTIVELE LUCRRII

Obiectivele acestei lucrri l reprezint implementare unei reele neuronale care s

poate realiza o predicie asupra unui set de date, n cazul de fa a unei serii de timp.

Reeaua neuronal va nva din experienele anterioare i va fi capabil s fac o

predicie cu o acuratee ct mai mare.

Un alt obiectiv important de studiat l reprezint comportamentul reelei neuronale

implementate cu numr diferii de neuroni pentru o seria de date, i respectiv

comportamentul ei cnd ntr-o serie de date avem nite valori neobinuite.

1.2 PRIVIREA DE ANSAMBLU ASUPRA LUCRRII

Primul capitol l dedic prezentrii uneui scurt istoric n ceea ce privete

Inteligena artificial, precum i obiectivele lucrrii de fa.

n al doilea capitol fac o prezentare a reelelor neuronle, pornind de la modelul

biologic, modelul neuronului artificial. Se prezint o serie de fundamente teoretice ale

reelelor de nvare, arhitecturi ale acestora i a unor algortimi de nvare.

n capitolul al treilea se prezint seriile cronologice de timp, fundamentele

teoretice ale acestora, componentele i tipurile de serii cronologice.

n capitolul patru se prezint proiectarea aplicaiei, analiza cerinelor precum i

proiectarea reelei neuronale i identificarea unor entiti n cadrul aplicaiei.

n capitolul cinci se prezint implementarea aplicaiei, o modului de ncrcare a

datelor, validarea datelor precum i testarea reelei neuronale

n capitolul ase se prezint rezultatele experimentale iar n capitolul apte

concluziile i perspectivele lucrrii.

8

1.3 SCURT ISTORIC

Primele cercetri realizate de McCulloch si Pitts n anul 1943, au pus bazele

calculului neuronal, prin definirea modelului neuronului. McCulloch si Pitts au

dezvoltat un model logic bazat pe predicate. Principalele rezultate au fost demonstrate

n cazul reelelor neuronale nerecurente, n care sinapsele sau conexiunile dintre

neuroni nu formeaz cicluri.

Teoria calculului neuronal, caracteristic anilor 40, a fost reformulat de Kleene

n 1956, care a dezvoltat modelul reelelor recurente. Rezultatele matematice se refer

la activarea neuronilor de intrare si definesc starea reelei neuronale, dup procesarea

tuturor semnalelor.

Rosenblatt a propus n 1958 un tip de reea bazat pe perceptroni, obinut prin

interconectarea unei mulimi de neuroni, definind astfel primul model de reea

neuronal artificial. Conform teoriei lui Rosenblat, perceptronul conine cinci

elemente de baz: un vector cu intrri, ponderile (conexiunile dintre neuroni), funcia

de nsumare, dispozitivul de detecie a pragului si o ieire. Iesirea este 1 (sau -1) si

reprezint valoarea funciei de activare, aplicat combinaiei semnalelor de intrare,

lundu-se n considerare cazul depirii valorii prag. Inteligena artificial, ca i in

cazul inteligenei biologice se dobndete printr-un proces continuu si de durata de

nvare, de aceea problema nvrii ocup un loc important in cercetarea mainilor

autoinstruibile (machine learning).

Prin nvarea automat se nelege studiul sistemelor capabile s-i

mbunteasc performanele, utiliznd o mulime de date de instruire. Widrow si

Hoff au propus un model de reea numit ADALINE, care a fost generalizat la reele

MADALINE (Many ADALINES). ADALINE (Adaptive Linear Neuron networks)

seamn cu modelul perceptronului, ns folosete, ca funcie de activare, o funcie

liniar (n mod implicit, funcia identitate) i un procedeu adaptiv de modificare a

ponderilor (puterii conexiunilor dintre neuroni), ce permite generarea unui semnal de

iesire corect, pentru fiecare intrare a reelei.

9

Widrow si Hoff au definit regula de nvare LMS (Least Mean Squares) care este mai

puternic dect regula de nvare a perceptronului i este bazat pe minimizarea erorii

medii ptratice.

ncepnd cu anul 1980, teoria calculului neuronal a fost reconsiderat i privit

cu mai mult interes.

Dezvoltrile majore au vizat tipul procesului de nvare, rezultnd multe

modele de reele neuronale, precum Grossberg (1980), Hopfield (1982), Kohonen (n

1984), McClelland (1986), etc.

10

CAP. 2 FUNDAMENTELE TEORETICE ALE

REELELOR NEURONALE

2.1 CONSIDERAII TEORETICE

Sistemele cu inteligen artificiala obinuite au capaciti de nvare foarte

reduse sau nu au deloc. n cazul acestor sisteme cunoaterea trebuie sa fie programat

in interiorul lor.

Dac sistemele conin o eroare ,ele nu o vor putea corecta, indiferent de cate ori

se execut procedura respectiv.

Practic aceste sisteme nu-i pot mbuntii performanele prin experien si nici

nu pot nva cunotine specifice domeniului, prin experimentare. Aproape toate

sistemele cu inteligen artificial sunt sisteme deductive. Aceste sisteme pot trage

concluzii din cunoaterea ncorporat sau furnizat, dar ele nu pot s genereze singure

noi cunotine. Pe msura ce un sistem cu inteligen artificial are de rezolvat sarcini

mai complexe, crete i cunoaterea ce trebuie reprezentat n el (fapte, reguli, teorii).

n general un sistem funcioneaz bine, n concordan cu scopul fixat prin cunoaterea

furnizat, dar orice micare in afara competentei sale face ca performanele lui s

scad rapid. Acest fenomen este numit i fragilitatea cunoaterii. Una din direciile de

cercetare n privina mainilor instruibile este modelarea neuronal .

Modelarea neuronal dezvolt sisteme instruibile pentru scopuri generale, care

pornesc cu o cantitate mic de cunotiine iniiale. Astfel de sisteme se numesc reele

neuronale sau sisteme cu autoorganizare sau sisteme conexioniste. Un sistem de acest

tip const dintr-o reea de elemente interconectate de tip neuron, care realizeaz

anumite funcii logice simple. Un astfel de sistem nva prin modificarea intensitii

de conexiune dintre elemente, adic schimbnd ponderile asociate acestor conexiuni.

Cunoaterea iniial ce este furnizat sistemului este reprezentat de caracteristicile

obiectelor considerate si de o configuraie iniial a reelei.

11

Retele neuronale artificiale sunt sisteme de procesare a informatiei,

compuse din unitati simple de procesare, interconectate intre ele si care

actioneaza in paralel.

Aceste elemente sunt inspirate din sistemele nervoase biologice. La fel ca n natur,

funcia reelei e determinat de legturile dintre elemente. Ponderile legturilor dintre

uniti sunt cele care memoreaz informaia nvat de reea . Reeaua se instruiete

prin ajustarea acestor ponderi , conform unui algoritm.

Caracteristicile reelelor neuronale artificiale:

- reprezentarea distribuit a informaiei : informaia din reea este stocat n mod

distribuit ( n structura de ponderi ), ceea ce face ca efectul unei anumite intrri asupra

ieirii s depind de toate ponderile din reea .

- capacitatea de generalizare n cazul unor situaii neconinute n datele de instruire .

Aceast caracteristic depinde de numrul de ponderi, adic de dimensiunea reelei .

Se constat c creterea dimensiunii reelei duce la o buna memorare a datelor de

instruire , dar scad performanele asupra datelor de testare , ceea ce inseamn ca

reeaua neuronal a pierdut capacitatea de generalizare .

Stabilirea numrului optim de neuroni din stratul ascuns , care este o etap

cheie in proiectarea unei reele neuronale , se poate face alegnd valoarea de la care

ncepe s descreasc performana reelei neuronale pe setul de testare.

- tolerana la zgomot : reelele neuronale pot fi instruite , chiar dac datele sunt afectate

de zgomot , diminundu-se evident performana ei .

- rezistena la distrugerea partial : datorit reprezentrii distribuite a informaiei ,

reeaua neuronal poate opera i n cazul distrugerii unei mici prti a ei .

- rapiditate n calcul : reelele neuronale consum mult timp pentru instruire , dar odat

antrenate vor calcula rapid ieirea reelei pentru o anumit intrare .

Putem antrena o reea neuronal s realizeze o anumit funcie, prin ajustarea

valorilor conexiunilor (ponderilor) dintre elemente

De regul reelele sunt ajustate (antrenate), astfel nct un anumit semnal la

intrare s implice o anume ieire (int). Reeaua este ajustat pe baza comparrii

rspunsului cu inta, pna ce ieirea reelei se potrivete intei. Pentru a antrena o

reea n aceasta instruire supervizata, se utilizeaz mai multe perechi intrare/tinta.

12

2.2 Modelul biologic

Neuronul este unitatea morfofuncional a sistemului nervos, este o celul stelat,

piramidal, rotund sau ovalar avnd, una, dou sau mai multe prelungiri: neuroni

unipolari, pseudpunipolari, bipolari sau mutipolari.

Componentele neuronului sunt: corpul celular si prelungirile acestuia:

1. Soma sau corpul celular formeaz partea central a celulei care realizeaz

majoritatea funciilor logice ale neuronului. Formeaz substana cenuie din nevrax si

ganglionii somatici si vegetativi extranevraxiali.

2. Prelungirile neuronale sunt dendritele si axonul.

- dendritele sunt prelungiri citoplasmatice extreme de ramificate. Ele conduc

fluxul nervos centripet(aferent).

- axonul este o prelungire unic, lung de aproximativ 1 metru. Axonul

transmite de obicei impulsuri de la soma (corpul celular) altor celule nervoase sau

organe efectoare (muchii sau glandele), dei impulsul poate fi uneori transmis i n

direcie opus .

Neuronul biologic

13

Proprietile funcionale ale neuronului:

1. Excitabilitatea este proprietatea neuronului de a rspunde unui stimul. Sub

aciunea unor stimuli se produc n neuron anumite modificri fizico-chimice care stau

la baza generrii semnalului nervos.

Pentru a produce un impuls nervos, stimulul trebuie s aib o anumit intensitate

numit prag. Stimulii cu intensitate inferioar pragului nu produc un impuls nervos, iar

stimulii cu intensitate superioar pragului nu declaneaz un impus mai puternic dect

stimulii prag. Pentru a produce un impuls nervos, stimulul trebuie s acioneze cu o

anumit bruschee.

2. Conductibilitatea este proprietatea de autopropragare a impulsurilor nervoase

prin axoni pn la terminaiile acestora, unde sunt transmise fie unui alt neuron, printr-

o sinaps interneuronal, fie unui organ efector, producnd un raspuns caracteristic.

Neuronii comunic ntre ei prin sinapse. Transmiterea sinaptic a influxului nervos, de

la butonul terminal al neuronului presinaptic la dendrita neuronului postsinaptic se

realizeaz prin intermediul unor mediatori chimici.

Membrana neuronului este permeabil la diferii ioni i ea acioneaz n sensul

meninerii unei diferene de potenial intre fluidul intracelular i fluidul din exteriorul

celulei nervoase. Acest lucru se realizeaz n principal prin transportul ionilor de sodiu

n exteriorul celulei i al ionilor de potasiu n interiorul celulei.

Impulsurile nervoase excitatoare reduc diferena de potenial la nivelul

membranei celulare. Depolarizarea rezultat mrete permeabilitatea membranei

pentru ionii de sodiu. Drept consecin va apare un flux de ioni pozitivi de sodiu spre

interiorul celulei. Acest flux de ioni pozitivi va accentua depolarizarea. Rezultatul este

apariia unui potenial de aciune, care se va transmite prin intermediul axonului.

Neurotransmitorii difuzeaz prin jonciune i ating membrana postsinaptic a

unui receptor neuronal. Astfel neurotransmitorii activeaz toi neuronii cu care vin in

contact. Aciunea chimic la nivelul receptorului const n schimbarea permeabilitaii

membranei postsinaptice pentru anumite specii de ioni. Un aflux de ioni pozitivi n

neuron provoac o depolarizare. Efectul este excitator. Dac apare un aflux de ioni

negativi rezultatul este o supra-polarizare. Efectul hiperpolarizrii este inhibitor.

14

Ambele efecte (excitator i inhibitor), sunt efecte locale, care se propag pe o

distan mic n corpul celulei i sunt integrate (nsumate) la nivelul axonului(la baza

acestuia). Dac suma(excitarea) depeste un anumit prag, atunci se genereaz un

potenial de aciune (neuronal este activat).

Excitarea sau inhibarea neuronilor conectai cu un neuron dat este n funcie de

natura i cantitatea neurotransmitorilor eliberai in fanta sinaptic.

2.3 Neuronul artificial

Neuronul artificial denumit si procesor elementar ncearc s imite structura i

funcionarea neuronului biologic. Exist numeroase modele prezentate in literatura,

dar cel mai rspndit are la baza modelul elaborat de McCulloch-Pitts in anul 1943.

Astfel se poate considera c neuronul artificial este format dintr-un numr de intrari,

fiecare din aceasta fiind caracterizata de propria pondere sinaptic.

De exemplu, semnalul prezent la intrarea j este conectat la neuronul k

prin multiplicare cu ponderea .

x1

xj

xN

Wk1

Wkj

WkN

uk yk

k

Neuronul artificial

15

O component a modelului neuronului artificial prezentat mai sus o reprezint

sumatorul destinat nsumrii intrrilor ponderate.

Rezultatul obinut n urma nsumrii este denumit intrare net.:

=

Pentru limitarea amplitudinii semnalului de ieire al neuronului, acesta este

prevzut cu o funcie de activare ( )

( ) ( )

n care k reprezint valoarea pragului de activare (treshold) al neuronului. Uneori

intrarea net este majorat prin termenul bk denumit factor al deplasrii (bias);

deplasarea scrii reprezint deci negativul pragului de activare.

Valoarea:

= - k

poart denumirea de potenial de activare.

n ceea ce privete tipul funciei de activare, aceast este de regul o funcie neliniar.

2.3.1 Funcii de activare:

Exist i alte funcii de activare, cele mai utilizate fiind

funcia liniar

f:R R, f(x) = x

1

0

-1-4 -2 0 2 4

FUNCIA LINIAR

16

funcia prag

f:RR{0,1},f(x)={

1

0

-1-4 -2 0 2 4

FUNCIA PRAG

funcia sigmoid

f(x) =

1

0

-1-4 -2 0 2 4

FUNCIA SIGMOID

funcia prag simetric sau funcia signum

f(x)={

1

0

-1-4 -2 0 2 4

FUNCIA SIGNUM

17

funcia tangent hiperbolic

f(x)=

1

0

-1-4 -2 0 2 4

TANGENT HIPERBOLIC

funcia liniar cu saturaie

f(x) = {

1

0

-1-4 -2 0 2 4

SATURAIE

funcia liniar cu saturaie simetric

f(x) = {

1

0

-1-4 -2 0 2 4

SATURAIE SIMETRIC

18

2.4. Arhitecturi ale reelelor neuronale

Se pot distinge 2 mari categorii n modul de structurare si funcionare ale

reelelor neuronale:

1. Retea neuronal tip feedforward (cu propagarea nainte a semnalului).

2. Retea neuronal tip recurente (feedback, cu propagare napoi a semnalului).

2.4.1. Reea neuronal tip feedforward

Sunt caracterizate de prezena unui strat de neuroni de intrare, un numr de straturi

ascunse (sau fara straturi ascunse ) si un strat de neuroni de iesire. n cadrul acestor

reele nu exist conexiuni ntre neuroni din acelai strat sau din stratul precedent ci

doar n stratul care urmeaz de unde i denumirea.

Neuronii din primul strat sunt singurii care primesc semnale din exterior.

Primul strat se numete strat de intrare i este singurul strat ce conine neuroni

degenerai, ce au funcia de transfer 1.

Caracteristici ale reelelor feedforward:

1. Neuronii artificiali din celelalte straturi (intermediare i de ieire) sunt neuroni

sigmoidali.

2. Neuronii dintr-un strat intermediar este denumit strat ascuns.

3. Neuroni dintr-un strat sunt direct conectati cu neuronii din stratul urmtor.

4. Nu exist conexiuni intre neuronii din acelai strat.

5. O reea neuronal feed-forward poate avea 0, 1 sau mai multe straturi ascunse.

O reea neuronal este total conectat dac fiecare nod din fiecare strat este conectat la

fiecare neuron din stratul precedent.

Daca nu exist anumite conexiuni sinaptice avem de-a face cu o reea neuronal parial

conectat.

Reelele neuronale total conectate au un caracter general, adic pot fi folosite n

rezolvarea unei game largi de probleme, dar asta nu nsemn c are i cele mai bune

rezultate.

19

Reelele neuronale parial conectate introduc anumite restrngeri, care

reprezint tocmai cunotiine apriorice despre problema de rezolvat i care reduc

gradul de generalizare ale unei reele neuronale. Prin restrngerea cmpului de recepie

ale neuronilor se efectueaz o extragere a trsturilor locale iar n straturile ce urmeaz

acestea sunt combinatepentru a forma trsturi de ordin superior.

Astfel, reelele neuronale parial conectate pot avea rezultate mai bune dect

reele neuronale total conectate n rezolvarea anumitor probleme specifice, cu condiia

exploatrii cunotiinelor apriorice despre problema dat.

In neuronii din stratul de intrare nu se efectueaz nici un fel de procesare.

Neuronii din acest strat au o singur intrare fiecare, iar ca funcie de activare au funcia

liniar. Cu alte cuvinte intrarea fiecrui neuron din stratul de intrare este trimis la

ieirea sa fr nici un fel de modificare i distribuit intrrilor neuronilor din primul

strat ascuns.

Existena stratului ascuns confer reelei neuronale caliti superioare. n cazul

unei reele neuronale cu dou straturi, un strat ascuns i unul de ieire, exist restricii

severe: ele sunt capabile s proiecteze forme de intrare similare n forme de ieire

similare, ceea ce poate duce la o instabilitate n ceea ce privete nvarea de ctre

reeaua neuronal a anumitor funcii. Astfel de situaii n care structurile de similaritate

ale formelor de intrare i a celor de ieire sunt foarte diferite. n aceast situaie, o reea

neuronal care nu construiete o reprezentare intern, deci nu are straturi ascunse, va fi

incapabil s realizeze funcia respectiv. Stratul ascuns realizeaz o extindere a

formelor de intrare, n sensul c exist ntotdeauna o recodificare, adic o reprezentare

intern convenabil a formelor n unitile ascunse. Prin aceast recodificare

similaritatea formelor in raport cu unitile ascunse permite realizarea oricrei funcii

de la cmpul de intarre la cmpul de ieire. Astfel Hornik i White n 1989 au artat c

o reea neuronal feed-forward (n cazul creia neuronii au ca funcie de activare

funcia sigmoid) poate s aproximeze cu orice precizie msurabil in sens Borel.

20

Exemple de arhitecturi

strat de intrare strat de ie ireintrri

Reea neuronal feedfoorward total conectat

strat de ascunsintrri strat de iesire

Reea neuronal feedfoorward total conectatcu un strat ascuns

strat de intrare

strat de intrare strat de iesireintrare

Reea neuronal feedfoorward partial conectat

21

2.4.2 Reelele de tip perceptron

O clas deosebit de important n cadrul reelelor neuronale o reprezint reelele

neuronale de tip perceptron simplu. Printre primii autorii care au fundamentat

principiile teoretice legate de perceptronul simplu/multistrat se regsesc Rosenblatt,

Widrow i respectiv Rumelhart, Williams.

Interesul deosebit fa de aceste reele neuronale a fost generat, printre altele, de

capacitatea acestora de a generaliza adic de a opera cu date diferite de cele prezentate

n etapa de antrenament i de a nva plecnd de la o distribuie aleatoare a ponderilor

sinaptice ale reelei. n consecin acest tip de reele poate fi folosit cu succes in

diversele aplicaii ce conin clasificatori.

Perceptronul simplu are o aplicabilitate practic limitat datorit valorii binare a

ieirii sau datorit imposibilitaii clasificrii tiparelor(vectorilor de intrare) neliniari. El

se constituie ns ca un punct de plecare n studiul perceptronului multistrat.

Se poate afirma c perceptronul simplu reprezint o particularizare a modelului

McCulloch-Pitts al neuronului artificial pentru care funcia de activare este de tip

treapt unitate bipolar.

+1

-1

-e d

y

(v)

v

w1

wN

x1

x2

xN

-1

IEIRE

INTRARE

22

Scopul perceptronului simplu este de a clasifica n una din cele dou clase

disponibile (y=+1 sau y=-1) un set de stinuli exteriori.

Funcionarea sa poate fi descris prin urmtoarele ecuaii:

v =

y =(v) = sgn(v) = { ( ) ( )

Regiunile de decizie vor fi separate de ctre un hiperplan definit de relaia:

2.4.3 Reele neuronale recurente

Reele neuronale recurente se individualizeaz prin existena unui semnal de

reacie, din partea neuronilor de ordin superior, pentru cei de ordin inferior sau

chiar pentru propriile lor intrri.

Reea neuronal recurent

23

2.5 Tipuri i algoritmi de instruire

Calcului neuronal implic dou aspecte: nvarea i reprezentarea cunoaterii.

Abordarea neuronal a acestor aspecte este diferit de abordarea standard ntlnit n

modelele bazate pe reprezentarea simbolic a cunotiinelor. Exist un consens

aproape unanim n a accepta faptul c tehnicile de nvare reprezint calea prin care

mainile pot deveni capabile s realizeze sarcinile dificile ale inteligenei artificiale.

Reele neuronale achiziioneaz cunotiinele prin instruire (invare).

Vectorii(formele) de intruire se prezint reelei n mod secvenial i ponderile

reelei sunt ajustate pentru a capta cunoaterea pe care aceti vectori o reprezint.

nvarea presupune adaptare parametrilor liberi ai reelelor neuronale (ponderi,

praguri, rat de nvare, uneori chiar i funcia de activare sau structura reelei) ca

urmare a stimulilor mediului n care se gsete reeaua.

Aceast procedur se numete legea de nvare sau algoritmul de instruire. n

general fiecare vector din mulimea de instruire este prezentat reelei de mai multe ori.

Algoritmul de instruire trebuie s determine convergena ponderilor spre valori

ale ponderilor care s determine c fiecare vector de intrare s produc ieirea

dorit(admind c este cunoscut aceast ieire dorit).

TIPURI DE INSTRUIRE

NESUPERVIZATCU AUTOORGANIZARE( )

SUPERVIZAT PRIN NTRIRE

CORECIAERORILOR

BOLTZMAN(STOCHASTIC)

WIDROW-HOFF(LMS SAU REGULA DELTA)

PROPAGAREA NAPOI A ERORII

HEBBIAN COMPETITIV

ALGORITMI

24

2.5.1 nvarea de tip supervizat

Este caracterizat de prezena unui supervizor care cunoate cu exactitate modul

de asociere al intrrilor in reeaua neuronal cu ieirile acesteia.

SUPERVIZOR

SISTEMSUPUS

NVRII

RSPUNSDORIT

RSPUNSACTUAL

+

-

SEMNAL DE EROARE

VECTOR DE INTRARE

Parametrii reelei neuronale sunt modificai sun influena combinat a vectorilor

de antrenament i a semnalului de eroare (diferena dintre rspunsul dorit i cel actual).

Scopul final al algoritmului de antrenament este ca reelei neuronale s

emulueze, optim n sens statistic supervizorul.

2.5.2 nvarea de tip nesupervizat (cu autoorganizare)

Este caracterizat de absena unui semnal sau supervizor care s aprecieze

corectitudinea asociaiilor de intrare-ieire. Reeaua neuronal va descoperi singur

legitile coninute n datele de intrare printr-o repezentare intern adecvat a

trsturilor vectorului de intrare.

n ciuda numeroaselor sale aplicaii, intruirea supervizat a fost criticat ca fiind

neplauzibil din punct de vedere biologic. Aceste critici pornesc de la observaia de

bun sim c este greu de conceput existena in creier a unui mecanism de instruire care

ar compara ieirile dorite cu cele reale, propagnd napoi n toat reeaua de neuronii

25

coreciile efectuate. Dac acesta ar fi mecanismul de instruire se pune problema de

unde vin formele de ieire dorite. nvarea nesupervizat este un model de nvare

mult mai plauzibil pentru sistemele biologice.

n general, un model de nvare nesupervizat este unul n care ajustarea

ponderilor nu se bazeaz pe compararea cu rspunsuri ideale predeterminate.

Mulimea de instruire const doar din vectori de intare. Fr o cunoatere

specific a ceea ce ar putea fi un rspuns corect, cel mult ne putem atepta din partea

acestor modele s construiasc grupuri de forme de intrri similare. Aceast

proprietate ar putea fi numit auto-organizare.

n general algoritmii de clasificare nesupervizat modific ponderile pentru a

produce vectori de ieire care sunt consisteni. Prin aceasta nelegem faptul c

aplicarea a doi vectori de intarare care sunt suficient de asemntori va genera aceeai

form de ieire sau dou forme foarte apropiate.

Procesul de instruire grupeaz vectorii similari in clase. Prezentnd reelei un

vector dintr-o clas acesta va genera un vector de ieire specific. Rspunsul pe care l

va produce o clas de vectori de intrare nu poate fi ns determinat nainte de

ncheierea procesului de instruire. Prin urmare ieirile unei astfel de reele trebuie, in

general, s fie interpretate, adic s primeasc o form comprehensibil dup procesul

de instruire. De obicei sunt uor de identificat relaiile-intrare ieire pe care reeaua le

stabilete.

SISTEMSUPUS

NVRII

VECTOR DE INTRARE

26

2.5.3 nvarea prin ntrire

Dac n urma aciunii reelei neuronale se obine o stare caracterizat ca fiind

pozitiv, atunci tendina reelei neuronale de a produce acelai rezultat va crete sau va

fi ntrit. Altfel, celelalte aciuni care au ca rezultat efecte negative vor descrete

tendina reelei neuronale de aproduce acel rezultat.

Cu alte cuvinte urmrete maximizarea unei mrimi scalare indice de performan sau

semnal de ntrire n urma unei aciuni efectuate de ctre sistemul supus nvrii.

Dac modificrile aduse conduc spre o stare mai bun dect cea precedent,

tendina sistemului de a produce acea aciune particular este ntrit.

Paradigma nvrii ntrite se clasific n:

1. nvarea ntrit neasociativ - reeaua neuronal selecteaz o anumit

aciune optim, in loc de a face asocierea diferitelor aciuni cu diferii stimuli.

2. nvarea ntrit asociativ - mediul nconjurtor.

Pune la dispoziie informaii adiionale, altele dect semnalul de ntrire, prin care o

relaie de forma stimul-aciune trebuie nvat.

2.5.4 nvarea hebbian

Muli dintre algortmi de instruire pot fi considerai ca avndu-i originea n

modelul de nvare propus de ctre Donald Hebb(1949). Acest mecanism este un

model al schimbrilor conexiuilor sinaptice dintre celulele nervoase. Considerm o

pereche de celule ale creierului ntre care exist o legtur sinaptic.

Conform modelului lui Hebb intensitatea conexiuni sinaptice dintre doi neuroni

(ponderea conexiunii) crete de cte ori aceti neuroni sunt activai simultan de un

stimul al mediului. Acest mecansim este cunoscut ca regula de nvare Hebb.

27

Daca este activarea neuronului i i exist o legtur sinaptic ntre

neuronii i i j, atunci in concordan cu legea lui Hebb, intensitatea conexiunii lor

sinaptice este afectat de cantitatea:

,

unde c este un coeficient de proporionalitate adecvat ce reprezint constanta de

instruire.

Aceast lege apare ca natural n muli algoritmi de nvare. n plus exist argumente

neuro-biologice care sprijin ipoteza c stimulii mediului cauzeaz modificri

sinaptice.

Acest mecanism este un model de nvare nesupervizat n care drumurile

neuronale des utilizate sunt intensificate (ntrite).

Acest model poate explica fenomenele de obinuin i de nvare prin

repetare. O reea neuronal artificial ce folosete nvarea hebbian va determina o

cretere a ponderilor reelei cu o cantitate proportional cu produsul nivelelor de

excitare ale neuronilor. Fie (n) ponderea conexiunii de la neuronal i la neuronul

j nainte de ajustare i (n+1) ponderea acestei conexiuni dup ajustare.

Legea de nvare Hebb se va scrie n acest caz sub forma:

(n+1)= (n)+ ,

unde: - ieirea neuronului i(intrarea neuronului j)

este ieirea neuronului j.

O variant a acestei legi de nvare este legea hebbian a semnalului. n

concordan cu aceast lege modificarea ponderilor este dat de:

(n+1)= (n)+ ( ) * ( ),

unde S este o funcie sigmoidal.

28

Considernd diferite forme ale funciei de activare S se pot obine diferite

variante ale legii de nvare de mai sus.

MEDIUL NCONJURTOR

ELEMENT DENVARE

ELEMENT DENVARE

ELEMENT DENVARE

CRITIC

ACIUNI

NTRIRE EURISTIC

SISTEM DE NVARE

NTRIRE PRIMAR

2.5.5 Reprezentarea cunoaterii

O problem important n studiul mainilor instruibile este stabilirea unei

metode de nregistrare a ceea ce a fost nvat. n metodele conexioniste nu exist nu

exist un sistem de reprezentare separat de cel de nvare. n aceste sisteme

reprezentarea cunoaterii const dintr-o reea, ponderile conexiunilor i interpretrile

semnatice ataate neuronilor i strilor. De exemplu, intr-un context medical am putea

identifica un neuron cu o anumit boal. Activarea (starea) 1 a neuronului poate

indica prezena bolii, activare -1 absena bolii si 0 lipsa unei cunoaterii privind

prezena sau absena bolii.

Alt aspect important al modelelor conexioniste este c atunci cnd neuronii

calculeaz activrile lor se consider activrile a foarte muli ali neuroni. Putem

29

considera modelele conexioniste ca modele cu deschidere larg. Ele se situeaz pe o

poziie contrstant fa de modelele ultra-simplificate.

Modelele conexioniste fac fa zgomotelor i redundanei deoarece au un numr foarte

mare de elemente la primul nivel computaional i, uneori, un numr mare de elemente

de calcul intermediare(neuroni ascuni).

2.5.6 Algoritmi de nvare bazai pe corecia erorii

Fie x(n) vectorul de intrare aplicat unei reele neuronale. Dac se noteaz ieirea

neuronului k prin (n), semnalul de eroare poate fi definit ca fiind diferena dintre

ieirea dorit pentru neuronul k i ceea ce furnizeaz n etapa actual de ctre acelai

neuron:

(n) = (n)- (n)

Scopul final al algoritmilor bazai pe corecia erorii este de a minimiza aa-

numita funcie de cost. Unul dintre criteriile frecvent utilizate n alegerea funciei cost

este cel al erorii ptratice medii, care urmrete minimizarea valorii medii ptratice

pentru suma erorilor ptratice aferente stratului de ieire a reelei neuronale:

J = E[

(n)

n care E[.] semnific media in sens statistic.

Una din metodele de minimizare a funciei cost J n raport cu parametrii

reelei neuronale este metoda gradientului descendent.

De cele mai multe ori proprietile statistice ale procesului nu sunt cunoscute.

n acest caz se ofer o soluie aproximativ pentru problema de optimizare, prin

utlilizarea drept funcie de cost a valorii instantanee a sumei erorilor ptratice:

(n) =

(n)

O metod n acest sens o ofer Widrow i Hoff i anume regula Delta:

30

(n) = -

= ( )(

) = ( ) ( )

n care reprezint rata de nvare a reelei neuronale.

Se poate desprinde idea conform creia minimizarea erorii unui neuron liniar

este mai uoar dect minimizarea unui neuron neliniar(sigmoidal). Doar pentru cazul

elementului linear eroarea are un minim global; n rest suprafaa erorii poate avea

minime locale.

Suprafaa erorii

Graficul aplicaiei J n funcie de ponderile reelei neuronale poart denumirea de

suprafaa erorii.

2.5.7 Algoritmi de nvare de tip Boltzman

Sunt inspirai din teoria informaiei i din termodinamic, neuronii constituind o

structur recurent caracterizat de aa-numita funcie energie:

E= -

unde reprezint starea neuronuluii, adic +1(neuron activ) sau -1 (neuron

inactiv).

31

Maina Boltzmann opereaz prin alegerea aleatoare a uni neuron i schimbarea

strii acestuia. Astfel schimbarea ponderilor se va face innd cont corelaiile dintre

starea neuronului i i cea a neuronului j.

2.5.8 Algoritmi de nvare de tip competitiv

Este caracterizat de competiia ntre neuronii din stratul de ieire a reelei

neuronale, ctigtorul acesteia urmnd sa fie activat. Spre deosebire de reelele

neuronale care se bazeaz pe algoritmi de nvare de tip hebbian i la care exist

posibilitatea ca mai muli neuroni s fie activi simultan, la reelele neuronale bazate pe

algoritmi de nvare de tip competitiv doar un singur neuron este activ la un moment

dat.

Practic, fiecare neuron al unei astfel de reele neuronale va deveni specializat, n

urma procesului de nvare, n recunoaterea unei anumite trsturi prezentat n

datele de intrare. Acest lucru este posibil avnd in vedere modalitatea de adaptare a

ponderilor:

= { ( )

Prin acesta ponderea a neuronului j, ctigtor al competiiei, se apropie i mai

mult de tiparul x prezentat la intrare.

32

CAP. 3. SERII CRONOLOGICE DE TIMP

3.1 CONSIDERAII TEORETICE

O serie de timp const ntr-o secven de observaii asupra unei variabile Y,

ordonate dup parametrul timp . Frecvent, msurtorile asupra variabilei sun efectuate

la intervale egale de timp, seria cronologic fiind prezentat sub forma:

Y: (

)

Seria de timp format cu valorile observate constituie o realizare a secvenei de

variabile aleatoare , adic a unui proces aleator (proces stochastic) de tip

discret.

Evoluia unwi variabile n timp este reprezentat printr-un proces aleator.

Procesul aleator de timp discret este o secven de valori aleatoare ( ) unde t

Z, ordonate dup parametrul timp. Pentru fiecare moment de timp t, este o variabil

aleatoare i dispunem de regul de o singur observaie relativ la aceasta.

Scopul analizei seriilor de timp const n nelegerea i modelarea

mecanismului de generare a termenilor serie; odat elaborat, modelul este utilizat

pentru obinerea de previziuni.

Previziunea reprezint inferena asupra variabilei, n afara perioadei observate. Notnd

previziunea variabilei Y efectuat la momentul T pentru orizontul de timp h.

Baza de date este utilizat pentru generarea de previziuni poate consta n:

Evoluia inregistrat de ctre o variabil n trecut, privind prezentul ca o funcie

de trecut:

( ) modele univariabile

Aceast abordare este adecvat atunci cnd este dificil de identificat

factorii ce explic comportamentul variabilei de previzionat sau este dificil de

33

cuantificat influena exercitat de ctre variabilele explicative. Dac, spre exemplu,

este previziunea PIB fr s ne ntrebm de ce aceasta a nregistrat o anumit valoare

atunci vom apela la aceast abordare:

( )

Serii de timp ce redau evoluia variabilei Y precum i a altor variabile

...., ce explic comportamentul acesteia: modele multivariabile (modele

explicative).

Modelele explicative pot fi utilizate n previziune dar i pentru testarea empiric i

simularea unor politici economice sau pentru luarea unor decizii.

O serie cronologic se prezint sun forma a dou iruri paralele cu valori numerice

corespondentele: componentele unui ir sunt momentele sau intervalele succesive de

timp, iar cellalt ir indic valorile inregistrate de fenomenul de analizat n aceste

uniti de timp. De exemplu: evoluia PIB pe ani, evoluia desfacerilor de mrfuri ctre

populaie pe trimestre, evoluia ratei inflaiei pe luni, evoluia zilnic a cursului de

schimb, etc.

ntre valorile individuale care compun seria cronologic exist diferene de

mrime explicate prin aciunea comun a factorilor eseniali i ntmpltori.

Modalitatea concret de combinare a influenei acestor factori difer in timp,

determinnd variabilitatea formelor individuale de manifestare n dinamic a

fenomenului analizat. Gradul de variabilitate a termenilor seriei cronologice depinde

de fora cu care factorii aleatori produc abateri, dar i tendina de variaie impus de

factorii cu aciune sistematic.

Dincolo de aceste variaii individuale, seriile cronologice sunt omogene

deoarece termenii seriei au n comun categoria economic sau social pe care o

reprezint n momente sau intervale succesive de timp.

Omogenitatea valorilor seriei este dat de faptul c acestea sunt supuse aciunii

sistematice a acelorai factori eseniali, iar termenii seriei cronologice sunt obinui

prin aceeai metodologie de calcul i folosesc aceeai unitate de msur.

n timp ce trsturile de omogenitate i variabilitate sunt commune tuturor seriilor

statistice, o caracteristic specific seriilor cronologice o reprezint periodicitatea

termenilor. Acest trstur exprim continuitatea datelor din punct de vedere al

34

variaiei timpului. Termenii seriei reprezint valori ale unui fenomen dinamic,

inregistrate la momente sau interval de timpde regul egale, astfel nct s se asigure

continuitatea seriei. n funcie de scopul concret al analizei efectuate, de natura

fenomenului nregistrat i de posibilitile de obinere a datelor, unitile de timp pot fi

mai mici sau mai mari: minut( de exemplu, pentru nregistrarea pierderilor zilnice de

timp de lucru sau a ntreruperilor n funcionarea utilajelor), or, zi, sptmn,

decad, lun, trimestru, semestru, an, deceniu secol.

Interdependena termenilor seriilor cronologice este detreminat de

modalitatea de construire a acestora prin nregistrarea nivelurilor succesive ale unui

fenomen pentru aceei unitate statistic precizat (persoan,firm,zon geografic,

ar, etc.). Din aceast cauz, orice termen al seriei depinde de nivelurile precedente i

influeneaz mrimile urmtoare ale termenilor seriei.

Baza de date trebuie s fie adecvat cantitativ i calitativ.

n analiza seriilor cronologice este necesar ca lungimea perioadei observate sa

fie suficient de lung pentru a face posibil estimarea unui model adecvat calitativ,

care s surprind mecanismul real de generare al fenomenului, respectiv s permit

identificarea unor componente ale evoluiei n pe termen lung. De regul se impune

utilizarea unor serii cronologice de cel puin 15 termeni, respectiv pentru serii

sezoniere este de dorit ca perioada observat s acopere cel puin cinci cicluri

sezoniere.

n acelai timp datele trebuie s rmn comparabile n timp. Condiiile n care

evolueaz fenomenul necesar s rmn n esen aceleai. Astfel, nu este indicat a se

utiliza n elaborarea de modele, serii cronologice ce acoper perioade de schimbri

economice sau politice majore, rzboi, sau alte evenimente excepionale; n analiza

evoluiei majoritii indicatorilor economici pentru tara noastr este indicat ca datele s

nceap dup anul 1989.

nainte de aplicarea tehnicilor specifice de analiz i previziune, dac este necesar, unii

indicatori vor fi exprimai n preuri comparabile.

Cnd se analizeaz spre exemplu evoluia cifrei de afaceri sau a indicatorilor

macroeconomici de rezultate i ne intereseaz evoluia datelor neafectate de

schimbrile de pre, este indicat a se exprima datele n preurile unui an baz de

35

comparaie, prin mprirea acestora la un indice adecvat al preurilor. De asemenea,

creterea n timp a unor variabile din economie se datoreaz n principal creterii

populaiei, astfel c n aceste situaii este mai util a se analiza evoluia variabilei per

cap de locuitor.

Atunci cnd cronograma indic prezena unor valori aberante, corespunztoare

unor greve, calamiti naturale sau altor evenimente punctuale, acestea vor fi nlocuite

cu valorile medii ce ar fi fost nregistrate n circumstane normale.

Frecvena msurtorilor este condiionat i de practic. Spre exemplu,

vnzrile unui magazin pot fi nregistrate zilnic, profitul poate fi observat lunar i / sau

anual respectiv indicele bursier la ncheierea zilei de cotaie. n general, acolo unde

sunt disponibile, poate fi util utilizarea unor date ct mai frecvente. Datele anuale nu

fac posibil observarea caracterului sezonier specific anumitor indicatori respectiv

modelarea unor dependene n care timpul de reacie al variabilei efect este scurt.

Atunci cnd elaborm previziuni, bazate pe metode statistice, pornim de la

ipoteza c fenomenul va continua s aib acelai comportament ca i n trecut. Este

important ca analistul s se ntrebe n ce msur aceast presupunere este realist,

respectiv s in seama de ateptrile sale. Se spune pe bun dreptate c previziunea

rmne n acelai timp tiin i art. Previziunea fenomenelor economice este o

sarcin relativ dificil, urmare a complexitii mediului economic. Abordrile

tradiionale sunt uneori subiective i prea simplificatoare, n timp ce metodele moderne

sunt mai riguros fundamentate teoretic dar sunt i mai complexe, necesitnd experien

i o intervenie activ a analistului.

Avnd in vedere aceste particulariti ale seriilor cronologice, analiza lor

trebuie precedat de verificarea comparabilitii valorilor individuale nregistrate

pentru fenomenul analizat. Pentru a asigura comparabilitatea termenilor seriei

cronologice este necesar ca datele:

s reflecte acelai fenomen;

s fie exprimate n aceeai unitate de msur;

s fie obinute prin aceeai metodologie de calcul;

s fie evaluate n aceleai preuri pentru indicatorii valorici.

36

3.2 Componentele unei serii de timp

n abordarea tradiional, fluctuaiile din seriile de timp sunt privite ca o

rezultant a suprapunerii urmtoarelor componente: tendina T, componenta ciclic

C, sezonier S, respectiv componenta reziduu sau eroare

( )

Primele trei componente sunt considerate deterministe, sistematice,

determinate de factori cu aciune continu asupra fenomenului, n timp ce componenta

rezidual are caracter aleator fiind efectul aciunii unor factori imprevizibili,

accidentali.

Modelul clasic de descompunere a seriilor de timp este de regul:

aditivi: = sau

multiplicativ: = respectiv

o combinaie mixt a componentelor seriei.

Deseori cele dou componente tendin-ciclu sunt tratate ca i o singur component,

ce surprinde evoluia pe termen lung, si se noteaza prin T, astfel ),,( tttt eroareESTfY .

n acest context, tehnicile de analiz a seriilor de timp au ca obiective:

separarea fiecrei componente i modelarea comportamentului su, respectiv

previziunea evoluiei fiecrei componente, iar apoi compunerea acestora n

scopul obinerii de previziuni privind evoluia fenomenului Y. Principiul de la baza

acestei tehnici este descompune pentru a modela iar apoi recompune.

Previziunile utiliznd modelul de descompunere se obin prin compunerea

previziunilor realizate pentru fiecare component determinist prezent n serie, innd

seama de forma modelului, aditiv respectiv multiplicativ:

SCTY respectiv SCTY .

Extrapolarea tendinei respectiv a celorlalte componente deterministe, conduce la

previziuni adecvate n condiiile n care:

- modelele estimate reuesc s surprind ceea ce este esenial, repetabil, n

comportamentul trecut al fenomenului respectiv

37

- comportamentul factorilor ce determin schimbrile n timp n nivelul

nregistrat de variabila Y rmne i pe viitor aproximativ acelai.

Extrapolarea este adecvat n principal pentru obinerea de previziuni pe termen scurt,

elaborndu-se de regul dou sau mai multe scenarii de evoluie.

Menionm deasemenea c uneori, n principal n econometrie unde variabilele

incluse inre-un model sunt n prealabil desezonalizate, este necesar eliminarea

componentei sezoniere din seria de timp, obinndu-se seria ajustat sezonier d:

S

Yd .

Componentele deterministe sunt dificil de definit.

Tendina sau tendina general red evoluia fenomenului pe termen lung,

avnd alura unor funcii neperiodice, lent variabile n timp. Factori cu aciune

permanent asupra fenomenului (ex. creterea populaiei, progresul tehnic, inflaia)

imprim, pe o perioad lung de timp, o tendin de regul cresctoare sau

descresctoare majoritii indicatorilor economici.

Un caz particular il constituie aici seriile de timp ce fluctueaza in jurul unei medii

constante (tendinta este orizontala, paralela cu axa OX); spunem ca aceste serii sunt

stationare, in medie)

Componenta ciclic este observabil analiznd evoluia fenomenului pe

termen lung, i se manifest sub forma unor oscilaii cu perioad i amplitudine ce

variaz de regul n timp, un ciclu acoperind civa ani de zile. Evoluiile ciclice apar

n principal urmare a ciclurilor economice sau a pulsaiilor din cererea unui produs,

componenta fiind prezent n evoluia unor indicatori macroeconomici de rezultate sau

din domeniul financiar dar i n alte domenii.

Componenta sezonier se evideniaz sub forma unor cicluri de durat mai

mic sau egal cu un an, i apare n principal datorit ritmului impus de schimbarea

anotimpurilor dar i de activiti economice respectiv sociale (regulariti n plata

salariilor, srbtori, vacane, obiceiuri, tradiii, etc.).

38

Componenta aleatoare sau rezidual se manifest prin fluctuaii aparent

aleatoare n jurul componentelor deterministe, fiind efectul aciunii unor factori cu

aciune punctual n timp, de tipul evenimentelor politice sau meteorologice.

Componenta aleatoare este prezent n toate seriile cronologice, n timp ce o serie

poate prezenta sau nu tendina, variaie ciclic sau sezonier. Evidenierea

componentelor deterministe este dependent i de perioada supus observrii respectiv

de frecvena observaiilor.

Deseori cronograma seriei i natura indicatorului sugereaz componentele prezente.

Componenta aleatoare nu trebuie ignorat deoarece conine informaii utile n

previziune.

3.3 Tipuri de serii cronologice

Exist mai multe tipuri de serii cronologice, difereniate n funcie de timpul la

care se prefer datele, modul de exprimare a indicatorilor, natura fenomenului

evideniat i numrul tremenilor.

1. n funcie de modul de definire a timpului, valorile individuale ale seriei

cronologice se raporteaz la un interval sau la un moment de timp.

Dup acest criteriu deosebim seriile de intervale de acele momente.

Seriile cronologice de intervale (de fluxuri) sunt formate din mrimi asociate

unor perioade de timp. Fiecare valoare individual reprezint rezultatul unui

proces care se desfoar pr un intervsl de timp . Exemple de serii

cronologice de intervale: investiiile lunare realizate de o anumit firm, cheltuielile

lunare de consum a populaiei, profiturile trimestriale ale unei societi comerciale,

desfacerile zilnice de mrfuri ale unei uniti comerciale sau valoarea tranzaciilor

lunare la burs.

39

Valoarea medie a tranzaciilor ncheiate la Bursa de Valori Bucureti

n anul 2002

Luna ianuarie februarie martie aprilie mai iunie iulie august

Tranzacii

(mld. lei)

11,2

11,1

9,8

23

24,2

20,8

15,3

18,8

Serie cronologic de intervale

t1 t2 t(n-1)...................

y1 y2 y(n-1)

O proprietate important a seriilor cronologice de interval o reprezint

posibilitatea nsumrii valorilor ; n acest fel se obine un indicator totalizator pentru

ntreaga perioad de timp considerat .

De exemplu, prin nsumarea desfacerilor zilnice se obine desfacerea total

lunar, prin cumularea produciilor lunare se determin producia anual.

3.3.1 Seriile cronologice de momente (de stocuri) cuprind mrimi care se

refer la anumite momente de timp.

Fiecare valoare individual caracterizeaz nivelul la care a ajuns fenomenul

considerat n momentul de timp .

t1 t2 t(n-1)...................

y1 y2 y(n-1)

tn

yn

40

De exemplu: stocul de materii prime sau de produse finite al unei firme la

nceputul fiecrei luni, numrul personalului muncitor la sfritului fiecrui trimestru,

capitalul fix n funciune la sfritul anului, volumul depozitelor bancare la sfritul

semestrului sau valoarea indicelui BET n anul 2002, la sfritul lunii:

Valoarea medie a tranzaciilor ncheiate la Bursa de Valori Bucureti

la sfritul lunii

Luna ianuarie februarie martie aprilie mai iunie iulie august

Indicele

BET

(puncte)

778,6

807,4

879,8

1184,8

1260,6

1304

1260

1313

Nu are sens cumularea valorilor seriilor cronologice de momente deoarreflectn mod

repetat, elemente care coexist n momente diferite de timp. De exemplu, n numrul

salariailor unei ntreprinderi la data de 31 mai se regsete cea mai mare parte sat tot

personalul existent la 30 aprilie; stocul de produse finite la nceputul unei luni poate

include o mare parte din produsele finite existente n depozitul unitii la nceputul

lunii anterioare; majoritatea capitalului fix al unei ntreprinderi reprezint o

component stabil regsit la fiecare din inventarierile anuale,etc.

n cazul seriilor cronologice de momente, pentru a caracteriza seria n ansamblu se pot

calcula indicatorii medii pe o perioad de timp: numrul mediu de personal, stocul

mediu de produse finite, valoarea medie a capitalului fix, etc.

1. n funcie de modul de exprimare a termenilor seriei deosebim serii cronologice

formate din indicatori absolui, relativi sau medii.

3.3.2 Seriile cronologice formate din indicatorii absolui reprezint situaia

cemai frecvent ntlnit. Fiecare termen al seriei este n acest caz o mrime absolut

exprimat n uniti concrete de msur. De exemplu: producia zilnic a unei secii (n

41

uniti fizice sau valorice), ncasrile lunare ale unui magazin, valoarea creditelor

anuale acordate de o banc, etc.

3.3.3 Seriile cronologice formate din indicatorii relativi se exprim procentual

sau sub form de coeficieni. Termenii acestor serii reprezint mrimi relative de

structur, de coordonare, de intensitate sau de dinamic. De exemplu: dinamica actual

a PIB(%), ponderea populaiei ocupate in agricultur(%), cursul zilnic al

dolarului(lei/$) sau raportul dobnd activ-dobnd pasiv ntr-o perioad de timp.

Baza de raportare trebuie s fie intotdeauna precizat.

3.3.4 Seriile cronologice formate din indicatorii medii se caracterizeaz prin

accea c termenii seriei sunt calculai ca valori medii. Acesta este o modalitate de

prezentare a evoluiei in timp a unor indicatori de moment(transformai n indicatori de

intervale prin calcularea nivelului mediu pe fiecare interval ntre dou momente

succesive) sau a unor caracteristici calitative. De exemplu: stocurile medii de

materiale, mrfuri sau produse finite, productivitatea media a muncii, salariul mediu,

numrul mediu de salariai, etc.

Dup numrul termenilor pe care ii conin, seriile cronologice pot fi de

lungime mic, medie sau mare.

Analiza seriilor cronologice urmrete frecvent s caracterizeze modul n care a

evoluat un fenomen ntr-o perioad anterioar, n vederea prognozei evoluiei sale

probabile n viitor. Atingerea acestui scop presupune parcurgerea ctorva etape:

constituirea seriei cronologice;

prelucrarea termenilor seriei cronologice i obinerea indicatorilor statistici

absolui, relativi i medii;

aplicarea metodei ajustrii termenilor seriei cronologice n funcie de timp

pentru determinarea tendinei pe termen lung;

determinarea influenei factorilor sezonieri i analiza fenomenelor cu caracter

ciclic;

estimarea valorilor probabile pentru perioada urmtoare(prin metoda

extrapolrii).

42

Desfurarea acestor etape de calcul i analiz prezint particulariti n funcie

de tipul seriei cronologice.

Indicatori absolui

Indicatorii absolui ai unei serii cronologice de interval exprim nivelul,

volumul agreat i modificrile(n mrime absolut) fenomenului snslizst n perioade

diferite de timp. Indicatorii absolui se exprim n unitatea de msur a caracteristicii

analizate(n uniti fizice, valorice, procente, etc.)

1. Valorile individuale absolute ale caracteristicii redau nivelul al

fenomenului analizat n fiecare interval de timp .

2. Volumul agregat (nivelul totalizat) reprezint suma termenilor seriei

cronologice de interval.

3. Modificarea absolut (sporul sau scderea absolut) reflect creterea sau

descreterea absolut (n uniti concrete de msur) a valorilor individuale ale

fenomenului analizat, de la o perioad de timp la alta. Se calculeaz ca diferena ntre

doi termeni ai seriei. n funcie de perioada aleas ca baz de comparative (constant

sau variabil), exist dou forme ale acestui indicator:

modificarea absolut cu baz fix reprezint distana (diferena) fiecrui

termen al seriei fa de o perioad fix de referin:

unde orice termen al seriei cronologice (de regul primul).

modificarea absolut cu baz n lan se calculeaz ca diferena ntre doi

tremeni succesivi ai seriei cronologice:

43

Se exprim n unitile de msur ale caracteristicii. Valorile pozitive ale

acestor indicatori semnific sporuri (creteri, fa de perioada aleas ca baz de

comparaie), iar valorile negative scderi(deficit).

n cazul modificrii absolute cu baz fix este important alegerea unei baze de

comparaie convenabile, reprezentative pentru fenomenul dat i care s nu influenat

de variaii conjucturale majore. Frecvent, se alege ca baz de comparaie primul

termen al seriei (nceputul perioadei de timp analizate) sau ultimul termen al perioadei

anterioare.

Prin nsumarea tuturor modificrilor absolute cu baz n lan se obine:

ntre modificrile cu baz in lan exist relaia:

care permite trecerea de la un tip de modificare absolut la cellalt atunci cnd nu se

cunosc nivelurile absolute ale termenilor seriei.

Indicatori relativi

Aceti indicatori se calculeaz sub form de raport i reflect proporia dintre

nivelurile absolute ale termenilor seriei cronologice de interval. Permit analiza

comparative a evoluiei unor fenomene diferite.

Indicele de dinamic este o mrime relativ care arat de cte ori s-a modificat

mrimea unui fenomen n timp. Se calculeaz ca raport ntre doi termeni diferii ai

seriei cronologice.

n funcie de alegerea unei baze de raportare constante sau variabile, se poate

determina indicele cu baz fix sau cu baz n lan:

indici cu baz fix se calculeaz ca raport ntre nivelul caracteristicii n fiecare

perioad t i nivelul acesteia ntr-o perioad fix considerat baz de referin,

conform relaiei:

44

, t=2,n

indicele cu baz n lan compar sub form de raport dou niveluri succesive

ale caracteristicii:

, t=2,n

Se exprim in procente.

Valori mai mari de 100% ale acestor indicatori arat creteri fa de perioada baz de

comparaie. Valorile sub 100% semnific scdere, reducere.

Produsul tuturor indicilor cu baz n lan este:

ntre indicii cu baz n lan exist relaia:

Ritmul de dinamic (de cretere sau scdere), numit i ritmul modificrii arat cu

ct s-a modificat procentual (a crescut sau a sczut) mrimea fenomenului ntr-o

anumit perioad de timp fa de o perioad de referin fix sau mobil. Se determin

ca raport ntre modificarea absolut (cu baz fix sau n lan) i nivelul fenomenului n

perioada aleas ca termen de comparaie. Are dou forme de calcul: ritmul de baz

fix i ritmul cu baz in lan.

Ritmul modificrii cu baz fix se calculeaz ca raport ntre modificarea

absolut cu baz fix i nivelul inregistrat n perioada de baz:

*100 = ( )

Ritmul modificrii cu baz n lan se calculeaz ca raport ntre modificarea

absolut cu baz n lan i baza de comparaie respectiv:

45

*100 = ( )

Se exprim in procente.

Nu exist o relaie direct de trecere de la ritmurile cu baz fix la cele cu baz lan sau

invers. Aceast problem poate fi rezolvat numai dup trecerea la indicii de dinamic.

Valoarea absolut a unui procent de cretere sau de scdere arat mrimea

absolut a modificrii ce revine pe o unitate (un procent) din ritmul dinamicii. Se

calculeaz sub forma unui raport ntre modificarea absolut i ritmul modificrii i se

exprim n unitatea de msur a caracteristicii.

Acest indicator face legtura dintre indicatorii absolui i cei relativi: arat cte

uniti din modificarea absolut a fenomenului analizat i revin la un procent din

ritmul modificrii pe o anumit perioad de timp. Aadar indicatorul ofer valoarea

absolut a unui procent de modificare(cretere sau scdere).

Variante de calcul: cu baz fix i baz mobil (n lan).

Valoarea absolut a unui procent de modificare cu baz fix este:

Are aceeai valoare pentru ntreaga perioad analizat.

Valoarea absolut a unui proces de modificare cu baz n lan este:

46

Indicatori medii

Spre deosebire de indicatorii absolui sau relativi, care se determin sub forma

unui ir de valori care arat variabilitatea termenilor seriei cronologice de intervale,

indicatorii medii ofer o msur sintetic a tendinei de evoluie a ntregii serii.

Se pot calcula att medii de nivel, cum sunt media termenilor seriei i media

modificrilor absolute, ct i medii de dinamic: indicele mediu i ritmul mediu.

Nivelul mediu al termenilor seriei cronologice de intervale se calculeaz sub

forma mediei aritmetice simple a tuturor termenilor seriei cronologice analizate:

unde: n-numrul termenilor seriei.

Modificarea medie absolut este media aritmetic simpl a modificrilor

absolute cu baz in lan:

unde: n-1 - numrul modificrilor absolute cu baz n lan.

Deoarece:

Rezult o formul direct de calcul a modificrii medii absolute:

Indicatorul arat cu ct crete/descrete fenomenul in medie (n valoare absolut) de la

o perioad la alta.

Calcularea acestui indicator are sens atunci cnd modificrile absolute cu baz

n lan nu difer prea mult ca mrime.

Modificarea medie absolut poart numele de spor mediu, dac este calculat

pentru un fenomen cu tendin de cretere. n caz contrar este vorba de scdere medie.

47

Indicele de dinamic se calculeaz ca medie geometric simpl a indicilor de

dinamic cu baz n lan, conform relaiei:

unde: n-1 numrul indicilor de baz n lan

.

Indicele mediu de dinamic arat de cte ori s-a modificat (a crescut sau a sczut) n

medie fenomenul analizat pe ntreaga perioad luat in calcul. Valoarea rezultat din

calcul este semnificativ ndeosebi pentru fenomenele care evolueaz n progresie

aritmetic (indicii de baz n lan au valori apropiate ntre ele).

Valori mai amri de 100% ale acestui indicator arat tendina de cretere a fenomenului

analizat. Valori mai mici de 100% corespund unei scderi pe ansamblul perioadei

considerate.

Ritmul mediu de dinamic se determin prin intermediul relaiei:

i arat cu cte procente se modific n medie fenomenul analizat pe ntreaga perioad

analizat.

Aceti indicatori impun exigenele comune ale tuturor indicatoriilor medii. Ei nu sunt

reprezentativi pentru seriile cronologice cu un numr mare de termeni i cu oscilaii

mari. n cazul seriilor cu un nivel sczut de omogenitate se recomand separarea seriei

pe subperioade care pot fi analizate independent.

48

CAP. 4. PROIECTAREA APLICAIEI

4.1 SPECIFICAREA CERINELOR

Scopul lucrrii este realizarea unei aplicaii capabil sa fac predicia asupra a

dou serii de timp.

Datele reprezint nivelurile izotopului de oxiden din ultimii 3000 de ani

Prima serie de timp este format din datele originale, fr date eronate, iar a doua serie

este format din date alterate intenionat pentru a testa capabilitatea reelei neuronale

de a rspunde cu ct mai mult acuratee asupra datelor alterate.

Seria de date este format din dou secvene, secvena timp i respectiv

secvena val.

Prima secven reprezint timpul, iar a doua serie valori corespunztoare

timpului

n momentul de fa reelele neuronale au o mare aplicabilitate, una dintre ele este

aceea de predictor de semnale sau de serii de date.

Seriile de date sunt formate din 866 date

Intrarea in reeaua neuronal este reprezentat de seria de timp fomat din

cele dou secvene de cte 866 intrri (secvena timp i respectiv secvena

val).

Analiznd datele am ajuns la concluzia c reelele neuronale sunt potrivite

pentru a face predicii de serii de timp.

Pentru a realiza reeaua neuronal este necesar parcurgerea urmtorilor pai:

Stabilirea obiectivului prediciei: n cazul de fa predicia unor serii de

timp.

Colectarea datelor de intrare necesare procesului.

Alegerea unei metode de realizare a prediciei avnd in vedere datele

disponibile.

49

Pregtirea datelor i normalizarea acestora pentru reeaua neuronal.

Parcurgerea procesului de nvare a reelei.

Evaluarea acurateei reelei pentru a compara ieirea reelei neuronale cu datele

reale. Cu ajutorul acestei etape vom putea alege cea mai bun metod de realizare a

prediciei.

DATE DE INTRARE(load)

REEA NEURONAL

TESTARE TRENRII- PE BAZA AN (sim)- (train)ANTRENARE

PREDICIE(output)

4.2 ANALIZA CERINELOR

Pentru realizarea unei astfel de aplicaii, vom dezvolta reeaua neuronal, pe

care o vom antrena , testa i pentru a o utiliza ulterior in procesul de predicie.

4.2.1 PROIECTAREA REELEI NEURONALE

Datorit faptului c datele ce trebuiesc reprezentate nu sunt dispuse liniar, ca

tip de reea neuronal vom folosi aa numitele reele neuronale NARXNET.

NARXNET reprezint o reea neuronal dinamic, neliniar, recurent i autoregresiv

cu conexiuni de feedback de la ieirea reelei ctre intrarea reelei

Ecuaia care definete reeaua neuronal NARXNET este urmtoarea:

y(t) = f(y(t-1),y(t-2),....,y(t- ),u(t-1),u(t-2),...,u(t- ))

Acest tip de reea neuronal este alctuit din:

Un strat de intrare.

Un strat ascuns .

50

Un strat de ieire.

Tipologia unei astfel de reele se bazeaz pe modelul reelelor feedforward bazat pe o

paradigm de nvare supervizat. Ca i algoritm de antrenare este folosit algoritmul

Levenberg-Marquardt (trainlm) . iar ca funcie de activare este utilizat funcia

sigmoidal.

Reeaua neuronal o putem privi ca un sistem de calcul care genereaz anumite

valori ca rspuns la un set de date de intrare.

4.2.2 REELELE NEURONALE DE TIP NARXNET.

Aceste tipuri de reele neuronale au o arhitectur mai special fa de alte

reele neuronale. n cadrul stratului de intrare nu se efectueaz nici un fel de

prelucrare, rolul acestuia fiind de a trasnmite mai departe, primului strat ascuns datele

multiplexate.

NARXNET reprezint o reea neuronal dinamic, neliniar, recurent i autoregresiv

cu conexiuni de feedback.

Ecuaia care definete reeaua neuronal NARXNET este urmtoarea:

y(t) = f(y(t-1),y(t-2),....,y(t- ),u(t-1),u(t-2),...,u(t- ))

unde valoarea urmtoare a unui semnal de ieire dependent y(t) este regresat pe o

valoare anterioar al semnalului de ieire.

Reelele neuronale NARXNET au multe aplicaii. Cele mai importante aplicaii

sunt:

Predicii de semnale.

Filtarea semnalelor, n care ierea reelei o va reprezenta semnalul filtrat (fr

zgomot).

Modelarea sistemelor dinamice neliniare.

n cadrul acestor reele neuronale se disting dou tipuri de arhitecturi:

Arhitectura serial-paralel (open-loop)

Arhitectura paralel (close-loop)

51

Mai jos sunt prezentate cele dou tipuri de arhitecturi.

n cadrul arhitecurii (open-loop), voi antrena i testa reeaua neuronal, iar in cadrul

arhitecturii(close-loop) voi face predicii, reeaua neuronal folosind datele dup

simularea reelei n modul open-loop.

T

DL

T

DL

u(t)

y(t)

T

DL

T

DL

u(t)

y(t)REEA NEURONALFEED

FORWARD

ARHITECTURA PARALEL

TDL

TD

L

u(t)

y(t)

y(t)

TDL

TD

L

u(t)

y(t)

y(t)REEA NEURONALFEED

FORWARD

ARHITECTURA PARALELSERIAL-

52

4.2.3 IDENTIFICAREA PRINCIPALELOR ENTITI

n cadrul aplicaiei se disting urmtoarele entiti:

Reeaua neuronal

Datele de intrare

Algoritmul de nvare

Parametrii de nvare

Rezultatul (ieirea reelei neuronale)

Odat cu existena datelor de antrenament se poate ncepe procesul de antrenare ce

presupune proiectarea reelei neuronale, setare unor parametrii pentru algortimul de

nvare i mai apoi aplicarea repetitiv a unui algoritm de nvare n vederea

obinerea unui rezultat.

Partea de testare a reelei neuronale implic existena unei reele neuronale i a unui

algoritm de testare i in final afiarea rezultatelor. Aici avem de a face cu urmtoarele

entiti:

Reeaua neuronal antrenat.

Algortimul de testare

Afiarea rezultatelor.

53

REEAUA NEURONAL

utilizeazutilizeaz

utilizeaz

utilizeaz

furnizeaz

Parametrii denvare

Date deintrare

Algoritm deinvare

Rezultat

Relaia dintre entiti

Reea Neuronal Antrenat

Algoritm de testare

Rezultat

Funcii deafiareGrafic

utilizeaz furnizeaz

utilizeaz

furnizeaz

Relaia dintre entiti

54

CAP. 5. IMPLEMENTAREA APLICAIEI

5.1 STRUCTURA APLICAIEI

Mai jos v prezint funciile, respectiv datele pe care le-am folosit n

implementarea aplicaiei.

Folosind funcia load() am ncrcat datele n mediul

Matlab. Aceast funcie va primi ca parametru cele dou serii

de timp.

Pentru ca avem de-a face cu vectori secveniali aplicai

reelei neuronale, pentru amandou intrri la un moment dat,

am aplicat, cte o ntrziere pentru fiecare intrare, att pentru

timp ct i pentru valorile corespunztoare.

Al treilea parametru pe care l primete reeaua neuronal

este reprezentat de numrul de neuroni. n aplicaie am

folosit un numr diferit de neuroni pentru a observa

comportamentului reelei neuronale.

Functia net.trainParam reprezint gradientul minim de

performan, care n cazul meu este setat la valoare 1e-10.

Cu ajutorul funciei view(), care primete ca parametru

reeaua mea neuronal, putem vizualiza structura reelei

neuronale att n modul openloop ct i n modul

closeloop;

Funcia preparets imi formateaz i normalizeaz datele,

intrrile i ieirile ntr-un mod accesibil pentru reeaua

neuronal. Aceast funcie primete patru parametrii. Primul

parametru l reprezint l reprezint reeaua neuronal, al

doilea parametru intrrile n reeaua neuronal care nu o s

aib feedback ctre intrrile in reeaua neuronal cnd se va

55

trece in modul closeloop, n cazul meu aceast intrare este

reprezentat de valorile pe care o s le aib reeaua neuronal

la momentele respective. Cel de-al patrulea parametru este

prezentat de parametrul feedback, care n modul closeloop

va deveni din ieirea reelei neuronale n intrarea reelei

neuronale, el reprezentnd feedback-ul reelei neuronale, iar

cel de-al treilea l reprezint vectorul fr feedback.

Parametrii funciei preparets vor fi returnai sub forma unui

vector de patru valori care reprezint: prima valoarea o

reprezint prima intrare deplasat, al doilea i al treilea

parametru este reprezentat de delay-urile iniiale ale intrrilor

respectiv ale straturilor reelei neuronale.

Folosind funcia train(), antrenez reeaua neuronal.

Aceast funcie primete patru parametrii. Primul parametru

este reprezentat de reeaua mea neuronal, iar cel de-al doilea

i al intrrile in reeaua neuronal, al treilea parametru

ieirile-int, iar cel de-al patrulea parametru ntrzierile

aplicate intrrilor.

Cu ajutorul funciei sim() testez reeaua neuronal pe baza

datelor de antrenament. Aceast funcie primete trei

parametrii. Primul parametru este reeaua neuronal, al doilea

parametru iar cel de-al doilea i al intrrile in reeaua

neuronal, respectiv ntrzierile aplicate reelei neuronale.

Folosind funcia plot() afiez eroare de antrenare a reelei

neuronale.

Cu ajutorul funciei closeloop se va face predicia pe baza

feedback-ului reelei neuronale.

Am fcut predicia pe intervalul [100:110] al seriilor de timp,

folosind numr diferii de neuroni. Am folosit aceleai funcii

56

enumerate mai sus, cu diferena c, intrrile n reeaua

neuronal vor fi setul de valori din intrevalul [100:110] al

seriilor de timp.

Folosind funcia plot() am afiat rezultatul estimrii pe

intrevalul [100:110] al fiecrei serii de timp.

Proiectarea reelei neuronale descrise mai sus este realizat in programul

Matlab v. 8.1. Pentru a realiza o predicie, prima dat se citesc datele, n cazul

nostru seriile de timp. Voi antrena reeaua neuronal dup care voi testa

rspunsul ei. Aceste dou operaii de antrenare i simulare au loc n cadrul

arhitecturii openloop a reelei neuronale. Predicia propriu-zis are loc n

cadrul arhitecturii closeloop.

Prima dat am folosit prima serie de date, pentru antrenare, testare i

predicie, iar dup aceea vom antrena reeaua cu al doilea set de date care este

intenionat alterat, pentru a testa rspunsul reelei neuronale la acel set de date.

Pentru fiecare set de date am folosit o reea neuronal format din 5, 10,

20, 50 respectiv 100 de neuroni, pentru a experimenta cu numr diferii de

neuroni, i pentru a vedea comportamentul reelei neuronale la aplicarea celor

dou serii de timp.

5.2 NCRCAREA I NORMALIZAREA DATELOR

Am folosit funcia load() pentru a ncrca datele in mediul Matlab.. Se va

aplica o ntrziere celor dou intrri n reeaua neuronal din cauza vectorilor

secveniali care se vor aplica reelei neuronale.

Folosind funcia preparets(), reeaua neuronal normalizeaz i reformateaz att

intrrile ct i ieirea reelei neuronale.

57

5.3 PROCESUL DE ANTRENARE

Dup ncrcarea, convertirea i normalizarea datelor are loc procesul de

antrenare a reelei neuronale.

La apelarea funciei narxnet() se va creea o reea neuronal. Acest funcie va

primi ca parametrii, cele dou ntrzieri aplicate celor dou intrri, i numrul de

neuroni.

Algoritmul de antrenare trainlm (Levenberg-Marquardt) este cel mai rapid algoritm

de antrenare de tip backpropagation. De asemenea acest algoritm consum puin

memorie. Ca parametru stabilit pentru acest algoritm este net.trainParam.min_grad =

1e-10 care reprezint gradientul minim de performan.

Fereastra de antrenare a reelei neuronale

5.4 VALIDAREA DATELOR

Utiliznd funcia sim() putem testa raspunsul reelei pe baza procesului de

antrenare.

58

Eroarea dup procesul de antrenare

5.5 TESTAREA REELEI NEURONALE PE UN ANUMIT INTERVAL

DIN SERIA DE TIMP.

Dup cum am mai spus am antrenat, i testat reeaua neuronal cu dou serii de

timp. Prima serie este format din 866 valori nealterate, iar cea de-a doua serie de timp

este format tot din 866 valori.

Mai jos v prezint diferena dintre cele doua arhitecturi ale reelei neuronale, si

anume open-loop unde am antrenat reeaua neuronal i am validat rspunsul ei pe

baza datelor de antrenament, i closeloop unde am testat propriu-zis reeaua

neuronal, fcnd o predicie pe un interval de valori din setul de antrenament i

anume n intervalul [100-110] al seriei de timp.

59

Arhitectura open-loop a reelei neuronale

Arhitectura close-loop a reelei neuronale

Cu ajutorul funciei plot() am afiat rezultatele reelei neuronale n intrevalul

de valori [1000-2000] pentru fiecare serie de timp.

Linia roie reprezint estimarea reelei neuronale, iar linia verde poziia corect,

pentru fiecare serie de date.

60

Fereastra de afiare a rezultatului prediciei

61

CAP. 6. REZULTATE EXPERIMENTALE

Reea neuronal NARXNET format din 5 neuroni, testat i simulat cu

prima serie de timp

Antrenarea reelei neuronale


62

Rspuns serie timp

Arhitectura reelei neuronale in cadrul configuraiei paralele(closeloop)

Arhitectura reelei neuronale in cadrul configuraiei serial-paralele(open-

loop)

63

Rezultate estimare n intervalul [100:110] a seriei de timp

(linia roie reprezint estimarea reelei neuronale, iar linia verde poziia

corect)

Reea neuronal NARXNET format din 5 neuroni, testat i simulat cu a

doua serie de timp


64


Rspuns serie de timp

65



corect)


a prima serie de timp


66



67


loop)




corect)

68


a doua serie de timp



69




corect)

70


a prima serie de timp



71




loop)

72



corect)




73



74




corect)


prima serie de timp


75

Eroare de antrenare


76


loop)


Rezultate estimare n intervalul [100:110] a seriei de timp (linia roie

reprezint estimarea reelei neuronale, iar linia verde poziia corect)

77





78




corect)

79

Reea neuronal NARXNET format din 100 neuroni, testat i simulat

cu prima serie de timp



80


Arhitectura reelei neuronale in cadrul configuraiei serial-

paralele(open-loop)


81



corect)

Reea neuronal NARXNET format din 100 neuroni, testat i simulat

cu a doua serie de timp


82



83



corect)

84

CAP.6 CONCLUZII I PERSPECTIVE

Dup cum s-a putut observa, lucrarea const n studierea reelelor neuronale

avnd numr diferii de neuroni i experimentnd cu date de antrenare originale,

nealterate, iar dup aceea experimentnd cu o serie de timp care are date eronate.

Dup cum s-a putut observa reeaua neuronal, a rspuns cu o acuratee mic la

datele de antrenament eronate i respectiv la rezultatelor reelei neuronale.

Cu ct intervalul de timp pe care se face estimarea propriu-zis crete cu att

crete i eroare reelei neuronale.

Notabil este acurateea reelei neuronale de predicie pe baza seriei de timp

nealterate care se apropie foarte mult de rezultatele corecte

Odat cu creterea numrului de neuroni, a durat mai mult timp ca reeaua

neuronal s se antreneze pe baza datelor de antrenament.

Aceast reea meuronal se preteaz pentru orice serie de date, din orice

domeniu(economie, statistic, inginerie) , serie care sa aib cele dou componente:

evoluia unei anumite valori pe baza factorului timp.

Ca o perspectiv de viitor a meniona imbuntirea reelelor neuronale i a

algoritmilor de antrenare, pentru a imbunti rezultatele reelei neuronale.

Acest tip de reele neuronale i anume NARXNET se pot utiliza cu succes prediciei

unor serii de timp din diferite domenii.

licenta rna

Documents