de la perceptron la deep learning - babeș-bolyai...

De la Perceptron la Deep

Learning Gabriel Mircea

Neuron ~ Perceptron

Perceptron

- clasificator liniar

- ajusteaza o functie liniara pentru a

imparti un set de entitati in doua

clase

- functioneaza bine pe seturi care

contin entitati cu proprietati liniar

separabile

Perceptron - limitari

- nu reuseste sa gaseasca solutia

pentru seturi cu proprietati

neseparabile liniar

- exemplu : XOR

- pentru a rezolva aceste probleme

trebuie corelati mai multi

perceptroni => Multi Layer

Perceptron (MLP)

XOR - Solutie : Multi Layer Perceptron

Sistem nervos ~ Retea Neuronala (MLP)

Retea Neuronala

- primeste date prin input layer

- rezolva probleme de

- clasificare

- regresie (vezi imaginea)

- rezolva probleme neseparabile

liniar cu ajutorul mecanismului de

propagare inapoi a erorilor

(backpropagation)

Backpropagation

- recalcularea ponderilor pentru a

reduce erorile

- se realizeaza cu ajutorul tehnicii :

gradient descent

Backpropagation: Gradient descent

Retele neuronale clasice - limitari / alternative

Deep Neural Network

Deep Neural Network - exemplu

Overfitting

Neural Networks At Work