de la perceptron la deep learning - babeș-bolyai...
TRANSCRIPT
De la Perceptron la Deep
Learning Gabriel Mircea
Neuron ~ Perceptron
Perceptron
- clasificator liniar
- ajusteaza o functie liniara pentru a
imparti un set de entitati in doua
clase
- functioneaza bine pe seturi care
contin entitati cu proprietati liniar
separabile
Perceptron - limitari
- nu reuseste sa gaseasca solutia
pentru seturi cu proprietati
neseparabile liniar
- exemplu : XOR
- pentru a rezolva aceste probleme
trebuie corelati mai multi
perceptroni => Multi Layer
Perceptron (MLP)
XOR - Solutie : Multi Layer Perceptron
Sistem nervos ~ Retea Neuronala (MLP)
Retea Neuronala
- primeste date prin input layer
- rezolva probleme de
- clasificare
- regresie (vezi imaginea)
- rezolva probleme neseparabile
liniar cu ajutorul mecanismului de
propagare inapoi a erorilor
(backpropagation)
Backpropagation
- recalcularea ponderilor pentru a
reduce erorile
- se realizeaza cu ajutorul tehnicii :
gradient descent
Backpropagation: Gradient descent
Retele neuronale clasice - limitari / alternative
Deep Neural Network
Deep Neural Network - exemplu
Overfitting
