codecentric.AI

Bootcamp

 

Was sind neuronale Netze

Und was ist Deep Learning?

 

Created by @ShirinGlander  

  • Was sind neuronale Netze
  • Wie lernen neuronale Netze
  • Was sind tiefe neuronale Netze oder Deep Learning?

Überblick

Neuronale Netze & 

Maschinelles Lernen

ML

Algorithmen

NN

  • Supervised Learning
  • Unsupervised Learning
  • Reinforcement Learning

Künstliche neuronale Netze

  • Idee ist schon alt (1940er)!

  • Imitieren das menschliche Gehirn

  • ANN = Artificial Neural Network

Perzeptrone

Was passiert während der "Verarbeitung"?

  • Verarbeitung mit Aktivierungsfunktionen

Wieso helfen Aktivierungsfunktionen?

sie können Nicht-Linearität schaffen

Linearität

Nicht-

Linearität

Mit neuronalen Netzen und nicht-linearen Aktivierungsfunktionen kann jede Funktion approximiert werden!

Fazit

Jedes Problem kann durch eine mathematische Funktion dargestellt werden.

Mehrschichtige Perzeptrone

Multi-Layer Perceptrons (MLP)

KlassifIkation

  • Eingabe/Input

  • MLP: Knoten in versteckten Schichten

  • jeder Knoten wird multipliziert mit Gewichten

  • Ergebnis = KLASSEN

Klassifikation

ZIEL:

  • Gewichte optimieren ...
  • ... um Klassen möglichst genau zu bestimmen

Aber wie macht das neuronale Netz das?

Die Softmax Funktion

  • Konvertiert Ergebnisse (Scores) in Wahrscheinlichkeitsverteilungen.

 

  • Klasse mit höchster Wahrscheinlichkeit wird vorhergesagt.

Kreuz-Entropie & Loss

Backprogagation

  • Mit Softmax und Kreuz-Entropie berechneter Fehler wird rückwärts durch das neuronale Netz zurück "propagiert".

Backprogagation

  • Der Anteil jedes Gewichts in jedem Knoten zum Gesamtfehler wird bestimmt ("Fehlerlandschaft").

Optimierung der Gewichte

mit Gradientenabstieg

(Gradient Descent)

Optimierung der Gewichte

mit Gradientenabstieg

(Gradient Descent)

Deep Learning

  • Tiefe neuronale Netze haben VIELE Schichten & Knoten

  • Sinnvoll für KOMPLEXE Probleme

Warum startet Deep Learning in letzter Zeit besonders durch?

  • steigende Rechenkraft

  • GPUs

  • Cloud

  • mehr Daten

  • einfache Frameworks

Wo findet man Deep Learning?

Spracherkennung

(NLP)

Bilderkennung (Computer Vision)

Recommender Systeme

... und vieles

mehr!

Selbstlernende

Systeme

codecentric.AI

Bootcamp

 

Was sind neuronale Netze

Und was ist Deep Learning?

 

Created by @ShirinGlander  

Deep Learning Bootcamp - NN

By Shirin Glander

Deep Learning Bootcamp - NN

  • 6,459
Loading comments...

More from Shirin Glander