codecentric.AI

Bootcamp

 

Was sind neuronale Netze

Und was ist Deep Learning?

 

Created by @ShirinGlander 

  • Was sind neuronale Netze
  • Wie lernen neuronale Netze
  • Was sind tiefe neuronale Netze oder Deep Learning?

Überblick

Neuronale Netze & 

Maschinelles Lernen

ML

Algorithmen

NN

  • Supervised Learning
  • Unsupervised Learning
  • Reinforcement Learning

Künstliche neuronale Netze

  • fallen in die Kategorie "Maschinelles Lernen"

  • Idee ist schon alt (1940er)!

  • imitieren das menschliche Gehirn

  • ANN = Artificial Neural Network

Perzeptrone

Was passiert während der "Verarbeitung"?

  • Verarbeitung mit Aktivierungsfunktionen

Wieso helfen Aktivierungsfunktionen?

sie können Nicht-Linearität schaffen

Linearität

Nicht-

Linearität

Mit neuronalen Netzen und nicht-linearen Aktivierungsfunktionen kann jede Funktion approximiert werden!

Fazit

Jedes Problem kann durch eine mathematische Funktion dargestellt werden.

Mehrschichtige Perzeptrone

Multi-Layer Perceptrons (MLP)

KlassifIkation

  • Eingabe/Input

  • MLP: Knoten in versteckten Schichten

  • jeder Knoten wird multipliziert mit Gewichten

  • Ergebnis = KLASSEN

Klassifikation

ZIEL:

  • Gewichte optimieren ...
  • ... um Klassen möglichst genau zu bestimmen

Aber wie macht das neuronale Netz das?

Die Softmax Funktion

  • Konvertiert Ergebnisse (Scores) in Wahrscheinlichkeitsverteilungen.

 

  • Klasse mit höchster Wahrscheinlichkeit wird vorhergesagt.

Kreuz-Entropie & Loss

Backprogagation

  • Mit Softmax und Kreuz-Entropie berechneter Fehler wird rückwärts durch das neuronale Netz zurück "propagiert".

Backprogagation

  • Der Anteil jedes Gewichts in jedem Knoten zum Gesamtfehler wird bestimmt ("Fehlerlandschaft").

Optimierung der Gewichte

mit Gradientenabstieg

(Gradient Descent)

Optimierung der Gewichte

mit Gradientenabstieg

(Gradient Descent)

Deep Learning

  • Tiefe neuronale Netze haben VIELE Schichten & Knoten

  • Sinnvoll für KOMPLEXE Probleme

Warum startet Deep Learning in letzter Zeit besonders durch?

  • steigende Rechenkraft

  • GPUs

  • Cloud

  • mehr Daten

  • einfache Frameworks

Wo findet man Deep Learning?

Spracherkennung

(NLP)

Bilderkennung (Computer Vision)

Recommender Systeme

... und vieles

mehr!

Selbstlernende

Systeme

Deep Learning Bootcamp - NN

By Shirin Glander

Deep Learning Bootcamp - NN

  • 5,315
Loading comments...

More from Shirin Glander