Neuronale Netze und Deep Learning
Werbehinweis: Die Produktliste rechts enthält Affiliate-Links (Anzeige). Wenn du darüber kaufst, erhalte ich eine kleine Provision. Die Inhalte bleiben davon unabhängig.
Neuronale Netze sind das Rechenprinzip hinter Bilderkennung, Spracherkennung und heutigen Chat-KIs. Sie sind nur grob vom Gehirn inspiriert. Im Kern sind sie sehr viel Mathematik mit sehr vielen einstellbaren Zahlen.
Vom Neuron zum Netz
Ein künstliches Neuron macht drei Dinge: Es nimmt Zahlen entgegen, multipliziert jede mit einem Gewicht, addiert alles samt einem Grundwert (Bias) und schickt das Ergebnis durch eine Aktivierungsfunktion, die entscheidet, wie stark das Neuron „feuert“. Viele solcher Neuronen in Schichten ergeben ein Netz.
- Eingabeschicht: nimmt die Rohdaten auf, zum Beispiel Pixelwerte eines Bildes.
- Verdeckte Schichten: berechnen schrittweise abstraktere Merkmale. Erst Kanten, dann Formen, dann Gesichter.
- Ausgabeschicht: liefert das Ergebnis, etwa „Katze: 94 %, Hund: 5 %“.
Wie ein Netz lernt
- Das Netz bekommt ein Beispiel und gibt eine Vorhersage aus. Am Anfang ist sie praktisch zufällig.
- Eine Verlustfunktion misst, wie weit die Vorhersage von der richtigen Antwort entfernt ist.
- Mit Backpropagation wird berechnet, welches Gewicht wie stark zum Fehler beigetragen hat. Das Gradientenverfahren verschiebt jedes Gewicht ein Stück in die Richtung, die den Fehler verkleinert. Die Schrittgröße heißt Lernrate.
- Das Ganze wird mit sehr vielen Beispielen wiederholt.
Was ist Deep Learning?
Deep Learning bedeutet: neuronale Netze mit vielen verdeckten Schichten („tief“). Mehr Schichten können komplexere Zusammenhänge abbilden, brauchen aber auch mehr Daten und Rechenleistung. Moderne Sprachmodelle haben Milliarden solcher Gewichte, auch Parameter genannt.
Wichtige Architekturen im Überblick
| Architektur | Stärke | Typische Anwendung |
|---|---|---|
| Faltungsnetze (CNN) | Erkennen Muster in Bildern | Bilderkennung, Medizin-Bildgebung |
| Rekurrente Netze (RNN, LSTM) | Verarbeiten Reihenfolgen | Ältere Sprach- und Zeitreihenmodelle |
| Transformer | Berücksichtigen Zusammenhänge über lange Texte hinweg | Sprachmodelle, Übersetzung, zunehmend Bild und Audio |
| Diffusionsmodelle | Erzeugen Bilder aus Rauschen | Bildgeneratoren |
| GANs | Zwei Netze trainieren gegeneinander | Bild- und Videosynthese |
Warum funktioniert das erst seit etwa 2012 so gut?
Die Grundideen sind viel älter. Der Durchbruch kam, weil drei Dinge zusammentrafen: riesige Datenmengen (Internet, Smartphones), Grafikprozessoren (GPUs), die sehr viele Rechnungen parallel erledigen, und bessere Trainingsverfahren.
Bei Milliarden Gewichten kann niemand mehr einfach ablesen, warum ein Netz eine bestimmte Antwort gibt. Das Forschungsfeld „erklärbare KI“ (Explainable AI) versucht, das zu verbessern. In sensiblen Bereichen wie Medizin oder Kreditvergabe ist das ein zentrales Problem.