Neuronales Netz

Ein künstliches neuronales Netz ist ein mathematisches Modell aus miteinander verbundenen Verarbeitungseinheiten, das Eingaben über mehrere Rechenschritte in Ausgaben umwandelt. (Google) Seine veränderlichen Zahlenwerte, darunter Gewichte, werden beim Training so angepasst, dass es die gestellte Aufgabe besser erfüllt. (Google)

So kannst du dir das vorstellen

Denk an ein großes Mischpult. Viele Regler bestimmen gemeinsam, wie aus eingehenden Signalen ein Ergebnis entsteht. Ein einzelner Regler erklärt noch nicht, wie das Ganze klingt; entscheidend ist ihr Zusammenspiel.

Im Gedankenexperiment soll das Mischpult einen bestimmten Klang treffen. Nach jedem Versuch wird gemessen, wie weit das Ergebnis vom Ziel entfernt liegt. Anschließend werden Einstellungen verändert und der nächste Versuch beginnt.

Die Regler stehen in diesem Vergleich für anpassbare Parameter. Echte neuronale Netze verarbeiten allerdings Zahlen mithilfe festgelegter mathematischer Operationen; sie bestehen nicht aus kleinen Hörern oder Entscheidern. (Google)

Warum heißt es „neuronal“?

Die Bezeichnung stellt einen Bezug zu biologischen Nervensystemen her, die künstlichen Modelle sind aber technische Konstruktionen und werden auch als „artificial neural networks“ bezeichnet. (Google) Für die Arbeit mit ihnen ist es hilfreicher, nach Eingaben, Rechenoperationen und Trainingsziel zu fragen, als sich ein kleines Gehirn im Computer vorzustellen.

Eine typische Struktur umfasst eine Eingabe, verborgene Schichten und eine Ausgabe; tiefe neuronale Netze enthalten mehrere verborgene Schichten. (Google) „Verborgen“ heißt hier, dass diese Schichten zwischen Ein- und Ausgabe liegen.

Ein Beispiel für die Bewertung

Angenommen, ein Netz soll Produktbilder als „in Ordnung“ oder „prüfen“ einordnen. Dann würde ich seine Qualität nicht an der Zahl seiner Knoten messen, sondern an den Folgen der Zuordnung.

Was passiert, wenn eine beschädigte Ware übersehen wird? Wie oft muss jemand ein einwandfreies Produkt unnötig kontrollieren? Welche Aufnahmen bringen das System durcheinander? Mit solchen Fragen lässt sich die abstrakte Architektur auf einen konkreten Arbeitsprozess beziehen.

Die Gewichte eines trainierten Netzes sind außerdem keine von Hand geschriebenen Erklärungsregeln für jeden Einzelfall. (Google) Wenn du nachvollziehen musst, weshalb ein Ergebnis entstanden ist, lohnt deshalb ein zusätzlicher Blick auf Interpretierbarkeit.

Verwandte Begriffe

Weiter geht es mit Deep Learning, Modellgewichte, Training, Loss Function, Backpropagation und Mechanistic Interpretability. Diese Begriffe erklären, wie die „Regler“ eingestellt werden und wie man ihre Wirkung untersucht.