Fortgeschrittenes maschinelles Lernen an der „National Research University Higher School of Economics“

Momentan studiere ich fortgeschrittenes maschinelles Lernen an der „National Research University Higher School of Economics“, einer Spitzenuniversität für Wirtschaft in Russland, die zu den bedeutendsten Universitäten für Wirtschaft in Osteuropa und Eurasien gehört. Die Schule ist hart und anspruchsvoll.

Als Übung für konvolutionale Netzwerke soll man Cifar_10 nach ihren Vorgaben implementieren. Jede Abweichung ist nicht erlaubt. In diesem Datensatz gibt es 50.000 Bilder, die in 10 Kategorien unterteilt sind, wie Flugzeuge, Autos, Vögel, Katzen, Pferde… Lustig ist es zu beobachten, wie das gelernte Netzwerk Fehler macht.

Das hier ist ein nur wenige Minuten trainiertes Netzwerk, das bisher etwa 70% der Bilder korrekt klassifiziert. Aber man sieht schon, dass es zum Beispiel Pferde am häufigsten mit Hunden verwechselt. 🙂 Hunde wiederum mit Katzen. Wenn das Netzwerk bei einem Vogel einen Fehler macht, rät es am häufigsten Hund, Katze oder Flugzeug. Ist das nicht wunderbar menschlich?

Das hier ist ein nur wenige Minuten trainiertes Netzwerk, das bisher etwa 70% der Bilder korrekt klassifiziert. Aber man sieht schon, dass es zum Beispiel Pferde am häufigsten mit Hunden verwechselt. 🙂 Hunde wiederum mit Katzen. Wenn das Netzwerk bei einem Vogel einen Fehler macht, rät es am häufigsten Hund, Katze oder Flugzeug. Ist das nicht zauberhaft?

Ein stärkeres Netzwerk, das ich über eine Stunde trainiert habe. Bei zufälligen Beispielen verwechselt es Pferde mit Rehen und Boote mit Flugzeugen. Ich habe das Gefühl, dass viele Menschen weniger Fehler machen würden.

Endlich. Es hat eine Weile gedauert, bis ich zeigen konnte, wie die konvolutionalen Filter (Kerne) aussehen. Es gibt insgesamt 4 konvolutionale Schichten, 1=am wenigsten und 4=am meisten abstrakt.

Der höchste mögliche Grad der Abstraktion, also das visuelle Erscheinungsbild des letzten dichten Netzwerks. Platon würde sich freuen, denn es ist die reine Form der Ideen: filter1=Flugzeug, filter2=Auto, filter3=Vogel, filter4=Katze, filter5=Reh, filter6=Hund, filter7=Frosch, filter8=Pferd, filter9=Boot, filter10=Lkw.