Parallelverarbeitung ist nichts Neues im Bereich des maschinellen Lernens. Dies trifft besonders bei den Disziplinen des Deep Learning und der Convolutional Neural Networks für die Klassifizierung von Bildern zu. Der zunehmende Bedarf, künstliche neuronale Netzwerke auf größeren Datenmengen (Big Data) zu trainieren, fordert nach den Ressourcen des High Performance Computing (HPC).
Diese Präsentation widmet sich beispielhaft der Klassifikation von Bildern auf Supercomputern mittels des Caffe-Frameworks, welches unter Zuhilfenahme der Math Kernel Library (MKL) beschleunigt wurde. Das Training des Netzwerks wird mittels Tausender Bilder auf mehreren Rechnerknoten via MPI-Kommunikation veranschaulicht.
Vorkenntnisse
Grundlegende HPC-Kenntnisse über das Abfertigen von MPI-Jobs auf Supercomputern sind nötig, um dem Teil des verteilten Maschinellen Lernens zu verstehen. Zusätzlich ist es von Vorteil, bereits vom Caffe-Framework und verschiedenen Deep-Learning-Architekturen gehört zu haben. Dies ist jedoch nicht zwingend erforderlich, da sich die Präsentation auch den einführenden Themen widmen wird. Die primäre Zielgruppe des Vortrags sind Neulinge im Bereich des Maschinellen Lernens, welche ein großes Interesse an performance orientierten Lösungen haben.
//
Michael Steyer
ist ein High Performance Computing (HPC) Technical Consulting Engineer innerhalb von Intels Software and Services Group.