Moderne Hardware-Architekturen besitzen oft einen Grad an Parallelität, der über dem liegt, was zur Bearbeitung eines Problems verwendet werden kann. Als Folge bleiben Hardware-Ressourcen oft ungenutzt. Eine effektive Antwort darauf ist die datenparallele Bearbeitung von Problemen: Bei den sogenannten "batched routines" werden die einzelnen Probleme nicht nacheinander bearbeitet, sondern die Operationen des Algorithmus gleichzeitig auf mehrere Dateneinheiten angewendet.
In diesem Vortrag wird das Prinzip datenparalleler Bearbeitung von Problemen vorgestellt. Als Anwendungsbeispiel kommt eine Block-Jacobi-Matrix zum Einsatz, die sich durch Inversion der Diagonalblöcke berechnen lässt. Es wird gezeigt, dass man durch die Wahl eines geeigneten Algorithmus eine deutlich bessere Performance als die der Standard-Lösungen erreichen kann. Insbesondere wird deutlich, dass die zur Multicore-Parallelisierung verwendete Lösung ungeeignet für die datenparallele Verwendung auf Manycore-Architekturen ist. Des Weiteren analysiert der Vortrag den Einfluss von Datenzugriff und Load-balancing auf die Performance.
Ziel ist es das Prinzip datenparalleler Verarbeitung zu verinnerlichen, ein Gefühl dafür zu bekommen, welche Anwendungen sich datenparallel realisieren lassen, und welche Aspekte bei der Implementation auf Manycore-Architekturen zu beachten sind.
Vorkenntnisse
Als Voraussetzung sind Grundwissen in Linearer Algebra und Wissen über die Arbeitsweise von Streaming-Prozessoren wie GPUs vorteilhaft.
Lernziele
* für Anfänger: Verstehen des Prinzips von datenparalleler Verarbeitung
* für Fortgeschrittene: Kern-Konzepte der Optimierung datenparalleler Verarbeitung auf Manycore-Architekturen: Datenzugriff, Load-Balancing, Cache
//
Dr. Hartwig Anzt
is a research scientist in Jack Dongarra's Innovative Computing Lab at the University of Tennessee. He received his Ph.D. in mathematics from the Karlsruhe Institute of Technology in 2012. Dr. Anzt's research interests include simulation algorithms, sparse linear algebra - in particular iterative methods and preconditioning, hardware-optimized numerics, and power-aware computing.