Verifying Self-consistent MPI Performance Guidelines

Das Message-Passing Interface (MPI) ist die am weitesten verbreitete Schnittstelle für Anwendungsentwicklung im Bereich des Hochleistungsrechnens (HPC). MPI ist eine paradigmatische Schnittstelle, und jeder neue Ansatz muss mindestens so leistungsfähig, vollständig und exibel wie MPI sein. MPI Implementierungen erreichen in vielen Fällen für viele Systeme eine hohe bzw. ausreichende Effzienz (Systemnutzung), und unterstützen in hohem Maße die Portierbarkeit von Anwendungen. Weiters haben MPI Bibliotheken typischerweise auch Bereiche, die untereinander eine inkonsistente Leistung aufweisen, zB. ähnliche Funktionen mit sehr unterschiedlicher Leistung, oder schwer nachvollziehbare Leistungssprünge innerhalb der gleichen Operation für unterschiedliche Problemgrößen. Dies beeinflusst negativ die Leistungsportabilität ("performance portability") von Anwendungen. Insbesonders verleitet eine solche Inkonsistenz manchmal den Nutzer, spezielle Abhilfekonstruktionen händisch zu implementieren, die zwar für ein gegebenes System und MPI Bibliothek produktiv, für andere Systeme und Implementierungen aber ausgeprägt negative Auswirkungen haben können. Das hier vorgeschlagene Projekt zielt darauf ab, solche Probleme automatisch zu identifizieren und trägt damit indirekt zur Verbessung der Qualiät von MPI Implementierungen bei. Mit einem neuen, statistisch soliden, fundierten MPI Benchmark und automatischen Prozederen zur Datenanalyse, basierend auf sogenannten selbst- konsistenten Leistungsrichtlinien ("self-consistent performance guidelines"), die sich aus der MPI Spezifikation ableiten lassen, können für jede beliebige MPI Implementierung automatisch Bereiche erkannt werden, wo die Leistungsprotabilität gefährdet sein kann. Dies wird durch die Formulierung eines möglichst vollständigen Satzes von selbst-konsistenten Leistungserwartungen erreicht, der Teile der MPI Spezifikation in Relation zueinander setzen und dadurch die Suche nach problematischen Bereichen vereinfachen und steuern kann. Da es in der "MPI community" keine flächendeckenden und weitgehend akzeptierten Benchmarks gibt, und dies ein großer und bekannter Mangel ist, zielt das Projekt ferner darauf ab, ein solches Benchmark (und damit die Gruppe der TU Wien) zu etablieren. Dies ist ein ambitioniertes und längerfristiges Unterfangen. Die Entwicklung von neuen Algorithmen zur allgemeinen Verbesserung von MPI Implementierungen soll als natürliche Ergänzung des Projektes angesehen werden. Das Projekt basiert auf der anerkannten Arbeit der Antragssteller über die letzten Jahre und wird diese an der TU Wien konsolidieren.

Parallel- und Hochleistungsrechner werden häufig mit Hilfe von geeigneten Programmierschnittstellen programmiert, die konventionelle, sequentielle Sprachen erweitern mit Konstrukten und Algorithmen für verschiedene Arten von Datenkommunikation. Solche Schnittstellen sollen die Aufgabe der Entwickler erleichtern, in denen sie ihm geeignete Denkwerkzeuge zur Verfügung stellen, und gleichzeitig die effiziente Nutzung von den gegebenen, oft sehr großen und teuren Parallelrechnersystemen, ermöglichen. Erfüllen die Schnittstellen solche Anforderungen nicht, werden Ressourcen in zweierlei Hinsichten verschwendet: a) Zeit, um zu Lösungen zu kommen, wenn das gegebene System nicht so ausgenutzt wird, wie es möglich erscheint, b) Aufwand von Seiten des Programmierers, der möglicherweise versucht, selber das zu erreichen, was die Schnittstelle nicht leistet, aber leisten sollte. Das abgeschlossene Projekt Verifying Self-consistent MPI Performance Guidelines baute auf eine Idee auf, die möglicherweise zu besseren und überprüfbaren Erfüllung von solchen Erwartungen führen kann, spezifisch für die weitverbreitete Schnittstelle MPI (das Message-Passing Interface). Diese Idee besteht darin, Erwartungen überprüfbar zu formulieren als Relationen zwischen verschiedenen Arten innerhalb der Schnittstelle, die gleiche Funktionalität auszudrücken; als Beispiel einer solchen Performance Guideline kann erwartet werden, dass eine spezielle Operation nicht langsamer ist als eine allgemeinere Operation, wenn diese für den spezialisierten Zweck eingesetzt wird. Wenn eine ganze Reihe von solchen Erwartungen erfüllt sind, gewährleistet dies a) konsistente Leistung der Operationen der Schnittstelle, und b) dass Verbesserungen von speziellen Operationen seitens der Programmierer nicht notwendig sind, weil diese zu keinen Verbesserungen mehr führen können. Um die Leistung der Operationen genau beurteilen zu können, in besonderem um entscheiden zu können, ob eine Operation oder Implementierung wirklich besser ist als eine andere, werden offensichtlich verlässliche, genaue und reproduzierbare Benchmarks benötigt. Dies ist selbst für MPI ein überraschend intrikates Problem. Das Projekt hat bisher weniger beachtete experimentelle Faktoren identifiziert und zu Lösungen beigetragen, auch in Form von veröffentlichter Software. Mittels neuen Benchmarking Verfahren sind Performance Guidelines für die sogenannten kollektiven Operationen von MPI formuliert und ausgewertet worden auf verschiedene Systeme, oft mit dem Ergebnis, dass viele Erwartungen in der Tat verletzt werden. Es liegt aber dann nahe, bei solchen Verletzungen die Vergleichsoperation stattdessen zu verwenden, und diese Substitution automatisch durchzuführen. Auch dieser Ansatz wurde im Projekt verfolgt, und es wurde gezeigt, dass Performance Guidelines mit einem geeigneten Benchmarking-Verfahren für automatische Leistungsverbesserung verwendet werden können. MPI ist eine sehr reichhaltige Schnittstelle mit vielen, nicht immer offensichtlichen oder beachteten Querverbindungen, die ausgenutzt werden können um Leistungserwartungen zu formalisieren. Das Projekt hat eine Reihe von solchen Erwartungen neu formalisiert für Teile von MPI wo Guidelines weniger offensichtlich sind, zum Beispiel für Kommunikation mit strukturierten Daten mittels sogenannten benutzerdefinierten Datentypen, für kollektive Kommunikation über dünne Nachbarschaften, und für kollektive Kommunikation, wo unterschiedliche Datengrößen zwischen Prozessen ausgetauscht werden können. Besonders für das letzte Problemfeld, wo die algorithmischen Probleme für sich schwierig sind, wurden neue Algorithmen vorgeschlagen und implementiert, und es konnte gezeigt werden, dass diese die Erwartungen viel besser erfüllen können, was bekannte Verfahren nicht konnten.