Verallgemeinerte Just-in-Time Trace-Compilierung für Java

Java-Quellcode wird in maschinenunabhängige Bytecodes übersetzt, die von einer virtuel-len Maschine (VM) interpretiert werden. Zur Laufzeit benutzen moderne Java-VMs einen Just-in-time-Compiler (JIT-Compiler), der die am häufigsten ausgeführten Methoden in Maschinencode übersetzt, während andere Methoden weiterhin interpretiert werden. Das erhöht die Ausführungsgeschwindigkeit von Java-Programmen bei vergleichsweise geringem Übersetzungsaufwand. Als weiteren Schritt in dieselbe Richtung haben Gal und andere kürzlich vorgeschlagen, die Übersetzungseinheit noch kleiner zu machen, d.h. nur gewisse Pfade durch häufig ausgeführte Schleifen zu übersetzen, während der Rest des Programms weiterhin interpretiert wird. Dieses Verfahren wird Trace-Compilierung genannt. Es führt zu einer weiteren Verkürzung der Übersetzungszeiten, erlaubt einfachere und aggressivere Optimierungen und macht Compiler klein genug, um auf Geräten mit beschränkten Ressourcen zu laufen. Trace-Compilierung ist derzeit auf Pfade durch Schleifen beschränkt. Dadurch wird unserer Meinung nach ihr volles Potenzial nicht ausgeschöpft. Es gibt auch Pfade außerhalb von Schleifen, die häufig genug ausgeführt werden, um ihre Übersetzung nach Maschinencode zu rechtfertigen. In anderen Worten: das Konzept der Trace- Compilierung kann verallgemeinert werden. Unsere Forschungsziele sind daher: (1) Die Trace-Compilierung zu verallgemeinern, indem Traces an beliebigen Stellen im Programm beginnen und enden können und indem Techniken entwickelt werden, um Traces aufzuspalten und zusammenzuführen; (2) Methoden als Ausführungseinheiten in übersetztem Code abzuschaffen und durch Traces zu ersetzen, die einander aufrufen können und dazu geeignete Aufrufkonventionen verwenden; (3) Zu untersuchen, in-wiefern herkömmliche Optimierungstechniken für die Trace-Compilierung angepasst und vereinfacht werden können. Wir haben vor, die Trace-Compilierung in die Java HotSpot VM von Sun Microsystems zu integrieren, die über das Open-Source-Projekt OpenJDK verfügbar ist. Die HotSpot VM ist eine der schnellsten derzeit verfügbaren Java VMs. Unsere Implementierung wird daher zeigen, ob Trace-Compilierung mit herkömmlichen JIT- Compilierungstechniken mithalten oder sie sogar übertreffen kann. In diesem Fall könnte unser Projekt zu einem Paradigmenwechsel im Bereich der Just-in-Time-Compilierung führen.

Java ist eine moderne und weit verbreitete Programmiersprache, in der man Programme schreiben kann, die auf unterschiedlichen Geräten laufen, vom Mobiltelefon bis zum Backbone-Server großer Unternehmen. Um Plattformunabhängigkeit zu gewährleisten, werden Java-Programme in der Regel von einer virtuellen Maschine interpretativ ausgeführt, was aber entsprechend langsam ist. Daher versucht man, die am häufigsten ausgeführten Programmteile während ihrer Ausführung in schnellen Maschinencode zu übersetzen. Man nennt das Just-in-time-Compilation (JIT- Compilation).Wir verwenden eine Variante der JIT-Compilation, bei der wir die Ausführungshäufigkeit einzelner Programmpfade messen und die häufigsten Pfade in Maschinencode übersetzen (Trace- Compilation). Da es meist nur wenige häufige Ausführungspfade gibt, ist deren Compilation entsprechend schnell. Schnelle Compilationszeiten führen aber automatisch zu schnelleren Gesamtlaufzeiten der Programme, da deren Compilation ja zur Ausführungszeit erfolgt.Im Gegensatz zu herkömmlichen Trace-Compilern erlauben wir in unserem Ansatz, dass Pfade nicht nur in Schleifen compiliert werden, sondern auch außerhalb von Schleifen, wenn sie dort genügend häufig ausgeführt wurden. Ein Pfad kann sich auch über mehrere Methoden erstrecken. Als besonderes Ergebnis unserer Forschung haben wir ein neues Verfahren entwickelt, mit dem wir Pfade aus Untermethoden kontextsensitiv in die rufende Methode einbetten können.Messungen haben gezeigt, dass unser einfaches Trace-basiertes Compilationsverfahren schnelleren Code erzeugt als einfache herkömmliche JIT-Compiler und dass es in manchen Benchmarks sogar einen der besten heutigen Java JIT-Compiler schlägt, wobei es dafür weniger als 10% seiner Compilationszeit benötigt.