14.09.2023
| Forschung |
Ein neues Profiling-Tool unterstützt die Entwicklung energie-effizienter Anwendungen
Unser wissenschaftlicher Mitarbeiter Christopher Metz hat einen neuen Ansatz für die Analyse von PTX Code entwickelt. HyPA erlaubt es, PTX Code statisch sowie dynamisch zu analysieren and kann Metriken erfassen, die über die Ergebnisse einer statischen Analyse hinausgehen. Die entstandenen Profile können für Leistungsprognosen sowie Stromverbrauchsabschätzungen von GPU-Anwendungen genutzt werden.
Die Nutzung von
General Purpose Computation on Graphics Processing Units (GPGPUs) hat in den letzten Jahren immer weiter zugenommen. Inzwischen sind GPGPUs essentiell für die Beschleunigung von Rechenleistungen geworden. Das starke Leistungsniveau von GPUs geht allerdings auch mit einem extrem hohen Stromverbrauch einher. Folglich wird es immer wichtiger, den Energiebedarf von Grafikkarten zu senken und somit energie-effizientere Anwendungen zu entwickeln.
Eine Strategie liegt in der Optimierung des ausgesuchten Geräts in Bezug auf die entsprechend ausgewählte Anwendung. Um dies zu ermöglichen, werden Informationen über das potentiell zum Einsatz kommende Gerät benötigt (bspw. über verschiedene GPUs). Damit Leistung sowie Stromverbrauch vorhergesagt werden können, werden verschiedene Standardmetriken verwendet, die durch Ausführungs-Analysen sowie Code-Profiling erfasst werden. Es wurden bereits verschiedene Profiler entwickelt, die Entwickler*innen bei der Code-Optimierung unterstützen sollen. Diese Profiler müssen allerdings häufig auf einem tatsächlichen Gerät ausgeführt werden (z.B. einer GPU) und der Profiling-Prozess ist meist sehr zeitintensiv.
Zusammen mit Christina Plump (DFKI), Bernhard J. Berger (Institute of Embedded Systems – TU Hamburg) und unter der Leitung von Rolf Drechsler hat unser wissenschaftlicher Mitarbeiter Christopher Metz einen hybriden
Parallel Thread Execution (PTX) Analyser (HyPA) entwickelt, der es ermöglicht, PTX Code statisch sowie dynamisch zu analysieren, ohne dabei eine echte GPGPU verwenden zu müssen. Das resultierende Profil kann anschließend für die Leistungs- und Stromverbrauchsprognose von GPU-Anwendungen genutzt werden (mehr über Christopher Forschung zu GPGPU Leistungsprognosen finden Sie
»hier). Der neue Ansatz wurden in dem Paper „Hybrid PTX Analysis for GPU accelerated CNN inferencing aiding Computer Architecture Design“ genauer beschrieben.
Der hybride PTX Analyser wurde in einem Experiment getestet, indem eine Code-Analyse verschiedener CNNS durchgeführt wurde. Die Ergebnisse wurden anschließend mit denen klassischer Profiler verglichen. Die Resultate zeigen, dass HyPA eine signifikant schnellere Analyse ermöglicht und im Vergleich zum nvprof Profiler eine Geschwindigkeitssteigerung von bis zu 536% erreicht werden kann. Darüber hinaus ermöglicht der neue Ansatz es, Metriken zu analysieren, die mit statischer Code-Analyse nicht erfasst werden können (wie bspw. Branch Efficiency). Eine Analyse mit HyPA ist außerdem zeitsparender, als den Profiling-Prozess auf einem tatsächlichen Gerät (bspw. einer GPU) durchzuführen. Um Entwickler*innen und Systemdesigner*innen bei zukünftiger Forschung zu unterstützen, wird die Implementierung von HyPA Open Source zur Verfügung gestellt.
Der neue Ansatz wird am Freitag den 15. September (12:30 Uhr) auf der FDL 2023 präsentiert, die vom 13.-15. September in Turin, Italien stattfinden wird. Das
26th Forum on Specification and Design Languages ist ein internationales Event, auf dem Wissenschaftler*innen Ideen und Erfahrungen in Bezug auf Sprachen, Tools und Techniken zur Entwicklung von Software und Hardware austauschen können. Dabei werden neue Trends, sowie eine Reihe von verschiedenen Systemen wie z.B. cyber-physische Systeme, verteilte Systeme, und IoT diskutiert.
Unser wissenschaftlicher Mitarbeiter Christopher Metz wird außerdem am PhD Forum der FDL 2023 teilnehmen, das am Mittwochnachmittag (17 Uhr) stattfinden wird. Die Poster-Session gibt Teilnehmenden die Möglichkeit, ihre eigene, aktuelle Forschung zu präsentieren und Feedback von Expert*innen aus dem Feld der Software- und Hardwareentwicklung zu erhalten.
Aktualisiert von: Svenja Goers
« zurück
14.09.2023 | Forschung
Ein neues Profiling-Tool unterstützt die Entwicklung energie-effizienter Anwendungen
Unser wissenschaftlicher Mitarbeiter Christopher Metz hat einen neuen Ansatz für die Analyse von PTX Code entwickelt. HyPA erlaubt es, PTX Code statisch sowie dynamisch zu analysieren and kann Metriken erfassen, die über die Ergebnisse einer statischen Analyse hinausgehen. Die entstandenen Profile können für Leistungsprognosen sowie Stromverbrauchsabschätzungen von GPU-Anwendungen genutzt werden.
Die Nutzung von
General Purpose Computation on Graphics Processing Units (GPGPUs) hat in den letzten Jahren immer weiter zugenommen. Inzwischen sind GPGPUs essentiell für die Beschleunigung von Rechenleistungen geworden. Das starke Leistungsniveau von GPUs geht allerdings auch mit einem extrem hohen Stromverbrauch einher. Folglich wird es immer wichtiger, den Energiebedarf von Grafikkarten zu senken und somit energie-effizientere Anwendungen zu entwickeln.
Eine Strategie liegt in der Optimierung des ausgesuchten Geräts in Bezug auf die entsprechend ausgewählte Anwendung. Um dies zu ermöglichen, werden Informationen über das potentiell zum Einsatz kommende Gerät benötigt (bspw. über verschiedene GPUs). Damit Leistung sowie Stromverbrauch vorhergesagt werden können, werden verschiedene Standardmetriken verwendet, die durch Ausführungs-Analysen sowie Code-Profiling erfasst werden. Es wurden bereits verschiedene Profiler entwickelt, die Entwickler*innen bei der Code-Optimierung unterstützen sollen. Diese Profiler müssen allerdings häufig auf einem tatsächlichen Gerät ausgeführt werden (z.B. einer GPU) und der Profiling-Prozess ist meist sehr zeitintensiv.
Zusammen mit Christina Plump (DFKI), Bernhard J. Berger (Institute of Embedded Systems – TU Hamburg) und unter der Leitung von Rolf Drechsler hat unser wissenschaftlicher Mitarbeiter Christopher Metz einen hybriden
Parallel Thread Execution (PTX) Analyser (HyPA) entwickelt, der es ermöglicht, PTX Code statisch sowie dynamisch zu analysieren, ohne dabei eine echte GPGPU verwenden zu müssen. Das resultierende Profil kann anschließend für die Leistungs- und Stromverbrauchsprognose von GPU-Anwendungen genutzt werden (mehr über Christopher Forschung zu GPGPU Leistungsprognosen finden Sie
»hier). Der neue Ansatz wurden in dem Paper „Hybrid PTX Analysis for GPU accelerated CNN inferencing aiding Computer Architecture Design“ genauer beschrieben.
Der hybride PTX Analyser wurde in einem Experiment getestet, indem eine Code-Analyse verschiedener CNNS durchgeführt wurde. Die Ergebnisse wurden anschließend mit denen klassischer Profiler verglichen. Die Resultate zeigen, dass HyPA eine signifikant schnellere Analyse ermöglicht und im Vergleich zum nvprof Profiler eine Geschwindigkeitssteigerung von bis zu 536% erreicht werden kann. Darüber hinaus ermöglicht der neue Ansatz es, Metriken zu analysieren, die mit statischer Code-Analyse nicht erfasst werden können (wie bspw. Branch Efficiency). Eine Analyse mit HyPA ist außerdem zeitsparender, als den Profiling-Prozess auf einem tatsächlichen Gerät (bspw. einer GPU) durchzuführen. Um Entwickler*innen und Systemdesigner*innen bei zukünftiger Forschung zu unterstützen, wird die Implementierung von HyPA Open Source zur Verfügung gestellt.
Der neue Ansatz wird am Freitag den 15. September (12:30 Uhr) auf der FDL 2023 präsentiert, die vom 13.-15. September in Turin, Italien stattfinden wird. Das
26th Forum on Specification and Design Languages ist ein internationales Event, auf dem Wissenschaftler*innen Ideen und Erfahrungen in Bezug auf Sprachen, Tools und Techniken zur Entwicklung von Software und Hardware austauschen können. Dabei werden neue Trends, sowie eine Reihe von verschiedenen Systemen wie z.B. cyber-physische Systeme, verteilte Systeme, und IoT diskutiert.
Unser wissenschaftlicher Mitarbeiter Christopher Metz wird außerdem am PhD Forum der FDL 2023 teilnehmen, das am Mittwochnachmittag (17 Uhr) stattfinden wird. Die Poster-Session gibt Teilnehmenden die Möglichkeit, ihre eigene, aktuelle Forschung zu präsentieren und Feedback von Expert*innen aus dem Feld der Software- und Hardwareentwicklung zu erhalten.
Autor*in: Svenja Goers
Fragen beantwortet:
Christopher Metz
Wissenschaftlicher Mitarbeiter
+49 (421) 218 - 63942
cmetz@uni-bremen.de
« zurück