11.10.2021
| Forschung |
Forschung am DSC: Frühzeitige Abschätzung des Stromverbrauchs neuronaler Netze auf GPUs
Die Bestimmung des Stromverbrauchs ist für Systemingenieure wichtig. Mit einem neuen Verfahren können sie den Verbrauch von Internet of Things Geräte nun frühzeitig bestimmen.
In dem Paper „
Work-in-Progress: Early Power Estimation of CUDA-based CNNs on GPGPUs“ hat unser Wissenschaftlicher Mitarbeiter Christopher Metz in Kooperation mit Mehran Goli (DFKI) einen Ansatz entwickelt, um den Stromverbrauch von GPGPUs, bei der Ausführung von Convolutional Neural Networks (CNNs) in frühen Phasen der Entwicklung zu bestimmen.
In Ihrer Arbeit liefern die Autoren erste Ergebnisse zu Ihrer in einem vorangegangenen Artikel „
Pick the Right Edge Device: Towards Power and Performance Estimation of CUDA-based CNNs on GPGPUs“ vorgestellten Methode (Wir berichteten
»hier). Es ist Ihnen gelungen den Stromverbrauch mit einem absoluten Fehler von bis unter 1% vorauszusagen. Das beste Ergebnis erhielten Sie für eine RESNET Variation mit einem absoluten Fehler von 0,73%. Dem gegenüber steht das schlechteste Ergebnis mit einem absoluten Fehler von 15,75% für das Densenet201. Es ergibt sich ein durchschnittlicher absoluter Fehler von 8,3%. Die große Schwankung lässt sich auf ein nicht ausgewogenen Trainingsdatensatz zurückführen. Dieser enthält mehrere Variationen des RESNET als für das Densenet. Zur Verbesserung der Ergebnisse arbeiten die Autoren daran, den Trainingsdatensatz zu optimieren.
Zur Bestimmung des Stromverbrauchs trainierten sie ein einfaches Neuronales Netz. Als Eingabe erhält das Neuronale Netz die Instruktionen, die die GPGPU ausführt sowie wichtige Hardwarekomponenten der GPGPU. Die Ausgabe des Neuronalen Netzes ist der Stromverbrauch. Es wird angestrebt das fertige Model in eine Compiler Erweiterung zu integrieren, sodass System Designer zukünftig frühzeitig den Stromverbrauch von Künstlichen Neuronalen Netzen bestimmen können. Dadurch könnte der Auswahlprozess zukünftig effizienter, kostengünstiger sowie umweltfreundlicher gestaltet werden.
Die Arbeit ist in Kooperation mit der Arbeitsgruppe
Cyber-Physical Systems des DFKI am Standort Bremen entstanden und wurde auf der
International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS) (
esweek.org/codes-isss/) eingereicht und vorgestellt. Weitere Autoren sind Dr.-Ing. Mehran Goli (DFKI/Uni Bremen) und Prof. Rolf Drechsler (Uni Bremen/DFKI).
Über CODES+ISSS:
Die
International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS) ist die führende Veranstaltung im Bereich des Entwurfs auf Systemebene, des Hardware/Software-Codesigns, der Modellierung, Analyse und Implementierung moderner eingebetteter Systeme, Cyber-Physical Systems (CPS) und Internet-of-Things (IoT), von der Spezifikation und Optimierung auf Systemebene bis hin zur Systemsynthese von Hardware/Software-Implementierungen mit mehreren Prozessoren. Die Konferenz ist ein Forum, das akademische Forschung und industrielle Praxis für alle Aspekte im Zusammenhang mit dem Co-Design auf Systemebene und Hardware/Software zusammenbringt.
« zurück
11.10.2021 | Forschung
Forschung am DSC: Frühzeitige Abschätzung des Stromverbrauchs neuronaler Netze auf GPUs
Die Bestimmung des Stromverbrauchs ist für Systemingenieure wichtig. Mit einem neuen Verfahren können sie den Verbrauch von Internet of Things Geräte nun frühzeitig bestimmen.
In dem Paper „
Work-in-Progress: Early Power Estimation of CUDA-based CNNs on GPGPUs“ hat unser Wissenschaftlicher Mitarbeiter Christopher Metz in Kooperation mit Mehran Goli (DFKI) einen Ansatz entwickelt, um den Stromverbrauch von GPGPUs, bei der Ausführung von Convolutional Neural Networks (CNNs) in frühen Phasen der Entwicklung zu bestimmen.
In Ihrer Arbeit liefern die Autoren erste Ergebnisse zu Ihrer in einem vorangegangenen Artikel „
Pick the Right Edge Device: Towards Power and Performance Estimation of CUDA-based CNNs on GPGPUs“ vorgestellten Methode (Wir berichteten
»hier). Es ist Ihnen gelungen den Stromverbrauch mit einem absoluten Fehler von bis unter 1% vorauszusagen. Das beste Ergebnis erhielten Sie für eine RESNET Variation mit einem absoluten Fehler von 0,73%. Dem gegenüber steht das schlechteste Ergebnis mit einem absoluten Fehler von 15,75% für das Densenet201. Es ergibt sich ein durchschnittlicher absoluter Fehler von 8,3%. Die große Schwankung lässt sich auf ein nicht ausgewogenen Trainingsdatensatz zurückführen. Dieser enthält mehrere Variationen des RESNET als für das Densenet. Zur Verbesserung der Ergebnisse arbeiten die Autoren daran, den Trainingsdatensatz zu optimieren.
Zur Bestimmung des Stromverbrauchs trainierten sie ein einfaches Neuronales Netz. Als Eingabe erhält das Neuronale Netz die Instruktionen, die die GPGPU ausführt sowie wichtige Hardwarekomponenten der GPGPU. Die Ausgabe des Neuronalen Netzes ist der Stromverbrauch. Es wird angestrebt das fertige Model in eine Compiler Erweiterung zu integrieren, sodass System Designer zukünftig frühzeitig den Stromverbrauch von Künstlichen Neuronalen Netzen bestimmen können. Dadurch könnte der Auswahlprozess zukünftig effizienter, kostengünstiger sowie umweltfreundlicher gestaltet werden.
Die Arbeit ist in Kooperation mit der Arbeitsgruppe
Cyber-Physical Systems des DFKI am Standort Bremen entstanden und wurde auf der
International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS) (
esweek.org/codes-isss/) eingereicht und vorgestellt. Weitere Autoren sind Dr.-Ing. Mehran Goli (DFKI/Uni Bremen) und Prof. Rolf Drechsler (Uni Bremen/DFKI).
Über CODES+ISSS:
Die
International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS) ist die führende Veranstaltung im Bereich des Entwurfs auf Systemebene, des Hardware/Software-Codesigns, der Modellierung, Analyse und Implementierung moderner eingebetteter Systeme, Cyber-Physical Systems (CPS) und Internet-of-Things (IoT), von der Spezifikation und Optimierung auf Systemebene bis hin zur Systemsynthese von Hardware/Software-Implementierungen mit mehreren Prozessoren. Die Konferenz ist ein Forum, das akademische Forschung und industrielle Praxis für alle Aspekte im Zusammenhang mit dem Co-Design auf Systemebene und Hardware/Software zusammenbringt.
Fragen beantwortet:
Christopher Metz
Wissenschaftlicher Mitarbeiter
+49 (421) 218 - 63942
cmetz@uni-bremen.de
« zurück