Xun Zhang - Temperature-Power Consumption Relationship and Hot-spot Migration for FPGA-based System

Transcript

1. Temperature-Power Consumption p p Relationship and Hot-spot Migration for FPGA-based System y Xun Zhang, Pierre Leray SUPELEC/IETR, Rennes, France Signal, Communication and Embedded Electronics Team Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 1 Xun ZHANG, Séminaire 18.nov. 2010 supported by Motorola Foundation
2. Outline 1. Context & Motivation 2. Power consumption & temperature 3. Die temperature measurement p 4. Architectural changes 5 Future Works 5. Future Works Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 2 Xun ZHANG, Séminaire 18.nov. 2010
3. Outline 1. Context & Motivation 2. Power consumption & temperature 3. Die temperature measurement p 4. Architectural changes 5 Future Works 5. Future Works Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 3 Xun ZHANG, Séminaire 18.nov. 2010
4. Context & Motivation (1)  3% of the world-wide energy is consumed by the ICT infrastructure hi h b 2% f h ld id CO i i [1] which causes about 2% of the world-wide CO2 emissions [1]  ICT carbon footprint is comparable to the world-wide CO2 emissions by airplanes or one quarter of the world-wide CO2 emissions by cars.  CO2 reduction at two levels: 2  To reduce the ICT emission itself  Use ICT to reduce emission of other human activities (transport, tele- working e commerce ) Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 4 Xun ZHANG, Séminaire 18.nov. 2010 [1] http://www.cwc.oulu.fi/workshops/W-Green2008.pdf working, e-commerce,…..)
5. Context & Motivation (2) Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 5 Xun ZHANG, Séminaire 18.nov. 2010
6. Influence from CR environments ! " # $ % ! Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 6 Xun ZHANG, Séminaire 18.nov. 2010
7. Outline 1. Context & Motivation 2. Power consumption & temperature 3. Die temperature measurement p 4. Architectural changes 5 Future Works 5. Future Works Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 7 Xun ZHANG, Séminaire 18.nov. 2010
8. Power Dissipation dt f CV I V E t c DD leak DD ) ( 2    Total Power Dissipation 0 Total Power Dissipation Dynamic Power Dissipation Static Power Dissipation  t leak DD dt I V Switching Power Dissipation Leakage Power Dissipation  t c DD dt f CV 2 Minimize I by: Dissipation Dissipation  leak DD 0 Dissipation Dissipation  c f 0 Minimize Ileak by: – Reducing operating voltage Fewer leaking Minimize Iswitch by: – Reducing operating voltage – Less switching cap Ileak Iswitch – Fewer leaking transistors – Reduce transistor leakage Less switching cap – Less switching activity Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 8 Xun ZHANG, Séminaire 18.nov. 2010
9. Dynamic Power dissipation • Dynamic power • Dynamic power – Average dynamic power (logic gate) 1 f V C P DD L dynamic     2 2 1 C C C C     i i gate wire diff L C C C C , C Cgate,i gate,i α  C : load capacitance Cwire Cdiff  CL : load capacitance  α: switching activity  f: system frequency Dynamic power is relatively insensitive to temperature Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 9 Xun ZHANG, Séminaire 18.nov. 2010 y p y p
10. Static Power Dissipation(cont.) Gate Igate • Static power – Leakage components Gate Drain Source Isub • Sub-threshold leakage (Isub ) • Gate direct-tunneling leakage (Igate ) ) ( sub gate DD leak DD static I I V I V P      V V T ) 1 )( ( 2 ) ( ox ox ox V c V b a BT ox aux g nt ox oxr J gate e T V V T T WLA I     nkT V V q s ld subthresho th GS e q kT L W A I ) ( ) )( (   Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 10 Xun ZHANG, Séminaire 18.nov. 2010 Static power relates directly to temperature
11. Effect of Die temperature • Lifetime – Exponential degradation • Static power – Exponential increase • Circuit delay y Simulation on Virtex-5 FPGA plate-form MTTF vs Junction temperature Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 11 Xun ZHANG, Séminaire 18.nov. 2010
12. Outline 1. Context & Motivation 2. Power consumption & temperature 3. Die temperature measurement p 4. Architectural changes 5 Future Works 5. Future Works Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 12 Xun ZHANG, Séminaire 18.nov. 2010
13. Temperature and Power consumption Power consumption 50 Processing periode : 100 s Processing periode : 50 s 48°C 45 46°C 48 C Max. Temp. is produced during running time 40 40°C ature (°C) Max. Temp. is produced during running time Max.Temp. determines cooling system’s performance 35 38°C Tempera 30 Power (W) Periode 100 s Periode 50 s Static Power 6,072 6,092 Total power 7,028 6,988 Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 13 Xun ZHANG, Séminaire 18.nov. 2010 0 200 400 600 800 1000 1200 Time (s)
14. Ring-oscillator T’=2Nτ’ T=2Nτ τ =T(N/2C)/K T=2Nτ τ =T(N/2C)/K Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 14 Xun ZHANG, Séminaire 18.nov. 2010
15. Thermal identification • Easy to place • Low power consumption 2^14 • Low power consumption • Few logic resource ∑2Nτ 100 MHz Matlab 51-inverter ring oscillator Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 15 Xun ZHANG, Séminaire 18.nov. 2010
16. Impact of temperature Total FPGA die temperature Local peak Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 16 Xun ZHANG, Séminaire 18.nov. 2010 p temperature
17. Local thermal characteristic (1) Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 17 Xun ZHANG, Séminaire 18.nov. 2010
18. Local thermal characteristic (2) temperature on different sensor position Local heat propriety Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 18 Xun ZHANG, Séminaire 18.nov. 2010
19. Local thermal characteristic (3) Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 19 Xun ZHANG, Séminaire 18.nov. 2010
20. Local thermal characteristic (4) Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 20 Xun ZHANG, Séminaire 18.nov. 2010
21. Dynamically Architectural changes… Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 21 Xun ZHANG, Séminaire 18.nov. 2010
22. Hots-pot migration Two identify PEs; Alternate function on different switching frequencies; switching frequencies; 1 Hz, ½ Hz, and 1/3 Hz Thermal sensor placement; Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 22 Xun ZHANG, Séminaire 18.nov. 2010
23. Result RPD 1Hz 42 RPD 1Hz without RPD 42 Without DPR DPR 1/3 Hz DPR 1/2 Hz DPR 1 H 38 40 38 40 DPR 1 Hz 36 perature 34 36 e(°C) 32 34 rage temp 30 32 34 meprature 30 ave 28 30 Tem 0 100 200 26 28 0 20 40 60 80 100 24 26 Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 23 Xun ZHANG, Séminaire 18.nov. 2010 0 100 200 time 0 20 40 60 80 100 Time(s)
24. Thermal sensor value 35000 33000 34000 without RPD RPD 1Hz/2 32000 33000 value RPD 1Hz I 30000 31000 Counter 28000 29000 0 50 100 150 27000 Time Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 24 Xun ZHANG, Séminaire 18.nov. 2010 Time
25. summary • Thermal sensor design and implementation • Temperature-Power relationship studying • Possibility to reduce Hotspot effect by using • Possibility to reduce Hotspot effect by using Dynamic Partial Reconfiguration Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 25 Xun ZHANG, Séminaire 18.nov. 2010
26. Outline 1. Context & Motivation 2. Power consumption & temperature 3. Die temperature measurement p 4. Architectural changes 5 Future Works 5. Future Works Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 26 Xun ZHANG, Séminaire 18.nov. 2010
27. Thermal management for SoC Design T °C Thermal information helps to Thermal information helps to build a thermal modelling  location  working frequency  power consumption  …. Time T0 Configuration rate =f(T0, Pconfig) Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 27 Xun ZHANG, Séminaire 18.nov. 2010 g ( , g)
28. Thermal management for SoC Design Software management policies Hardware management policies Design-time part: Optimal set of frequencies, parallelism levels for the PE for different working condition Hardware management policies Dynamic time part: make a decision to apply one of the predefined sets found in part one. For required system performance and power levels for the PE for different working condition p q y p p economics; make a decision to choose a location to apply hotspot migration Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 28 Xun ZHANG, Séminaire 18.nov. 2010
29. Future work Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 29 Xun ZHANG, Séminaire 18.nov. 2010
30. Hierarchical configuration scenario for homogenous MP area C1 C2 Busy T C2 Busy T C2 Busy T C2 Busy T PE1 Thermal Sensor y PE2 Thermal Sensor y PE3 Thermal Sensor y PE4 Thermal Sensor y Migrating Hotspot  Guarantee performance Guarantee performance  Easily to identify PE location with NoC  Overhead of configuration Circuit Parameters : Frequency, voltage, ... q y, g ,  The most efficient solution  Decease performance Ring topology Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 30 Xun ZHANG, Séminaire 18.nov. 2010
31. Configuration scenario Valve of hotspot migrating p g g process – Free choosing at alarm level Cluster 1 e.g.: T(1..0)=11 – Interrupts function and copy date from the queue – Locally makes decision without communication with central controller – Add updated status of cluster to central t ll Cluster k controller Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 31 Xun ZHANG, Séminaire 18.nov. 2010
32. Exemple of queue of thermal information • Thermal sensor checks remarkable t t i f ti d t l i f temperature information and sent alarm info with computing data ID Computing date T(1..0) T(1..0) Temperature status 00 idle ID Cluster ID PE 01 lowest occupy 10 middle occupy ID_Cluster ID_PE 11 Hotspot Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 32 Xun ZHANG, Séminaire 18.nov. 2010
33. Summary • Thermal issues in FPGAs will grow as more and more g hard blocks are added to the FPGA fabric; • A reduction of few degrees in die temperature could have a high impact on the lifetime, reliability and leakage power of the device, but also cooling system; O Di i l h l h h fl ibili • Our Digital thermal sensor has shown a flexibility solution to identify local thermal propriety; P t ti l bilit t D i P ti l R fi ti • Potential ability to use Dynamic Partial Reconfiguration; • Tutorial : thermal sensor implementation; Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 33 Xun ZHANG, Séminaire 18.nov. 2010
34. Thank you for your attension Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 34 Xun ZHANG, Séminaire 18.nov. 2010
35. Detailed configuration scenario • C2: response hot alarm from PE (operator) and check situation of the others PE in the same check situation of the others PE in the same cluster. Give an order to do hotspot migrating inside cluster • Give an order to do hotspot migrating inside cluster • Require hotspot at higher level • C1: started by requirement of C2 Check situation • C1: started by requirement of C2. Check situation of the others cluster in the system • Decide hotspot migrating between cluster (entire cluster) • Decide hotspot migrating between cluster (entire cluster) • Require circuit parameters modification at the highest level C0: started by requirement of C1 C0: started by requirement of C1 • Partial Frequency scaling or others strategies Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 35 Xun ZHANG, Séminaire 18.nov. 2010
36. Configuration process ID Computing date T(1..0) Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 36 Xun ZHANG, Séminaire 18.nov. 2010
37. Future works • Configuration scenario development C i ith th th d • Comparing with others methods Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 37 Xun ZHANG, Séminaire 18.nov. 2010