Edge Thermal Management — Throttling·DVFS·Fan Curve·Sustained

#한 줄 요약

“Edge AI 보드의 진짜 spec은 burst가 아니라 sustained 성능입니다.” 105 × 105 mm 보드에 60 W를 부으면 10초 안에 95°C에 도달해 frequency가 절반으로 떨어집니다. Thermal 설계 없이는 datasheet TOPS가 의미를 잃습니다.

#어떤 상황에서 쓰나

자율주행 ECU, drone autopilot, factory inspection 박스, 카메라 NVR 모두 수 시간 연속 동작을 전제로 합니다. 데이터센터 GPU와 달리 큰 fan과 chiller를 못 쓰고, 자동차 cabin은 ambient가 +85°C까지 올라갑니다.

문제는 spec sheet의 TOPS·fps 숫자가 거의 항상 burst 기준이라는 점입니다. 30초만 측정하면 throttle이 일어나기 전이므로 실제 deploy 환경의 sustained 수치보다 1.5~2배 높게 나옵니다. 처음부터 sustained 기준으로 측정하고 enclosure·heatsink를 함께 설계해야 합니다.

#핵심 개념

Thermal throttle은 SoC가 junction temperature(Tj) 한계에 도달하면 frequency를 강제로 낮추는 방식으로 동작합니다. 보통 3단계입니다.

DVFS(Dynamic Voltage and Frequency Scaling)가 throttle의 실제 mechanism입니다. Linux kernel이 thermal zone trip을 감지하면 cpufreq governor가 frequency를 떨어뜨리고, GPU·DLA는 vendor driver가 별도 관리합니다.

Cooling은 세 옵션이 있습니다.

자동차·ASIL ECU는 fanless가 거의 강제입니다. 먼지·진동·수명 문제로 fan을 못 쓰기 때문에 처음부터 낮은 clock으로 thermal headroom을 확보합니다.

Production deploy의 핵심은 margin입니다. Chip max가 105°C라면 정상 운영을 85°C 이하로 두고 15~20°C margin을 둡니다. Ambient가 dynamic하게 변하기 때문입니다.

#코드 / 실제 사용 예

#tegrastats — Jetson 실시간 모니터

1
sudo tegrastats --interval 1000
2

3
# RAM 12345/30536MB CPU [50%@2200,30%@2200,...]
4
# GR3D_FREQ 80%@1300  CV0@45.5C CPU@52C GPU@67C SOC@70C
5
# VDD_GPU_SOC 6800/6800  VDD_CPU_CV 800/800

CPU·GPU·thermal zone·power rail이 한 번에 보입니다. Long-running 추론을 돌리며 1시간 trend를 찍는 것이 sustained 측정의 기본입니다.

#thermal zone 직접 읽기

1
# 사용 가능한 thermal zone
2
ls /sys/class/thermal/
3
# thermal_zone0  thermal_zone1  ...
4

5
# 각 zone 정보
6
cat /sys/class/thermal/thermal_zone0/type        # CPU-therm
7
cat /sys/class/thermal/thermal_zone0/temp        # 65000 (65.0°C)
8
cat /sys/class/thermal/thermal_zone0/policy      # step_wise
9

10
# Trip points
11
cat /sys/class/thermal/thermal_zone0/trip_point_0_temp   # 60000 (fan ramp)
12
cat /sys/class/thermal/thermal_zone0/trip_point_1_temp   # 85000 (throttle)
13
cat /sys/class/thermal/thermal_zone0/trip_point_2_temp   # 95000 (shutdown)

/sys/class/thermal은 표준 Linux thermal framework입니다. Custom application의 telemetry에도 활용합니다.

#nvpmodel — Jetson power mode

1
# 현재 mode 확인
2
sudo nvpmodel -q
3
# NV Power Mode: MAXN
4
# 0
5

6
# Mode 전환
7
sudo nvpmodel -m 0   # MAXN (all enabled, max freq)
8
sudo nvpmodel -m 1   # 30W
9
sudo nvpmodel -m 2   # 15W (low power)
10

11
# Custom mode (편집)
12
sudo vi /etc/nvpmodel.conf

각 mode는 CPU/GPU/DLA frequency cap + power budget의 조합입니다. Production deployment는 보통 MAXN보다 한 단계 아래(30 W)에서 운영하는 편이 sustained 성능이 더 좋습니다.

#Power telemetry를 application에서

1
#include <stdio.h>
2
#include <stdlib.h>
3

4
int read_thermal(const char *path) {
5
    FILE *f = fopen(path, "r");
6
    if (!f) return -1;
7
    int millideg;
8
    fscanf(f, "%d", &millideg);
9
    fclose(f);
10
    return millideg / 1000;   /* °C */
11
}
12

13
void thermal_monitor(void) {
14
    int cpu = read_thermal("/sys/class/thermal/thermal_zone0/temp");
15
    int gpu = read_thermal("/sys/class/thermal/thermal_zone1/temp");
16

17
    if (cpu > 80 || gpu > 80) {
18
        log_warn("High temp cpu=%d gpu=%d, reducing workload", cpu, gpu);
19
        reduce_inference_rate();
20
    }
21
    if (cpu > 90 || gpu > 90) {
22
        log_error("Critical temp, entering safe mode");
23
        enter_safe_mode();
24
    }
25
}

Production application은 thermal trend를 1~5 sec 주기로 읽어 workload를 능동적으로 조절합니다.

#Fan curve 설정

1
# PWM fan 직접 제어 (Jetson)
2
cat /sys/devices/.../pwm-fan/hwmon0/pwm1
3
echo 180 > /sys/devices/.../pwm-fan/hwmon0/pwm1   # 0~255
4

5
# Device tree로 cooling-levels 정의
6
fan: pwm-fan {
7
    compatible = "pwm-fan";
8
    pwms = <&pwmc 0 45334>;
9
    cooling-levels = <0 64 128 192 255>;
10
};

cooling-levels는 thermal zone의 step level에 매핑됩니다. step_wise governor가 trip을 감지하면 한 단계씩 올립니다.

#Sustained 성능 측정

1
# 5분 burst 측정
2
timeout 300 ./yolo_bench --fps_log fps.log
3
# 평균 60 fps
4

5
# 1시간 sustained 측정
6
timeout 3600 ./yolo_bench --fps_log fps_long.log
7
# 처음 60 fps → 5분 후 50 fps → 30분 후 32 fps
8

9
# tegrastats 동시에
10
sudo tegrastats --logfile thermal.log &

Spec과 production 차이가 가장 크게 드러나는 부분입니다. 항상 1시간 이상 측정합니다.

#jetson_clocks — burst max

1
# 모든 clock을 max로 lock — benchmarking·development
2
sudo jetson_clocks
3

4
# 원래대로 복원
5
sudo jetson_clocks --restore /tmp/backup.conf

jetson_clocks은 thermal awareness를 끄는 명령입니다. Burst 측정·single-shot demo에만 씁니다. Production에서 켜두면 thermal trip이 발생합니다.

#측정 / 성능 비교

Jetson AGX Orin에서 YOLOv8m INT8 추론을 power mode별로 sustained 측정한 예입니다.

MAXN은 burst 220 fps라는 화려한 숫자가 나오지만 sustained는 140 fps로 떨어집니다. 40W mode가 burst·sustained가 같은 가장 효율적인 지점입니다.

Cooling 옵션별 비교(같은 SoC, 동일 workload)입니다.

Heatsink만 키워도 sustained가 2.5배 차이가 납니다. 가장 저렴한 thermal 투자가 가장 큰 효과를 냅니다.

#자주 보는 함정

Burst benchmark만 측정

1
./bench --duration 30
2
# 60 fps — datasheet 일치, 만족
3
# 실제 운영 → 1시간 후 32 fps

항상 1시간 이상 long-run 측정을 합니다. Cold start와 warm steady state는 다릅니다.

jetson_clocks production 활성화

1
sudo jetson_clocks   # always max — 며칠 후 thermal trip

Production은 nvpmodel로 thermal-aware mode를 선택합니다.

Fan을 무조건 신뢰

1
/* fan 전제 설계 */
2
/* 1년 후 먼지 누적으로 fan RPM 50% → throttle */

먼지·진동·진동 환경(자동차)이라면 fanless·passive를 우선 검토합니다. Fan을 쓰더라도 monitoring + alert를 갖춥니다.

Margin 부족

1
chip max 105°C, 정상 운영 102°C
2
→ ambient 5°C 상승만으로 trip

Tj 한계 대비 15~20°C margin을 두고 enclosure·workload를 설계합니다.

Enclosure ventilation 부족

1
완전 밀폐 IP67 box → 내부 ambient SoC + 20°C
2
→ heatsink 무용지물

IP rating이 필요하면 conduction으로 외부 panel에 열을 전달하는 설계가 필요합니다. 위성·자동차 ECU의 표준 방식입니다.

Workload가 transient burst만 큼

1
30 fps × 1 batch → 매 frame burst → 평균 80°C
2
1 fps × 30 batch → 같은 일이지만 burst가 더 큼 → throttle

Batch 크기와 분배를 조절해 순간 power spike를 줄입니다.

#정리

• Edge AI 보드의 실제 spec은 burst가 아닌 sustained 성능입니다.
• Throttle은 보통 85°C 부근에서 시작해 frequency를 단계적으로 낮춥니다.
• tegrastats·/sys/class/thermal로 CPU·GPU·thermal zone을 실시간 모니터합니다.
• nvpmodel로 power mode를 thermal-aware하게 설정합니다. jetson_clocks는 production 금지입니다.
• Fanless·passive cooling은 자동차·산업·위성에서 사실상 강제입니다.
• Production application은 thermal trend를 읽어 workload를 능동 조절합니다.
• Tj 한계 대비 15~20°C margin을 두고 enclosure·heatsink를 설계합니다.
• Long-run(1시간+) 측정이 sustained 성능을 드러내는 유일한 방법입니다.

다음 편은 Jetson 가족과 최적화 stack입니다.

#관련 항목

• 6-03: Quantization
• 6-05: Jetson
• PE 3-10: Thermal Throttling