Modern Embedded Recipes · 97/152

임베디드 스택 분석 — high-water·overflow 탐지

2026년 4월 17일 · Hawk · 5분 읽기

#한 줄 요약

“Stack overflow는 양산 사고의 1순위 원인입니다.” 패턴 채우기, overflow hook, MPU guard 세 가지 인프라로 양산 전에 잡습니다.

#어떤 상황에서 쓰나

펌웨어가 며칠에 한 번씩 randomly reset 되는 사고는 거의 모두 stack overflow입니다. Recursion 깊이가 input에 따라 변하거나, printf처럼 큰 stack 변수를 쓰는 함수가 깊은 call chain에서 호출되면 양산기에서만 터집니다.

또 한 가지 상황은 RTOS task의 stack size를 정하는 일입니다. 추정만으로는 항상 너무 크거나 너무 작습니다. 측정해서 정해야 합니다.

#핵심 개념

기법	동작
high-water mark	stack 시작 시 패턴(`0xA5A5`)을 채워두고 가장 깊이까지 덮어쓴 위치를 찾는 기법
overflow hook	SP가 stack 끝에 도달하면 trap
canary	stack 끝에 magic 값을 두고 함수 진입/탈출 시 확인
MPU guard	stack 끝 다음 page를 read-only로 만들어 HW가 trap

세 기법은 층층이 쌓는 것이 안전합니다.

1차 — high-water mark로 평소 사용량 측정 → size 결정
2차 — overflow hook으로 사고 발생 시 즉시 trap
3차 — MPU guard로 HW 차원 보호

#코드 / 실제 사용 예

#Stack 패턴 채우기

1
extern uint32_t _estack;
2
extern uint32_t _sstack;
3

4
void fill_stack_pattern(void) {
5
    uint32_t *p = &_sstack;
6
    while (p < &_estack)
7
        *p++ = 0xA5A5A5A5;
8
}
9

10
size_t stack_used(void) {
11
    uint32_t *p = &_sstack;
12
    while (p < &_estack && *p == 0xA5A5A5A5) p++;
13
    return (uint8_t *)&_estack - (uint8_t *)p;
14
}

부팅 직후 패턴을 깔고, 어느 시점에서나 used bytes를 계산할 수 있습니다.

#FreeRTOS task 별 high-water

1
void task_check(void *arg) {
2
    for (;;) {
3
        UBaseType_t wm = uxTaskGetStackHighWaterMark(NULL);
4
        if (wm * sizeof(StackType_t) < 256) {
5
            log_warn("low stack: %u free bytes", wm * 4);
6
        }
7
        vTaskDelay(pdMS_TO_TICKS(10000));
8
    }
9
}
10

11
void task_monitor_all(void *arg) {
12
    TaskStatus_t s[16];
13
    UBaseType_t n = uxTaskGetSystemState(s, 16, NULL);
14
    for (UBaseType_t i = 0; i < n; i++) {
15
        printf("%s free=%u bytes\n", s[i].pcTaskName,
16
               s[i].usStackHighWaterMark * sizeof(StackType_t));
17
    }
18
}

uxTaskGetStackHighWaterMark가 free word를 돌려주므로 byte로 변환합니다. 100 byte 미만이면 경고를 남깁니다.

#Overflow hook (FreeRTOS)

1
/* configCHECK_FOR_STACK_OVERFLOW = 2 (canary 방식) */
2
void vApplicationStackOverflowHook(TaskHandle_t t, char *name) {
3
    /* ISR context, scheduler suspended */
4
    panic_log("stack overflow", name);
5
    NVIC_SystemReset();
6
}

configCHECK_FOR_STACK_OVERFLOW가 2이면 매 context switch 시점에 canary를 확인하고, 깨졌으면 hook이 호출됩니다.

#Compiler stack protector

1
gcc -fstack-protector-strong -o main main.c

GCC가 함수 진입 시 canary를 stack에 push하고, return 직전에 확인합니다. ROP 공격과 stack overflow 모두에 대응합니다.

1
/* canary mismatch 시 호출되는 handler */
2
__attribute__((noreturn)) void __stack_chk_fail(void) {
3
    panic_log("canary corrupted", NULL);
4
    NVIC_SystemReset();
5
}

#MPU stack guard (Cortex-M)

1
/* stack 끝 page를 read-only로 설정 — overflow 시 즉시 MemManage fault */
2
void setup_stack_guard(void) {
3
    MPU->RBAR = (uint32_t)&_sstack;
4
    MPU->RASR = MPU_RASR_ENABLE_Msk
5
              | (MPU_REGION_SIZE_256 << MPU_RASR_SIZE_Pos)
6
              | MPU_ACCESS_RO;
7
    MPU->CTRL |= MPU_CTRL_ENABLE_Msk;
8
}
9

10
void MemManage_Handler(void) {
11
    panic_log("stack guard hit", NULL);
12
    NVIC_SystemReset();
13
}

stack 첫 256 byte를 read-only로 만들어 두면 SP가 그 영역에 도달하는 순간 hardware가 fault를 발생시킵니다. 메모리 corruption이 일어나기 전에 잡힙니다.

#Bare-metal main stack

1
/* linker script — STM32 예시 */
2
_estack = ORIGIN(RAM) + LENGTH(RAM);  /* stack은 RAM 끝부터 */
3

4
ENTRY(Reset_Handler)
5
MEMORY {
6
    RAM (rwx) : ORIGIN = 0x20000000, LENGTH = 128K
7
}

1
void Reset_Handler(void) {
2
    /* main stack 채우기 */
3
    extern uint32_t _sstack, _estack;
4
    for (uint32_t *p = &_sstack; p < &_estack; p++) *p = 0xA5A5A5A5;
5
    main();
6
}

main stack은 linker script로 정의되고, reset handler에서 패턴을 채울 수 있습니다.

#함수별 stack usage 분석

1
# GCC stack usage report
2
gcc -fstack-usage main.c
3

4
# main.su 파일 생성
5
$ cat main.su
6
main.c:42:func    96    static
7
main.c:55:big     2048  static
8
main.c:60:rec     16    dynamic,bounded

각 함수가 얼마나 stack을 쓰는지 컴파일 시 보여줍니다. static은 안전, dynamic은 input에 따라 변함, bounded는 컴파일 시 상한 추정 가능을 의미합니다.

#Worst-case call chain

1
# puncover, stack-usage-analyzer 같은 도구
2
puncover --elf firmware.elf
3
# 함수별 stack + 호출 트리 + worst-case path

여러 도구가 ELF와 .su 파일을 통합해 worst-case call path를 보여줍니다. 양산 펌웨어에서 표준 분석 단계입니다.

#측정 / 성능 비교

인프라	overhead
high-water mark (한 번 채우기)	수십 µs (부팅 시)
high-water 측정 (매 회)	수십 µs (영역 scan)
FreeRTOS canary 검사	0.3 µs / context switch
GCC stack protector	함수당 2~4 cycle 추가
MPU guard	0 cycle (HW)

MPU guard는 가장 강력하면서 overhead가 없습니다. Cortex-M3 이상이라면 항상 켜는 것이 좋습니다.

1
대표 size 추정 (Cortex-M4, FreeRTOS)
2
간단한 task (LED, button)         128~256 B
3
일반 driver task                  512~1024 B
4
printf 사용 task                  1024+ B
5
TCP/IP, lwIP task                 2048+ B
6
filesystem (FATFS) 사용           1024+ B

printf와 floating point가 가장 큰 stack 사용자입니다. embedded 환경에서는 tiny printf나 fixed-point로 대체합니다.

#자주 보는 함정

추정만으로 size 결정

1
xTaskCreate(t, "t", 128, ...);   /* 측정 없이 */

128 word(512 B)가 충분한지 측정 없이는 알 수 없습니다. 항상 high-water mark를 확인합니다.

Recursion 깊이를 input에 의존

1
int parse(node *n) {
2
    if (n) parse(n->child);
3
}

input depth가 unbounded면 stack overflow가 input attack vector가 됩니다. 반복문 + explicit stack으로 변환합니다.

printf에 큰 buffer

1
char buf[2048];        /* stack에 */
2
snprintf(buf, sizeof(buf), ...);

큰 local buffer는 static으로 옮기거나 heap에서 받습니다. stack에는 작은 buffer만 둡니다.

Floating-point 사용

1
void task_x(void *arg) {
2
    double x = sin(t);     /* FPU register save → stack 사용 큼 */
3
}

ARM Cortex-M4F에서 floating-point context save에 추가로 32 word(128 byte)가 필요합니다. task stack에 여유를 둡니다.

Linker error를 무시

1
section `.bss' will not fit in region `RAM'

.bss나 .data가 RAM을 다 쓰면 stack 영역이 부족합니다. linker script와 memory map을 다시 확인합니다.

#정리

Stack overflow는 양산 사고 1순위입니다. 처음부터 인프라를 켭니다.
High-water mark(패턴 채우기)로 실제 사용량을 측정해 size를 정합니다.
FreeRTOS canary는 매 context switch에서 overflow를 잡습니다.
GCC stack protector는 함수 단위로 canary를 확인합니다.
MPU guard는 HW로 0 cycle에 overflow를 잡는 가장 강력한 보호입니다.
printf와 FPU 사용 task는 stack 여유를 더 줍니다.
Recursion 깊이는 input에 의존하지 않게 설계합니다.

다음 편은 코드 크기 최적화입니다. -Os, LTO, section gc를 다룹니다.

임베디드 스택 분석 — high-water·overflow 탐지

#한 줄 요약

#어떤 상황에서 쓰나

#핵심 개념

#코드 / 실제 사용 예

#Stack 패턴 채우기

#FreeRTOS task 별 high-water

#Overflow hook (FreeRTOS)

#Compiler stack protector

#MPU stack guard (Cortex-M)

#Bare-metal main stack

#함수별 stack usage 분석

#Worst-case call chain

#측정 / 성능 비교

#자주 보는 함정

#정리

#관련 항목

Modern Embedded Recipes · 98 of 152

관련 글

메모리 오버플로우·오염 진단 — Canary·MPU·Pattern 분석

NUMA Memory Topology — numactl·numa_alloc·HBM 적용

메모리 정렬과 패딩 분석 — Natural·Strict Alignment·Trap

이 글을 참조하는 글 (3)