본문으로 건너뛰기
Modern Embedded Recipes · 74/152

RTOS 디버깅 기법 — Tracealyzer·SystemView·Stack 추적

· Hawk · 5분 읽기

#한 줄 요약

“RTOS 디버깅은 측정 인프라입니다.” Stack high-water mark, overflow hook, heap stats, trace recorder 네 가지를 처음부터 켜두면 사고가 양산까지 가지 않습니다.

#어떤 상황에서 쓰나

양산 도중 reset이 가끔 한 번씩 발생하는 펌웨어는 거의 대부분 stack overflow 또는 heap 고갈이 원인입니다. 재현이 어렵고 디버거가 attached 되지 않은 상태에서 일어나기 때문에 측정 인프라가 없으면 추정만 하다가 시간이 지나갑니다.

또 한 가지 흔한 상황은 jitter가 갑자기 튀는 경우입니다. 어떤 task가 어떤 lock을 얼마나 잡고 있었는지를 timeline으로 봐야 원인이 보입니다. Tracealyzer나 SystemView 같은 도구가 이 시점에 필요합니다.

#핵심 개념

처음부터 켜두면 좋은 네 가지 인프라입니다.

  1. Stack high-water markuxTaskGetStackHighWaterMark, 최대 사용량
  2. Overflow hookvApplicationStackOverflowHook, overflow 즉시 trap
  3. Heap statsxPortGetFreeHeapSize, xPortGetMinimumEverFreeHeapSize
  4. Trace recorder — SystemView/Tracealyzer, task/ISR timeline

여기에 watchdog과 fault handler까지 더하면 양산 사고가 분석 가능한 형태로 남습니다.

configCHECK_FOR_STACK_OVERFLOW 2 /* canary 방식 — 비싸지만 정확 */
configUSE_MALLOC_FAILED_HOOK 1
configUSE_TRACE_FACILITY 1
configGENERATE_RUN_TIME_STATS 1

이 옵션 네 줄이 RTOS 디버깅의 첫 출발점입니다.

#코드 / 실제 사용 예

#Stack high-water mark 모니터링

void task_monitor(void *arg) {
char buf[256];
for (;;) {
TaskStatus_t info[16];
UBaseType_t n = uxTaskGetSystemState(info, 16, NULL);
for (UBaseType_t i = 0; i < n; i++) {
uint32_t free_bytes = info[i].usStackHighWaterMark * sizeof(StackType_t);
if (free_bytes < 128) {
snprintf(buf, sizeof(buf), "STACK WARN: %s free=%u",
info[i].pcTaskName, (unsigned)free_bytes);
log_warn(buf);
}
}
vTaskDelay(pdMS_TO_TICKS(10000));
}
}

10초마다 모든 task의 stack 여유를 확인하고, 임계 미만이면 경고를 남깁니다. 사고 전에 알아챌 수 있는 가장 단순한 인프라입니다.

#Overflow hook

void vApplicationStackOverflowHook(TaskHandle_t t, char *name) {
/* ISR context, scheduler suspended */
panic_save_to_flash("stack overflow", name);
NVIC_SystemReset();
}

configCHECK_FOR_STACK_OVERFLOW = 2이면 매 context switch마다 stack 끝의 canary(0xA5A5A5A5)를 확인하고 깨졌으면 hook을 부릅니다. 사고 직후 정보를 flash에 남기고 reset합니다.

#Heap 모니터링

void vApplicationMallocFailedHook(void) {
log_err("malloc failed: free=%u min=%u",
(unsigned)xPortGetFreeHeapSize(),
(unsigned)xPortGetMinimumEverFreeHeapSize());
panic("heap exhausted");
}
void heap_log(void) {
log_info("heap free=%u/%u min=%u",
(unsigned)xPortGetFreeHeapSize(),
configTOTAL_HEAP_SIZE,
(unsigned)xPortGetMinimumEverFreeHeapSize());
}

xPortGetMinimumEverFreeHeapSize가 부팅 후 한 번이라도 도달한 최저값입니다. 양산 환경에서 이 값이 0에 가깝다면 heap을 키워야 합니다.

#Deadlock 감지

/* mutex take에 timeout — 양산 코드 전반에 적용 */
if (xSemaphoreTake(m, pdMS_TO_TICKS(500)) != pdTRUE) {
log_err("timeout on mtx %p — possible deadlock", m);
dump_owners();
return ERR_TIMEOUT;
}
/* 디버깅 빌드 — owner 기록 */
typedef struct { SemaphoreHandle_t m; TaskHandle_t owner; const char *file; int line; } dbg_mtx_t;

portMAX_DELAY 대신 timeout을 두면 deadlock이 reset 없이 detectable해집니다. 디버깅 빌드에서는 owner와 lock site를 기록합니다.

#Runtime stats

/* configGENERATE_RUN_TIME_STATS = 1 */
char buf[512];
vTaskGetRunTimeStats(buf);
printf("%s", buf);

출력 예입니다.

TaskAbs Time%
idle1234567085
task_imu9800006
task_log4500003
timer12000<1

CPU 사용량이 task별로 표시됩니다. busy loop이 어디 있는지 즉시 보입니다.

#Trace recorder (SystemView)

#include "SEGGER_SYSVIEW.h"
void task_x(void *arg) {
for (;;) {
SEGGER_SYSVIEW_RecordEnterISR(); /* 또는 task 단위 */
do_work();
SEGGER_SYSVIEW_RecordExitISR();
}
}
/* PC로 J-Link RTT 또는 USB로 실시간 timeline 시각화 */

SystemView나 Tracealyzer는 task/ISR/lock 이벤트의 timeline을 시각화합니다. Jitter, priority inversion, lock contention을 그래프로 즉시 확인할 수 있습니다.

#Watchdog 통합

TimerHandle_t wdt_kick;
void wdt_cb(TimerHandle_t t) {
/* 모든 task의 heartbeat 확인 */
if (all_tasks_alive()) IWDG->KR = 0xAAAA; /* feed */
else log_warn("starved task — wdt will reset");
}
void task_x(void *arg) {
for (;;) {
do_work();
task_alive[TASK_X] = 1;
}
}

Hardware watchdog을 software로 한 단계 감쌉니다. 어떤 task가 굶고 있는지를 reset 전에 기록할 수 있습니다.

#측정 / 성능 비교

인프라overhead
configCHECK_FOR_STACK_OVERFLOW=1 (top of stack 검사)0.1 µs / switch
configCHECK_FOR_STACK_OVERFLOW=2 (canary)0.3 µs / switch
configGENERATE_RUN_TIME_STATS1 µs / switch (HW timer 1개 사용)
SystemView (RTT 모드)2 µs / event
Tracealyzer (J-Link 직접)0 µs (DAP로 RAM 직접 읽음)

Canary 방식 stack 검사가 0.3 µs 정도 듭니다. 양산에서도 켜두는 편이 안전합니다.

RAM 사용량
runtime stats ~16 B / task
trace recorder buffer 8~64 KB (옵션)

Trace recorder는 RAM이 크게 필요하므로 디버깅 빌드에만 켜는 경우가 많습니다.

#자주 보는 함정

디버거에서만 잡으려 함

"양산기에서 reset이 가끔 일어나요" → debugger 없이 분석 불가

Flash에 panic info를 남기는 인프라 없이는 reset 원인을 추정만 하게 됩니다. minimum panic record를 미리 만들어 둡니다.

Heap fragmentation 무시

xPortGetFreeHeapSize(); /* 16 KB free라고 안심 */
/* 실제로는 100 B 블록만 가능 — 1 KB malloc 실패 */

Heap_4는 fragmentation에 시달립니다. 가능하면 static API와 pool로 전환합니다.

Stack을 너무 크게

xTaskCreate(t, "t", 8192, NULL, 2, NULL); /* 32 KB! */

여유 있게 잡으면 RAM이 빠르게 고갈됩니다. 측정 후 high-water mark + 20% 정도가 적정선입니다.

Trace overhead를 무시한 측정

SEGGER_SYSVIEW_OnTaskStartExec(t); /* trace on */
measure_jitter(); /* trace overhead 포함된 값 */

Trace recorder가 켜진 상태의 측정값은 production 값과 다릅니다. 양산 측정은 trace를 끄고 다시 합니다.

Watchdog 없는 양산기

/* IWDG 안 켜고 양산 */

Software 모든 사고는 watchdog이 마지막 안전망입니다. Hardware watchdog은 항상 활성화하고 적절한 timeout을 둡니다.

#정리

  • 네 가지 인프라(stack high-water, overflow hook, heap stats, trace)는 처음부터 켭니다.
  • 양산 reset은 거의 항상 stack overflow나 heap 고갈입니다. 사전 모니터링이 답입니다.
  • Mutex take에는 timeout을 두어 deadlock이 detectable하도록 만듭니다.
  • Runtime stats는 CPU 사용량의 가장 단순한 측정 도구입니다.
  • SystemView/Tracealyzer는 jitter와 priority inversion을 시각적으로 보여줍니다.
  • Hardware watchdog과 panic-to-flash record가 양산 사고 분석의 기본 도구입니다.

다음 편부터 Part 7 임베디드 Linux 부팅 흐름으로 넘어갑니다.

#관련 항목

Modern Embedded Recipes · 75 of 152

  1. 1Modern Embedded Recipes — 모던 임베디드 실전 레시피 시리즈 소개
  2. 2디지털 신호 기초 — Voltage Level·Edge·Setup/Hold 분석
  3. 3임베디드 클럭과 타이밍 — Skew·Jitter·PLL·MMCM 분석
  4. 4GPIO 내부 구조 분해 — Push-Pull·Open-Drain·Schmitt Trigger
  5. 5UART 하드웨어 동작 분석 — Baud Rate·Framing·FIFO
  6. 6SPI 하드웨어 분석 — Clock Mode·MOSI/MISO·Chip Select
  7. 7I2C 하드웨어 분석 — Open-Drain·Clock Stretching·Arbitration
  8. 8ADC 동작 원리 — SAR·Sigma-Delta·Pipelined 비교
  9. 9DAC 동작 원리 — R-2R Ladder·Sigma-Delta·Settling Time
  10. 10PWM 신호 생성 분석 — Duty·Frequency·Dead Time·Center-Aligned
  11. 11CAN 버스 전기적 특성 — Differential·Termination·Dominant/Recessive
  12. 12RS-485·RS-422 차동 신호 분석 — Termination·Biasing·Topology
  13. 13LVDS 차동 신호 분석 — Common-Mode·Impedance·Eye Pattern
  14. 14ARM Cortex-M 시리즈 비교 — M0·M3·M4·M7·M33·M55 분석
  15. 15ARM Cortex-A 시리즈 비교 — A53·A55·A72·A78·X1 분석
  16. 16ARM 레지스터 구조 분석 — R0~R15·CPSR·SPSR·Banked Registers
  17. 17Cortex-M 예외 처리 — Vector Table·NVIC·Tail-Chaining 추적
  18. 18ARM 메모리 맵 분석 — Normal·Device·Strongly-Ordered Region
  19. 19ARM L1·L2 캐시 분석 — Set Associative·Inclusive·Maintenance
  20. 20ARM MPU 활용 — Region·Attribute·Privilege Separation
  21. 21ARM MMU 기초 분석 — Translation Table·TLB·ASID
  22. 22ARM TrustZone-M 기초 — Secure/Non-Secure·NSC·MPC
  23. 23ARM Memory Barrier 실전 — DMB·DSB·ISB·DMA·MMIO
  24. 24임베디드 크로스 컴파일러 분석 — GCC·Clang·Sysroot 구성
  25. 25C 컴파일 4단계 — Preprocess·Compile·Assemble·Link 추적
  26. 26ELF 파일 구조 분석 — Section·Segment·Symbol Table·DWARF
  27. 27링커 스크립트 기초 — SECTIONS·MEMORY·entry point
  28. 28링커 스크립트 고급 — Overlay·BSS·init_array·LMA/VMA
  29. 29임베디드 스타트업 코드 분석 — Reset_Handler·Vector Table·SystemInit
  30. 30C 런타임 crt0 분석 — Stack·BSS Zero·Data Copy·atexit
  31. 31임베디드 메모리 레이아웃 — .text·.rodata·.data·.bss·.heap·.stack
  32. 32임베디드 컴파일러 최적화 분석 — -O0~-O3·-Os·-LTO 비교
  33. 33Map 파일 분석 — Symbol·Section·Size 추적으로 코드 크기 진단
  34. 34Make·CMake 크로스 컴파일 — Toolchain File·Sysroot 통합
  35. 35임베디드 Bootloader 체인 — BootROM·SPL·U-Boot·Kernel·Secure Boot
  36. 36첫 bare-metal 프로그램 작성 — Linker·Startup·main의 최소 구성
  37. 37MMIO 레지스터 직접 접근 — volatile·Memory Map·Aliasing 분석
  38. 38GPIO 드라이버 직접 구현 — STM32 HAL 없이 레지스터로
  39. 39임베디드 클럭 설정 분석 — HSE·PLL·SYSCLK·AHB/APB 분주
  40. 40Cortex-M 인터럽트 핸들링 — NVIC·Priority·Vector·EXTI
  41. 41SysTick 타이머 활용 — 24-bit Counter·1ms Tick·delay 구현
  42. 42UART 드라이버 구현 — polling·interrupt·DMA 3가지 방식 비교
  43. 43SPI 드라이버 구현 — Master·Slave·CRC·DMA
  44. 44I2C 드라이버 구현 — Master·7-bit/10-bit·Clock Stretching 처리
  45. 45임베디드 DMA 기초 — Memory-to-Memory·Peripheral·Circular Mode
  46. 46저전력 모드 분석 — Sleep·Stop·Standby·Wake-up Source
  47. 47IWDG·WWDG 워치독 구현 — Independent vs Window 비교
  48. 48임베디드 Flash 프로그래밍 — Erase·Program·Read While Write
  49. 49DDR 초기화 실패 진단 — Timing·Calibration·Walking Bit Test
  50. 50PWM 출력 실전 — LED 밝기·모터 속도 제어
  51. 51DC 모터 제어 — H-Bridge·PWM Duty·Encoder Feedback
  52. 52스테퍼 모터 제어 — Full Step·Half Step·Microstepping
  53. 53서보 모터 제어 — PWM 1ms~2ms·Closed Loop·PID
  54. 54Character LCD 제어 — HD44780·4-bit Mode·Custom Char
  55. 55SPI OLED 제어 — SSD1306·Frame Buffer·Page 단위 갱신
  56. 56TFT 디스플레이 구동 — RGB565·FSMC·LTDC·DMA2D
  57. 57환경 센서 활용 — BME280 온습압·SHT3x·BMP180 비교
  58. 58IMU 센서 활용 — MPU6050·LSM6DSO·Sensor Fusion
  59. 59CAN 통신 구현 — bxCAN·Filter·Mailbox·CAN-FD
  60. 60USB Device 기초 — Descriptor·Enumeration·Endpoint·HID/CDC
  61. 61Ethernet MAC+PHY 통합 — RMII·lwIP·DMA Descriptor
  62. 62SD Card + FatFs 구현 — SPI/SDIO 모드·CSD/CID·Wear
  63. 63RTC 활용 — Calendar·Alarm·Wake-up Timer·Backup Domain
  64. 64RTOS 도입 결정 분석 — Super Loop vs RTOS 트레이드오프
  65. 65RTOS Task 설계 패턴 — 우선순위·스택·State Machine
  66. 66RTOS Scheduler 동작 분석 — Tick·Context Switch·Yield
  67. 67RTOS Semaphore 활용 — Binary·Counting·ISR Give
  68. 68RTOS Mutex 활용 — Recursive·Priority Inheritance 적용
  69. 69RTOS Queue 활용 — By-Value·By-Reference·Timeout 패턴
  70. 70RTOS Event Group 활용 — Bit Wait·Sync·Notify
  71. 71RTOS Software Timer 활용 — One-shot·Auto-reload·Daemon Task
  72. 72ISR-Safe API 설계 — Reentrant·Atomic·Defer 패턴
  73. 73Priority Inversion 진단·예방 — Mars Pathfinder Lesson 추적
  74. 74Timer Wheel 분석 — Hashed·Hierarchical·O(1) Tick
  75. 75RTOS 디버깅 기법 — Tracealyzer·SystemView·Stack 추적
  76. 76임베디드 Linux 부팅 흐름 분석 — BootROM·U-Boot·Kernel·init
  77. 77U-Boot 활용 — bootcmd·env·tftp·boot.scr 분석
  78. 78Device Tree 실전 — DTS·DTB·Overlay·Phandle 추적
  79. 79Device Tree Overlay 적용 — Runtime fragment·dtoverlay
  80. 80임베디드 커널 빌드 — defconfig·menuconfig·Image·zImage
  81. 81커널 모듈 기초 — init/exit·Parameter·KBuild·DKMS
  82. 82캐릭터 드라이버 작성 — file_operations·cdev·register_chrdev
  83. 83Platform 드라이버 작성 — probe·remove·of_match·DT 바인딩
  84. 84mmap 4가지 모드 — Anonymous·File·Shared·Huge Page
  85. 85epoll 실전 — LT·ET·ONESHOT·EXCLUSIVE 비교
  86. 86UIO·VFIO 분석 — User-Space Driver와 IOMMU 격리
  87. 87sysfs·configfs 활용 — kobject 기반 User 인터페이스
  88. 88IRQ Affinity 튜닝 — smp_affinity·isolcpus·irqbalance
  89. 89루트 파일시스템 구축 — Buildroot 기초·Package·Toolchain
  90. 90임베디드 동적 메모리 — malloc 위험·결정성·대안 분석
  91. 91메모리 정렬과 패딩 분석 — Natural·Strict Alignment·Trap
  92. 92Cache Line Alignment — alignas·Padding·SoA 적용
  93. 93DMA-Friendly Allocator — dma_alloc_coherent·IOMMU·Pool
  94. 94Zero-Copy Pipeline — DMA-BUF·sendfile·io_uring·splice
  95. 95NUMA Memory Topology — numactl·numa_alloc·HBM 적용
  96. 96SIMD 활용 분석 — Intrinsics·Auto-Vectorization·OpenMP SIMD
  97. 97ARM NEON 심화 — Matrix Multiply·FFT·Image Filter 적용
  98. 98임베디드 스택 분석 — high-water·overflow 탐지
  99. 99임베디드 코드 크기 최적화 — -Os·LTO·Section Garbage Collection
  100. 100임베디드 전력 최적화 — Sleep Mode·Clock Gating·DVFS
  101. 101WCET 분석 기법 — Static·Measurement·Hybrid 방법론
  102. 102Lock-Free Ring Buffer 구현 — SPSC·Power-of-2·Memory Order
  103. 103Wait-Free Signaling — Atomic Flag·Sequence·Latest-Value
  104. 104RCU (Read-Copy-Update) 기초 — Quiescent State·Grace Period
  105. 105Hazard Pointer 분석 — Lock-Free Memory Reclamation
  106. 106Compare-And-Swap 패턴 — Stack·Counter·Linked List 적용
  107. 107Atomic Operation 비용 분석 — Fence·Cache Line·Contention
  108. 108Spinlock vs Mutex 결정 가이드 — Context Switch·Hold Time
  109. 109ABA 문제 회피 — Tagged Pointer·Hazard·Generation Counter
  110. 110False Sharing 해결 — Cache Line Padding·SoA 적용
  111. 111MPMC Queue 구현 — Multi-producer Multi-consumer Lock-Free
  112. 112임베디드 디버깅 마인드셋 — 가설·격리·재현·이분탐색
  113. 113JTAG·SWD 안 붙을 때 — 핀·전압·속도·세션 진단
  114. 114GDB 원격 디버깅 — OpenOCD·J-Link·target remote 구성
  115. 115Cortex-M 하드폴트 분석 — Stacked Frame·CFSR 읽기
  116. 116UART 안 찍힐 때 — Bare-metal 체크리스트
  117. 117임베디드 부팅 실패 진단 — 단계별 Isolation
  118. 118인터럽트 누락·중복 진단 — Priority·Pending·Re-entry 추적
  119. 119메모리 오버플로우·오염 진단 — Canary·MPU·Pattern 분석
  120. 120타이밍·Race 진단 — Heisenbug 잡는 법
  121. 121통신 프로토콜 분석 — Logic Analyzer와 Protocol Decoder
  122. 122임베디드 로깅 시스템 설계 — 레벨·버퍼·SWO·Deferred
  123. 123임베디드 포스트모템 분석 — Core Dump와 Field Crash
  124. 124FPGA 기초 분석 — LUT·FF·BRAM·DSP 자원 구조
  125. 125Vivado 사용법 — Project·Constraint·Synth·Impl·Bitstream
  126. 126PCIe BAR 매핑 분석 — Config Space·Enumeration·MMIO 접근
  127. 127AXI 인터페이스 — AXI4·AXI4-Lite·AXI-Stream 비교
  128. 128Zynq PS-PL 통신 — GP·HP·ACP 인터페이스 선택
  129. 129Mailbox Protocol 분석 — Host와 Accelerator를 잇는 Doorbell
  130. 130Command Queue·Submission Queue — NVMe·XDMA 공통 패턴
  131. 131DMA Completion 메커니즘 — Interrupt·Polling·Completion Ring
  132. 132PCIe Streaming 분석 — BAR Type·MSI-X·Kernel Bypass
  133. 133Vitis HLS 분석 — Pragma·Pipeline II·Dataflow 실전 감각
  134. 134HLS 최적화 기법 — Pipeline·Unroll·Partition·Dataflow
  135. 135Vitis AI 분석 — DPU·xmodel·VART
  136. 136OpenCL on FPGA — Kernel·Channel·Burst Memory 분석
  137. 137Intel Quartus 사용법 — Platform Designer·Nios II·HLS
  138. 138Edge Inference 분석 — Cloud vs Edge·Latency·Privacy
  139. 139NPU 아키텍처 분석 — Ethos·Hexagon·Systolic Array 비교
  140. 140딥러닝 Quantization 분석 — PTQ·QAT·INT8·INT4·Calibration
  141. 141TensorRT 분석 — ONNX→Engine·FP16·INT8·DLA·Multi-Stream
  142. 142TFLite Micro 분석 — Op Resolver·Tensor Arena·Cortex-M
  143. 143ONNX Runtime 분석 — Execution Provider와 Cross-Platform 배포
  144. 144Edge Thermal Management — Throttling·DVFS·Fan Curve·Sustained
  145. 145NVIDIA Jetson 분석 — Nano·Xavier·Orin·Thor·JetPack·DLA·VPI
  146. 146Zero-Copy Camera Pipeline — V4L2·DMA-BUF·GPU Import·NPU 직결
  147. 147온디바이스 LLM 추론 — llama.cpp·GGUF·MLX·KV Cache·NPU Backend
  148. 148Cortex-M33 TF-M·TrustZone — Secure Firmware·PSA·MCUboot
  149. 149Matter·Thread 분석 — IoT 통합 표준·Commissioning·Multi-Fabric
  150. 150PCIe → CXL 진화 — 같은 PHY 위 cache-coherent 프로토콜 추가
  151. 151QEMU CXL Type 3 디바이스 에뮬레이션 — 노트북에서 CXL 개발 환경 구축
  152. 152Linux CXL 드라이버 분석 — cxl_pci·cxl_core·region·DAX