본문으로 건너뛰기
Modern Embedded Recipes · 101/152

Lock-Free Ring Buffer 구현 — SPSC·Power-of-2·Memory Order

· Hawk · 4분 읽기

#한 줄 요약

“SPSC ring = head/tail + atomic + release/acquire” ISR과 task 사이에서 가장 빠른 IPC입니다.

#기본 SPSC Ring

Ring 안에서 head와 tail이 어떻게 움직이는지 그림으로 먼저 잡고 코드를 봅니다.

SPSC ring buffer — head는 producer, tail은 consumer

#define RING_SIZE 64 /* power of 2 */
#define RING_MASK (RING_SIZE - 1)
typedef struct {
uint8_t buf[RING_SIZE];
volatile uint16_t head; /* producer writes */
volatile uint16_t tail; /* consumer writes */
} ring_t;
bool ring_push(ring_t *r, uint8_t b) {
uint16_t h = r->head;
uint16_t next = (h + 1) & RING_MASK;
if (next == r->tail) return false; /* full */
r->buf[h] = b;
r->head = next; /* commit */
return true;
}
bool ring_pop(ring_t *r, uint8_t *out) {
uint16_t t = r->tail;
if (t == r->head) return false; /* empty */
*out = r->buf[t];
r->tail = (t + 1) & RING_MASK;
return true;
}

Producer만 head를 변경하고 consumer만 tail을 변경합니다. 서로 다른 변수에만 write하므로 race가 발생하지 않습니다.

#Power-of-2 — 왜 중요한가

uint16_t next = (h + 1) & RING_MASK; /* AND — 1 cycle */
/* vs */
uint16_t next = (h + 1) % RING_SIZE; /* MOD — 10+ cycle (div) */

Cortex-M3에서는 div 명령이 12 cycle인 반면 AND mask는 1 cycle에 끝납니다.

그래서 RING_SIZE반드시 power of 2(16, 32, 64, 128, …)여야 합니다.

#Memory Order — Release/Acquire

#include <stdatomic.h>
bool ring_push_atomic(ring_t *r, uint8_t b) {
uint16_t h = atomic_load_explicit(&r->head, memory_order_relaxed);
uint16_t next = (h + 1) & RING_MASK;
uint16_t t = atomic_load_explicit(&r->tail, memory_order_acquire);
if (next == t) return false;
r->buf[h] = b; /* data write */
atomic_store_explicit(&r->head, next, memory_order_release);
/* ↑ data write가 head 갱신 *전*에 가시화 */
return true;
}

Release/acquire pair를 쓰면 producer의 buf[h] write가 consumer의 head read 이후에 가시화됩니다.

#ARM Cortex-M Single Core

/* Cortex-M3/M4 single core — pipeline in-order */
/* DMB 없이도 program order 유지 */
volatile uint16_t head, tail; /* volatile은 컴파일러 차단만 */

Single core에서는 재정렬이 없습니다(in-order pipeline에 같은 주소의 store buffer reorder도 없습니다). 그래서 volatile만으로 충분합니다.

#ARM SMP — DMB·LDAR/STLR 필요

/* Cortex-A SMP 또는 RP2040 dual-M0+ */
atomic_store_explicit(&head, next, memory_order_release);

SMP에서는 반드시 atomic과 memory order를 함께 써야 합니다. 그렇지 않으면 race가 발생할 수 있습니다.

#Cache Alignment — False Sharing 방지

typedef struct {
alignas(64) volatile uint16_t head;
char pad1[64 - sizeof(uint16_t)];
alignas(64) volatile uint16_t tail;
char pad2[64 - sizeof(uint16_t)];
alignas(64) uint8_t buf[RING_SIZE];
} ring_t;

Cortex-A SMP에서는 head와 tail이 같은 line에 있으면 false sharing이 발생해 10배 가까이 느려질 수 있습니다.

#Multi-Byte Push

size_t ring_push_n(ring_t *r, const uint8_t *data, size_t n) {
uint16_t h = r->head, t = r->tail;
size_t free = (t - h - 1) & RING_MASK;
if (n > free) n = free;
/* Split copy across wrap */
size_t first = RING_SIZE - h;
if (first > n) first = n;
memcpy(&r->buf[h], data, first);
memcpy(&r->buf[0], data + first, n - first);
r->head = (h + n) & RING_MASK;
return n;
}

Wrap을 한 번에 처리하므로 byte loop보다 빠릅니다. UART와 CAN의 큰 frame에서 특히 유리합니다.

#ISR↔Task 사용

ring_t uart_rx_ring;
void UART_IRQHandler(void) {
uint8_t byte = UART->RDR;
ring_push(&uart_rx_ring, byte); /* lock-free */
}
void uart_task(void *p) {
uint8_t byte;
for (;;) {
if (ring_pop(&uart_rx_ring, &byte)) {
process(byte);
} else {
vTaskDelay(1); /* yield */
}
}
}

ISR이 queue API를 쓰지 않으므로 매우 빠릅니다. FromISR 호출 overhead도 0입니다.

#Notification 합쳐서

ring_t uart_rx_ring;
volatile bool data_ready;
void UART_IRQHandler(void) {
BaseType_t pxHP = pdFALSE;
uint8_t byte = UART->RDR;
if (ring_push(&uart_rx_ring, byte)) {
if (!data_ready) {
data_ready = true;
xSemaphoreGiveFromISR(uart_sem, &pxHP);
}
}
portYIELD_FROM_ISR(pxHP);
}
void uart_task(void *p) {
for (;;) {
xSemaphoreTake(uart_sem, portMAX_DELAY);
data_ready = false;
uint8_t byte;
while (ring_pop(&uart_rx_ring, &byte)) {
process(byte);
}
}
}

매 byte마다 semaphore give를 호출하는 대신 flag로 합칩니다. 그러면 ISR overhead가 줄어듭니다.

#Vyukov MPMC Queue

Multi-producer multi-consumer는 훨씬 복잡합니다.

struct cell {
atomic_size_t sequence;
T data;
};
bool mpmc_push(mpmc_t *q, T item) {
size_t pos = atomic_load(&q->enq_pos);
while (1) {
struct cell *c = &q->buf[pos & MASK];
size_t seq = atomic_load(&c->sequence);
if (seq == pos) {
if (atomic_compare_exchange_weak(&q->enq_pos, &pos, pos + 1)) {
c->data = item;
atomic_store(&c->sequence, pos + 1);
return true;
}
} else if (seq < pos) {
return false; /* full */
} else {
pos = atomic_load(&q->enq_pos);
}
}
}

Dmitry Vyukov가 제안한 MPMC 알고리즘으로, Folly와 LMAX, DPDK가 채택했습니다. 진짜 lock-free 방식입니다.

#ABA — SPSC엔 없음

SPSC — producer/consumer 각 1개
→ head는 producer만, tail은 consumer만 변경
→ 같은 변수 두 thread가 write 안 함 → ABA 없음

Lock-free stack과 queue에서 흔히 등장하는 ABA 문제는 SPSC에서는 발생하지 않습니다.

#Static Allocation

static ring_t g_uart_ring; /* static — heap 안 씀 */
ring_t *get_ring(void) { return &g_uart_ring; }

ISR과 task가 같은 static instance를 공유해서 씁니다.

#DPDK rte_ring — 표준 라이브러리

struct rte_ring *r = rte_ring_create("name", 1024,
SOCKET_ID_ANY,
RING_F_SP_ENQ | RING_F_SC_DEQ);
rte_ring_sp_enqueue(r, obj);
rte_ring_sc_dequeue(r, &obj);

DPDK ring은 bulk operation에 최적화되어 있습니다. 10G 이더넷에서 표준처럼 쓰입니다.

#STM32H7 — DMA UART + Ring

/* DMA가 ring buffer에 직접 write */
HAL_UART_Receive_DMA(&huart, ring.buf, RING_SIZE);
/* Task — DMA NDTR로 head 계산 */
void uart_task(void *p) {
for (;;) {
uint16_t dma_ndtr = DMA->NDTR; /* 남은 count */
uint16_t head = RING_SIZE - dma_ndtr;
while (ring.tail != head) {
process(ring.buf[ring.tail]);
ring.tail = (ring.tail + 1) & RING_MASK;
}
vTaskDelay(1);
}
}

ISR 자체가 필요 없고 DMA와 polling만으로 동작합니다. 1 Mbps 이상의 high baud UART에서 표준으로 쓰입니다.

#Stream Buffer — FreeRTOS Built-in

StreamBufferHandle_t sb = xStreamBufferCreate(256, 1);
/* ISR */
xStreamBufferSendFromISR(sb, &byte, 1, &pxHP);
/* Task */
xStreamBufferReceive(sb, buf, n, portMAX_DELAY);

FreeRTOS는 내부적으로 ring buffer와 locking을 함께 씁니다. 직접 구현한 것보다 약간 느리지만, API가 깔끔합니다.

#자주 하는 실수

⚠️ Power-of-2 아닌 size

#define RING_SIZE 100 /* ← MOD operation 매번 */

대신 64 또는 128처럼 power-of-2 크기를 씁니다.

⚠️ Volatile만 + SMP

volatile uint16_t head; /* SMP에선 부족 */

대신 atomic_*에 memory order를 함께 지정해야 합니다.

⚠️ False sharing 무시

struct { volatile uint16_t head, tail; uint8_t buf[]; } ring;
/* head·tail 같은 line — SMP에서 ping-pong */

이때는 alignas(64)로 분리해야 합니다.

⚠️ Multi-producer 가정

/* 2 ISR이 같은 ring push */
ring_push(r, b); /* race — SPSC 보장 깨짐 */

이런 경우에는 MPMC ring을 쓰거나 lock과 ring을 함께 사용해야 합니다.

#정리

  • SPSC ring은 head/tail + atomic + release/acquire 조합으로 구성합니다.
  • Power-of-2 size에 AND mask를 써서 div를 회피합니다.
  • Cortex-M single core에서는 volatile만으로 충분합니다.
  • SMP에서는 *반드시 atomic과 alignas(64)*를 함께 적용합니다.
  • ABA 문제는 SPSC에서는 무관합니다.
  • DMA UART에서 ring을 거쳐 task로 가는 흐름이 zero ISR 패턴입니다.

다음 편은 Priority Inversion입니다.

#관련 항목

Modern Embedded Recipes · 102 of 152

  1. 1Modern Embedded Recipes — 모던 임베디드 실전 레시피 시리즈 소개
  2. 2디지털 신호 기초 — Voltage Level·Edge·Setup/Hold 분석
  3. 3임베디드 클럭과 타이밍 — Skew·Jitter·PLL·MMCM 분석
  4. 4GPIO 내부 구조 분해 — Push-Pull·Open-Drain·Schmitt Trigger
  5. 5UART 하드웨어 동작 분석 — Baud Rate·Framing·FIFO
  6. 6SPI 하드웨어 분석 — Clock Mode·MOSI/MISO·Chip Select
  7. 7I2C 하드웨어 분석 — Open-Drain·Clock Stretching·Arbitration
  8. 8ADC 동작 원리 — SAR·Sigma-Delta·Pipelined 비교
  9. 9DAC 동작 원리 — R-2R Ladder·Sigma-Delta·Settling Time
  10. 10PWM 신호 생성 분석 — Duty·Frequency·Dead Time·Center-Aligned
  11. 11CAN 버스 전기적 특성 — Differential·Termination·Dominant/Recessive
  12. 12RS-485·RS-422 차동 신호 분석 — Termination·Biasing·Topology
  13. 13LVDS 차동 신호 분석 — Common-Mode·Impedance·Eye Pattern
  14. 14ARM Cortex-M 시리즈 비교 — M0·M3·M4·M7·M33·M55 분석
  15. 15ARM Cortex-A 시리즈 비교 — A53·A55·A72·A78·X1 분석
  16. 16ARM 레지스터 구조 분석 — R0~R15·CPSR·SPSR·Banked Registers
  17. 17Cortex-M 예외 처리 — Vector Table·NVIC·Tail-Chaining 추적
  18. 18ARM 메모리 맵 분석 — Normal·Device·Strongly-Ordered Region
  19. 19ARM L1·L2 캐시 분석 — Set Associative·Inclusive·Maintenance
  20. 20ARM MPU 활용 — Region·Attribute·Privilege Separation
  21. 21ARM MMU 기초 분석 — Translation Table·TLB·ASID
  22. 22ARM TrustZone-M 기초 — Secure/Non-Secure·NSC·MPC
  23. 23ARM Memory Barrier 실전 — DMB·DSB·ISB·DMA·MMIO
  24. 24임베디드 크로스 컴파일러 분석 — GCC·Clang·Sysroot 구성
  25. 25C 컴파일 4단계 — Preprocess·Compile·Assemble·Link 추적
  26. 26ELF 파일 구조 분석 — Section·Segment·Symbol Table·DWARF
  27. 27링커 스크립트 기초 — SECTIONS·MEMORY·entry point
  28. 28링커 스크립트 고급 — Overlay·BSS·init_array·LMA/VMA
  29. 29임베디드 스타트업 코드 분석 — Reset_Handler·Vector Table·SystemInit
  30. 30C 런타임 crt0 분석 — Stack·BSS Zero·Data Copy·atexit
  31. 31임베디드 메모리 레이아웃 — .text·.rodata·.data·.bss·.heap·.stack
  32. 32임베디드 컴파일러 최적화 분석 — -O0~-O3·-Os·-LTO 비교
  33. 33Map 파일 분석 — Symbol·Section·Size 추적으로 코드 크기 진단
  34. 34Make·CMake 크로스 컴파일 — Toolchain File·Sysroot 통합
  35. 35임베디드 Bootloader 체인 — BootROM·SPL·U-Boot·Kernel·Secure Boot
  36. 36첫 bare-metal 프로그램 작성 — Linker·Startup·main의 최소 구성
  37. 37MMIO 레지스터 직접 접근 — volatile·Memory Map·Aliasing 분석
  38. 38GPIO 드라이버 직접 구현 — STM32 HAL 없이 레지스터로
  39. 39임베디드 클럭 설정 분석 — HSE·PLL·SYSCLK·AHB/APB 분주
  40. 40Cortex-M 인터럽트 핸들링 — NVIC·Priority·Vector·EXTI
  41. 41SysTick 타이머 활용 — 24-bit Counter·1ms Tick·delay 구현
  42. 42UART 드라이버 구현 — polling·interrupt·DMA 3가지 방식 비교
  43. 43SPI 드라이버 구현 — Master·Slave·CRC·DMA
  44. 44I2C 드라이버 구현 — Master·7-bit/10-bit·Clock Stretching 처리
  45. 45임베디드 DMA 기초 — Memory-to-Memory·Peripheral·Circular Mode
  46. 46저전력 모드 분석 — Sleep·Stop·Standby·Wake-up Source
  47. 47IWDG·WWDG 워치독 구현 — Independent vs Window 비교
  48. 48임베디드 Flash 프로그래밍 — Erase·Program·Read While Write
  49. 49DDR 초기화 실패 진단 — Timing·Calibration·Walking Bit Test
  50. 50PWM 출력 실전 — LED 밝기·모터 속도 제어
  51. 51DC 모터 제어 — H-Bridge·PWM Duty·Encoder Feedback
  52. 52스테퍼 모터 제어 — Full Step·Half Step·Microstepping
  53. 53서보 모터 제어 — PWM 1ms~2ms·Closed Loop·PID
  54. 54Character LCD 제어 — HD44780·4-bit Mode·Custom Char
  55. 55SPI OLED 제어 — SSD1306·Frame Buffer·Page 단위 갱신
  56. 56TFT 디스플레이 구동 — RGB565·FSMC·LTDC·DMA2D
  57. 57환경 센서 활용 — BME280 온습압·SHT3x·BMP180 비교
  58. 58IMU 센서 활용 — MPU6050·LSM6DSO·Sensor Fusion
  59. 59CAN 통신 구현 — bxCAN·Filter·Mailbox·CAN-FD
  60. 60USB Device 기초 — Descriptor·Enumeration·Endpoint·HID/CDC
  61. 61Ethernet MAC+PHY 통합 — RMII·lwIP·DMA Descriptor
  62. 62SD Card + FatFs 구현 — SPI/SDIO 모드·CSD/CID·Wear
  63. 63RTC 활용 — Calendar·Alarm·Wake-up Timer·Backup Domain
  64. 64RTOS 도입 결정 분석 — Super Loop vs RTOS 트레이드오프
  65. 65RTOS Task 설계 패턴 — 우선순위·스택·State Machine
  66. 66RTOS Scheduler 동작 분석 — Tick·Context Switch·Yield
  67. 67RTOS Semaphore 활용 — Binary·Counting·ISR Give
  68. 68RTOS Mutex 활용 — Recursive·Priority Inheritance 적용
  69. 69RTOS Queue 활용 — By-Value·By-Reference·Timeout 패턴
  70. 70RTOS Event Group 활용 — Bit Wait·Sync·Notify
  71. 71RTOS Software Timer 활용 — One-shot·Auto-reload·Daemon Task
  72. 72ISR-Safe API 설계 — Reentrant·Atomic·Defer 패턴
  73. 73Priority Inversion 진단·예방 — Mars Pathfinder Lesson 추적
  74. 74Timer Wheel 분석 — Hashed·Hierarchical·O(1) Tick
  75. 75RTOS 디버깅 기법 — Tracealyzer·SystemView·Stack 추적
  76. 76임베디드 Linux 부팅 흐름 분석 — BootROM·U-Boot·Kernel·init
  77. 77U-Boot 활용 — bootcmd·env·tftp·boot.scr 분석
  78. 78Device Tree 실전 — DTS·DTB·Overlay·Phandle 추적
  79. 79Device Tree Overlay 적용 — Runtime fragment·dtoverlay
  80. 80임베디드 커널 빌드 — defconfig·menuconfig·Image·zImage
  81. 81커널 모듈 기초 — init/exit·Parameter·KBuild·DKMS
  82. 82캐릭터 드라이버 작성 — file_operations·cdev·register_chrdev
  83. 83Platform 드라이버 작성 — probe·remove·of_match·DT 바인딩
  84. 84mmap 4가지 모드 — Anonymous·File·Shared·Huge Page
  85. 85epoll 실전 — LT·ET·ONESHOT·EXCLUSIVE 비교
  86. 86UIO·VFIO 분석 — User-Space Driver와 IOMMU 격리
  87. 87sysfs·configfs 활용 — kobject 기반 User 인터페이스
  88. 88IRQ Affinity 튜닝 — smp_affinity·isolcpus·irqbalance
  89. 89루트 파일시스템 구축 — Buildroot 기초·Package·Toolchain
  90. 90임베디드 동적 메모리 — malloc 위험·결정성·대안 분석
  91. 91메모리 정렬과 패딩 분석 — Natural·Strict Alignment·Trap
  92. 92Cache Line Alignment — alignas·Padding·SoA 적용
  93. 93DMA-Friendly Allocator — dma_alloc_coherent·IOMMU·Pool
  94. 94Zero-Copy Pipeline — DMA-BUF·sendfile·io_uring·splice
  95. 95NUMA Memory Topology — numactl·numa_alloc·HBM 적용
  96. 96SIMD 활용 분석 — Intrinsics·Auto-Vectorization·OpenMP SIMD
  97. 97ARM NEON 심화 — Matrix Multiply·FFT·Image Filter 적용
  98. 98임베디드 스택 분석 — high-water·overflow 탐지
  99. 99임베디드 코드 크기 최적화 — -Os·LTO·Section Garbage Collection
  100. 100임베디드 전력 최적화 — Sleep Mode·Clock Gating·DVFS
  101. 101WCET 분석 기법 — Static·Measurement·Hybrid 방법론
  102. 102Lock-Free Ring Buffer 구현 — SPSC·Power-of-2·Memory Order
  103. 103Wait-Free Signaling — Atomic Flag·Sequence·Latest-Value
  104. 104RCU (Read-Copy-Update) 기초 — Quiescent State·Grace Period
  105. 105Hazard Pointer 분석 — Lock-Free Memory Reclamation
  106. 106Compare-And-Swap 패턴 — Stack·Counter·Linked List 적용
  107. 107Atomic Operation 비용 분석 — Fence·Cache Line·Contention
  108. 108Spinlock vs Mutex 결정 가이드 — Context Switch·Hold Time
  109. 109ABA 문제 회피 — Tagged Pointer·Hazard·Generation Counter
  110. 110False Sharing 해결 — Cache Line Padding·SoA 적용
  111. 111MPMC Queue 구현 — Multi-producer Multi-consumer Lock-Free
  112. 112임베디드 디버깅 마인드셋 — 가설·격리·재현·이분탐색
  113. 113JTAG·SWD 안 붙을 때 — 핀·전압·속도·세션 진단
  114. 114GDB 원격 디버깅 — OpenOCD·J-Link·target remote 구성
  115. 115Cortex-M 하드폴트 분석 — Stacked Frame·CFSR 읽기
  116. 116UART 안 찍힐 때 — Bare-metal 체크리스트
  117. 117임베디드 부팅 실패 진단 — 단계별 Isolation
  118. 118인터럽트 누락·중복 진단 — Priority·Pending·Re-entry 추적
  119. 119메모리 오버플로우·오염 진단 — Canary·MPU·Pattern 분석
  120. 120타이밍·Race 진단 — Heisenbug 잡는 법
  121. 121통신 프로토콜 분석 — Logic Analyzer와 Protocol Decoder
  122. 122임베디드 로깅 시스템 설계 — 레벨·버퍼·SWO·Deferred
  123. 123임베디드 포스트모템 분석 — Core Dump와 Field Crash
  124. 124FPGA 기초 분석 — LUT·FF·BRAM·DSP 자원 구조
  125. 125Vivado 사용법 — Project·Constraint·Synth·Impl·Bitstream
  126. 126PCIe BAR 매핑 분석 — Config Space·Enumeration·MMIO 접근
  127. 127AXI 인터페이스 — AXI4·AXI4-Lite·AXI-Stream 비교
  128. 128Zynq PS-PL 통신 — GP·HP·ACP 인터페이스 선택
  129. 129Mailbox Protocol 분석 — Host와 Accelerator를 잇는 Doorbell
  130. 130Command Queue·Submission Queue — NVMe·XDMA 공통 패턴
  131. 131DMA Completion 메커니즘 — Interrupt·Polling·Completion Ring
  132. 132PCIe Streaming 분석 — BAR Type·MSI-X·Kernel Bypass
  133. 133Vitis HLS 분석 — Pragma·Pipeline II·Dataflow 실전 감각
  134. 134HLS 최적화 기법 — Pipeline·Unroll·Partition·Dataflow
  135. 135Vitis AI 분석 — DPU·xmodel·VART
  136. 136OpenCL on FPGA — Kernel·Channel·Burst Memory 분석
  137. 137Intel Quartus 사용법 — Platform Designer·Nios II·HLS
  138. 138Edge Inference 분석 — Cloud vs Edge·Latency·Privacy
  139. 139NPU 아키텍처 분석 — Ethos·Hexagon·Systolic Array 비교
  140. 140딥러닝 Quantization 분석 — PTQ·QAT·INT8·INT4·Calibration
  141. 141TensorRT 분석 — ONNX→Engine·FP16·INT8·DLA·Multi-Stream
  142. 142TFLite Micro 분석 — Op Resolver·Tensor Arena·Cortex-M
  143. 143ONNX Runtime 분석 — Execution Provider와 Cross-Platform 배포
  144. 144Edge Thermal Management — Throttling·DVFS·Fan Curve·Sustained
  145. 145NVIDIA Jetson 분석 — Nano·Xavier·Orin·Thor·JetPack·DLA·VPI
  146. 146Zero-Copy Camera Pipeline — V4L2·DMA-BUF·GPU Import·NPU 직결
  147. 147온디바이스 LLM 추론 — llama.cpp·GGUF·MLX·KV Cache·NPU Backend
  148. 148Cortex-M33 TF-M·TrustZone — Secure Firmware·PSA·MCUboot
  149. 149Matter·Thread 분석 — IoT 통합 표준·Commissioning·Multi-Fabric
  150. 150PCIe → CXL 진화 — 같은 PHY 위 cache-coherent 프로토콜 추가
  151. 151QEMU CXL Type 3 디바이스 에뮬레이션 — 노트북에서 CXL 개발 환경 구축
  152. 152Linux CXL 드라이버 분석 — cxl_pci·cxl_core·region·DAX