Lock-Free Ring Buffer 구현 — SPSC·Power-of-2·Memory Order
#한 줄 요약
“SPSC ring = head/tail + atomic + release/acquire” ISR과 task 사이에서 가장 빠른 IPC입니다.
#기본 SPSC Ring
Ring 안에서 head와 tail이 어떻게 움직이는지 그림으로 먼저 잡고 코드를 봅니다.
#define RING_SIZE 64 /* power of 2 */#define RING_MASK (RING_SIZE - 1)
typedef struct { uint8_t buf[RING_SIZE]; volatile uint16_t head; /* producer writes */ volatile uint16_t tail; /* consumer writes */} ring_t;
bool ring_push(ring_t *r, uint8_t b) { uint16_t h = r->head; uint16_t next = (h + 1) & RING_MASK; if (next == r->tail) return false; /* full */ r->buf[h] = b; r->head = next; /* commit */ return true;}
bool ring_pop(ring_t *r, uint8_t *out) { uint16_t t = r->tail; if (t == r->head) return false; /* empty */ *out = r->buf[t]; r->tail = (t + 1) & RING_MASK; return true;}Producer만 head를 변경하고 consumer만 tail을 변경합니다. 서로 다른 변수에만 write하므로 race가 발생하지 않습니다.
#Power-of-2 — 왜 중요한가
uint16_t next = (h + 1) & RING_MASK; /* AND — 1 cycle *//* vs */uint16_t next = (h + 1) % RING_SIZE; /* MOD — 10+ cycle (div) */Cortex-M3에서는 div 명령이 12 cycle인 반면 AND mask는 1 cycle에 끝납니다.
그래서 RING_SIZE는 반드시 power of 2(16, 32, 64, 128, …)여야 합니다.
#Memory Order — Release/Acquire
#include <stdatomic.h>
bool ring_push_atomic(ring_t *r, uint8_t b) { uint16_t h = atomic_load_explicit(&r->head, memory_order_relaxed); uint16_t next = (h + 1) & RING_MASK; uint16_t t = atomic_load_explicit(&r->tail, memory_order_acquire); if (next == t) return false;
r->buf[h] = b; /* data write */ atomic_store_explicit(&r->head, next, memory_order_release); /* ↑ data write가 head 갱신 *전*에 가시화 */ return true;}Release/acquire pair를 쓰면 producer의 buf[h] write가 consumer의 head read 이후에 가시화됩니다.
#ARM Cortex-M Single Core
/* Cortex-M3/M4 single core — pipeline in-order *//* DMB 없이도 program order 유지 */
volatile uint16_t head, tail; /* volatile은 컴파일러 차단만 */Single core에서는 재정렬이 없습니다(in-order pipeline에 같은 주소의 store buffer reorder도 없습니다). 그래서 volatile만으로 충분합니다.
#ARM SMP — DMB·LDAR/STLR 필요
/* Cortex-A SMP 또는 RP2040 dual-M0+ */atomic_store_explicit(&head, next, memory_order_release);SMP에서는 반드시 atomic과 memory order를 함께 써야 합니다. 그렇지 않으면 race가 발생할 수 있습니다.
#Cache Alignment — False Sharing 방지
typedef struct { alignas(64) volatile uint16_t head; char pad1[64 - sizeof(uint16_t)];
alignas(64) volatile uint16_t tail; char pad2[64 - sizeof(uint16_t)];
alignas(64) uint8_t buf[RING_SIZE];} ring_t;Cortex-A SMP에서는 head와 tail이 같은 line에 있으면 false sharing이 발생해 10배 가까이 느려질 수 있습니다.
#Multi-Byte Push
size_t ring_push_n(ring_t *r, const uint8_t *data, size_t n) { uint16_t h = r->head, t = r->tail; size_t free = (t - h - 1) & RING_MASK; if (n > free) n = free;
/* Split copy across wrap */ size_t first = RING_SIZE - h; if (first > n) first = n; memcpy(&r->buf[h], data, first); memcpy(&r->buf[0], data + first, n - first);
r->head = (h + n) & RING_MASK; return n;}Wrap을 한 번에 처리하므로 byte loop보다 빠릅니다. UART와 CAN의 큰 frame에서 특히 유리합니다.
#ISR↔Task 사용
ring_t uart_rx_ring;
void UART_IRQHandler(void) { uint8_t byte = UART->RDR; ring_push(&uart_rx_ring, byte); /* lock-free */}
void uart_task(void *p) { uint8_t byte; for (;;) { if (ring_pop(&uart_rx_ring, &byte)) { process(byte); } else { vTaskDelay(1); /* yield */ } }}ISR이 queue API를 쓰지 않으므로 매우 빠릅니다. FromISR 호출 overhead도 0입니다.
#Notification 합쳐서
ring_t uart_rx_ring;volatile bool data_ready;
void UART_IRQHandler(void) { BaseType_t pxHP = pdFALSE; uint8_t byte = UART->RDR; if (ring_push(&uart_rx_ring, byte)) { if (!data_ready) { data_ready = true; xSemaphoreGiveFromISR(uart_sem, &pxHP); } } portYIELD_FROM_ISR(pxHP);}
void uart_task(void *p) { for (;;) { xSemaphoreTake(uart_sem, portMAX_DELAY); data_ready = false; uint8_t byte; while (ring_pop(&uart_rx_ring, &byte)) { process(byte); } }}매 byte마다 semaphore give를 호출하는 대신 flag로 합칩니다. 그러면 ISR overhead가 줄어듭니다.
#Vyukov MPMC Queue
Multi-producer multi-consumer는 훨씬 복잡합니다.
struct cell { atomic_size_t sequence; T data;};
bool mpmc_push(mpmc_t *q, T item) { size_t pos = atomic_load(&q->enq_pos); while (1) { struct cell *c = &q->buf[pos & MASK]; size_t seq = atomic_load(&c->sequence); if (seq == pos) { if (atomic_compare_exchange_weak(&q->enq_pos, &pos, pos + 1)) { c->data = item; atomic_store(&c->sequence, pos + 1); return true; } } else if (seq < pos) { return false; /* full */ } else { pos = atomic_load(&q->enq_pos); } }}Dmitry Vyukov가 제안한 MPMC 알고리즘으로, Folly와 LMAX, DPDK가 채택했습니다. 진짜 lock-free 방식입니다.
#ABA — SPSC엔 없음
SPSC — producer/consumer 각 1개 → head는 producer만, tail은 consumer만 변경 → 같은 변수 두 thread가 write 안 함 → ABA 없음Lock-free stack과 queue에서 흔히 등장하는 ABA 문제는 SPSC에서는 발생하지 않습니다.
#Static Allocation
static ring_t g_uart_ring; /* static — heap 안 씀 */
ring_t *get_ring(void) { return &g_uart_ring; }ISR과 task가 같은 static instance를 공유해서 씁니다.
#DPDK rte_ring — 표준 라이브러리
struct rte_ring *r = rte_ring_create("name", 1024, SOCKET_ID_ANY, RING_F_SP_ENQ | RING_F_SC_DEQ);
rte_ring_sp_enqueue(r, obj);rte_ring_sc_dequeue(r, &obj);DPDK ring은 bulk operation에 최적화되어 있습니다. 10G 이더넷에서 표준처럼 쓰입니다.
#STM32H7 — DMA UART + Ring
/* DMA가 ring buffer에 직접 write */HAL_UART_Receive_DMA(&huart, ring.buf, RING_SIZE);
/* Task — DMA NDTR로 head 계산 */void uart_task(void *p) { for (;;) { uint16_t dma_ndtr = DMA->NDTR; /* 남은 count */ uint16_t head = RING_SIZE - dma_ndtr;
while (ring.tail != head) { process(ring.buf[ring.tail]); ring.tail = (ring.tail + 1) & RING_MASK; } vTaskDelay(1); }}ISR 자체가 필요 없고 DMA와 polling만으로 동작합니다. 1 Mbps 이상의 high baud UART에서 표준으로 쓰입니다.
#Stream Buffer — FreeRTOS Built-in
StreamBufferHandle_t sb = xStreamBufferCreate(256, 1);
/* ISR */xStreamBufferSendFromISR(sb, &byte, 1, &pxHP);
/* Task */xStreamBufferReceive(sb, buf, n, portMAX_DELAY);FreeRTOS는 내부적으로 ring buffer와 locking을 함께 씁니다. 직접 구현한 것보다 약간 느리지만, API가 깔끔합니다.
#자주 하는 실수
⚠️ Power-of-2 아닌 size
#define RING_SIZE 100 /* ← MOD operation 매번 */대신 64 또는 128처럼 power-of-2 크기를 씁니다.
⚠️ Volatile만 + SMP
volatile uint16_t head; /* SMP에선 부족 */대신 atomic_*에 memory order를 함께 지정해야 합니다.
⚠️ False sharing 무시
struct { volatile uint16_t head, tail; uint8_t buf[]; } ring;/* head·tail 같은 line — SMP에서 ping-pong */이때는 alignas(64)로 분리해야 합니다.
⚠️ Multi-producer 가정
/* 2 ISR이 같은 ring push */ring_push(r, b); /* race — SPSC 보장 깨짐 */이런 경우에는 MPMC ring을 쓰거나 lock과 ring을 함께 사용해야 합니다.
#정리
- SPSC ring은 head/tail + atomic + release/acquire 조합으로 구성합니다.
- Power-of-2 size에 AND mask를 써서 div를 회피합니다.
- Cortex-M single core에서는 volatile만으로 충분합니다.
- SMP에서는 *반드시 atomic과 alignas(64)*를 함께 적용합니다.
- ABA 문제는 SPSC에서는 무관합니다.
- DMA UART에서 ring을 거쳐 task로 가는 흐름이 zero ISR 패턴입니다.
다음 편은 Priority Inversion입니다.
#관련 항목
- 2-01: ISR-Safe API
- 2-03: Priority Inversion
Modern Embedded Recipes · 102 of 152
- 1Modern Embedded Recipes — 모던 임베디드 실전 레시피 시리즈 소개
- 2디지털 신호 기초 — Voltage Level·Edge·Setup/Hold 분석
- 3임베디드 클럭과 타이밍 — Skew·Jitter·PLL·MMCM 분석
- 4GPIO 내부 구조 분해 — Push-Pull·Open-Drain·Schmitt Trigger
- 5UART 하드웨어 동작 분석 — Baud Rate·Framing·FIFO
- 6SPI 하드웨어 분석 — Clock Mode·MOSI/MISO·Chip Select
- 7I2C 하드웨어 분석 — Open-Drain·Clock Stretching·Arbitration
- 8ADC 동작 원리 — SAR·Sigma-Delta·Pipelined 비교
- 9DAC 동작 원리 — R-2R Ladder·Sigma-Delta·Settling Time
- 10PWM 신호 생성 분석 — Duty·Frequency·Dead Time·Center-Aligned
- 11CAN 버스 전기적 특성 — Differential·Termination·Dominant/Recessive
- 12RS-485·RS-422 차동 신호 분석 — Termination·Biasing·Topology
- 13LVDS 차동 신호 분석 — Common-Mode·Impedance·Eye Pattern
- 14ARM Cortex-M 시리즈 비교 — M0·M3·M4·M7·M33·M55 분석
- 15ARM Cortex-A 시리즈 비교 — A53·A55·A72·A78·X1 분석
- 16ARM 레지스터 구조 분석 — R0~R15·CPSR·SPSR·Banked Registers
- 17Cortex-M 예외 처리 — Vector Table·NVIC·Tail-Chaining 추적
- 18ARM 메모리 맵 분석 — Normal·Device·Strongly-Ordered Region
- 19ARM L1·L2 캐시 분석 — Set Associative·Inclusive·Maintenance
- 20ARM MPU 활용 — Region·Attribute·Privilege Separation
- 21ARM MMU 기초 분석 — Translation Table·TLB·ASID
- 22ARM TrustZone-M 기초 — Secure/Non-Secure·NSC·MPC
- 23ARM Memory Barrier 실전 — DMB·DSB·ISB·DMA·MMIO
- 24임베디드 크로스 컴파일러 분석 — GCC·Clang·Sysroot 구성
- 25C 컴파일 4단계 — Preprocess·Compile·Assemble·Link 추적
- 26ELF 파일 구조 분석 — Section·Segment·Symbol Table·DWARF
- 27링커 스크립트 기초 — SECTIONS·MEMORY·entry point
- 28링커 스크립트 고급 — Overlay·BSS·init_array·LMA/VMA
- 29임베디드 스타트업 코드 분석 — Reset_Handler·Vector Table·SystemInit
- 30C 런타임 crt0 분석 — Stack·BSS Zero·Data Copy·atexit
- 31임베디드 메모리 레이아웃 — .text·.rodata·.data·.bss·.heap·.stack
- 32임베디드 컴파일러 최적화 분석 — -O0~-O3·-Os·-LTO 비교
- 33Map 파일 분석 — Symbol·Section·Size 추적으로 코드 크기 진단
- 34Make·CMake 크로스 컴파일 — Toolchain File·Sysroot 통합
- 35임베디드 Bootloader 체인 — BootROM·SPL·U-Boot·Kernel·Secure Boot
- 36첫 bare-metal 프로그램 작성 — Linker·Startup·main의 최소 구성
- 37MMIO 레지스터 직접 접근 — volatile·Memory Map·Aliasing 분석
- 38GPIO 드라이버 직접 구현 — STM32 HAL 없이 레지스터로
- 39임베디드 클럭 설정 분석 — HSE·PLL·SYSCLK·AHB/APB 분주
- 40Cortex-M 인터럽트 핸들링 — NVIC·Priority·Vector·EXTI
- 41SysTick 타이머 활용 — 24-bit Counter·1ms Tick·delay 구현
- 42UART 드라이버 구현 — polling·interrupt·DMA 3가지 방식 비교
- 43SPI 드라이버 구현 — Master·Slave·CRC·DMA
- 44I2C 드라이버 구현 — Master·7-bit/10-bit·Clock Stretching 처리
- 45임베디드 DMA 기초 — Memory-to-Memory·Peripheral·Circular Mode
- 46저전력 모드 분석 — Sleep·Stop·Standby·Wake-up Source
- 47IWDG·WWDG 워치독 구현 — Independent vs Window 비교
- 48임베디드 Flash 프로그래밍 — Erase·Program·Read While Write
- 49DDR 초기화 실패 진단 — Timing·Calibration·Walking Bit Test
- 50PWM 출력 실전 — LED 밝기·모터 속도 제어
- 51DC 모터 제어 — H-Bridge·PWM Duty·Encoder Feedback
- 52스테퍼 모터 제어 — Full Step·Half Step·Microstepping
- 53서보 모터 제어 — PWM 1ms~2ms·Closed Loop·PID
- 54Character LCD 제어 — HD44780·4-bit Mode·Custom Char
- 55SPI OLED 제어 — SSD1306·Frame Buffer·Page 단위 갱신
- 56TFT 디스플레이 구동 — RGB565·FSMC·LTDC·DMA2D
- 57환경 센서 활용 — BME280 온습압·SHT3x·BMP180 비교
- 58IMU 센서 활용 — MPU6050·LSM6DSO·Sensor Fusion
- 59CAN 통신 구현 — bxCAN·Filter·Mailbox·CAN-FD
- 60USB Device 기초 — Descriptor·Enumeration·Endpoint·HID/CDC
- 61Ethernet MAC+PHY 통합 — RMII·lwIP·DMA Descriptor
- 62SD Card + FatFs 구현 — SPI/SDIO 모드·CSD/CID·Wear
- 63RTC 활용 — Calendar·Alarm·Wake-up Timer·Backup Domain
- 64RTOS 도입 결정 분석 — Super Loop vs RTOS 트레이드오프
- 65RTOS Task 설계 패턴 — 우선순위·스택·State Machine
- 66RTOS Scheduler 동작 분석 — Tick·Context Switch·Yield
- 67RTOS Semaphore 활용 — Binary·Counting·ISR Give
- 68RTOS Mutex 활용 — Recursive·Priority Inheritance 적용
- 69RTOS Queue 활용 — By-Value·By-Reference·Timeout 패턴
- 70RTOS Event Group 활용 — Bit Wait·Sync·Notify
- 71RTOS Software Timer 활용 — One-shot·Auto-reload·Daemon Task
- 72ISR-Safe API 설계 — Reentrant·Atomic·Defer 패턴
- 73Priority Inversion 진단·예방 — Mars Pathfinder Lesson 추적
- 74Timer Wheel 분석 — Hashed·Hierarchical·O(1) Tick
- 75RTOS 디버깅 기법 — Tracealyzer·SystemView·Stack 추적
- 76임베디드 Linux 부팅 흐름 분석 — BootROM·U-Boot·Kernel·init
- 77U-Boot 활용 — bootcmd·env·tftp·boot.scr 분석
- 78Device Tree 실전 — DTS·DTB·Overlay·Phandle 추적
- 79Device Tree Overlay 적용 — Runtime fragment·dtoverlay
- 80임베디드 커널 빌드 — defconfig·menuconfig·Image·zImage
- 81커널 모듈 기초 — init/exit·Parameter·KBuild·DKMS
- 82캐릭터 드라이버 작성 — file_operations·cdev·register_chrdev
- 83Platform 드라이버 작성 — probe·remove·of_match·DT 바인딩
- 84mmap 4가지 모드 — Anonymous·File·Shared·Huge Page
- 85epoll 실전 — LT·ET·ONESHOT·EXCLUSIVE 비교
- 86UIO·VFIO 분석 — User-Space Driver와 IOMMU 격리
- 87sysfs·configfs 활용 — kobject 기반 User 인터페이스
- 88IRQ Affinity 튜닝 — smp_affinity·isolcpus·irqbalance
- 89루트 파일시스템 구축 — Buildroot 기초·Package·Toolchain
- 90임베디드 동적 메모리 — malloc 위험·결정성·대안 분석
- 91메모리 정렬과 패딩 분석 — Natural·Strict Alignment·Trap
- 92Cache Line Alignment — alignas·Padding·SoA 적용
- 93DMA-Friendly Allocator — dma_alloc_coherent·IOMMU·Pool
- 94Zero-Copy Pipeline — DMA-BUF·sendfile·io_uring·splice
- 95NUMA Memory Topology — numactl·numa_alloc·HBM 적용
- 96SIMD 활용 분석 — Intrinsics·Auto-Vectorization·OpenMP SIMD
- 97ARM NEON 심화 — Matrix Multiply·FFT·Image Filter 적용
- 98임베디드 스택 분석 — high-water·overflow 탐지
- 99임베디드 코드 크기 최적화 — -Os·LTO·Section Garbage Collection
- 100임베디드 전력 최적화 — Sleep Mode·Clock Gating·DVFS
- 101WCET 분석 기법 — Static·Measurement·Hybrid 방법론
- 102Lock-Free Ring Buffer 구현 — SPSC·Power-of-2·Memory Order
- 103Wait-Free Signaling — Atomic Flag·Sequence·Latest-Value
- 104RCU (Read-Copy-Update) 기초 — Quiescent State·Grace Period
- 105Hazard Pointer 분석 — Lock-Free Memory Reclamation
- 106Compare-And-Swap 패턴 — Stack·Counter·Linked List 적용
- 107Atomic Operation 비용 분석 — Fence·Cache Line·Contention
- 108Spinlock vs Mutex 결정 가이드 — Context Switch·Hold Time
- 109ABA 문제 회피 — Tagged Pointer·Hazard·Generation Counter
- 110False Sharing 해결 — Cache Line Padding·SoA 적용
- 111MPMC Queue 구현 — Multi-producer Multi-consumer Lock-Free
- 112임베디드 디버깅 마인드셋 — 가설·격리·재현·이분탐색
- 113JTAG·SWD 안 붙을 때 — 핀·전압·속도·세션 진단
- 114GDB 원격 디버깅 — OpenOCD·J-Link·target remote 구성
- 115Cortex-M 하드폴트 분석 — Stacked Frame·CFSR 읽기
- 116UART 안 찍힐 때 — Bare-metal 체크리스트
- 117임베디드 부팅 실패 진단 — 단계별 Isolation
- 118인터럽트 누락·중복 진단 — Priority·Pending·Re-entry 추적
- 119메모리 오버플로우·오염 진단 — Canary·MPU·Pattern 분석
- 120타이밍·Race 진단 — Heisenbug 잡는 법
- 121통신 프로토콜 분석 — Logic Analyzer와 Protocol Decoder
- 122임베디드 로깅 시스템 설계 — 레벨·버퍼·SWO·Deferred
- 123임베디드 포스트모템 분석 — Core Dump와 Field Crash
- 124FPGA 기초 분석 — LUT·FF·BRAM·DSP 자원 구조
- 125Vivado 사용법 — Project·Constraint·Synth·Impl·Bitstream
- 126PCIe BAR 매핑 분석 — Config Space·Enumeration·MMIO 접근
- 127AXI 인터페이스 — AXI4·AXI4-Lite·AXI-Stream 비교
- 128Zynq PS-PL 통신 — GP·HP·ACP 인터페이스 선택
- 129Mailbox Protocol 분석 — Host와 Accelerator를 잇는 Doorbell
- 130Command Queue·Submission Queue — NVMe·XDMA 공통 패턴
- 131DMA Completion 메커니즘 — Interrupt·Polling·Completion Ring
- 132PCIe Streaming 분석 — BAR Type·MSI-X·Kernel Bypass
- 133Vitis HLS 분석 — Pragma·Pipeline II·Dataflow 실전 감각
- 134HLS 최적화 기법 — Pipeline·Unroll·Partition·Dataflow
- 135Vitis AI 분석 — DPU·xmodel·VART
- 136OpenCL on FPGA — Kernel·Channel·Burst Memory 분석
- 137Intel Quartus 사용법 — Platform Designer·Nios II·HLS
- 138Edge Inference 분석 — Cloud vs Edge·Latency·Privacy
- 139NPU 아키텍처 분석 — Ethos·Hexagon·Systolic Array 비교
- 140딥러닝 Quantization 분석 — PTQ·QAT·INT8·INT4·Calibration
- 141TensorRT 분석 — ONNX→Engine·FP16·INT8·DLA·Multi-Stream
- 142TFLite Micro 분석 — Op Resolver·Tensor Arena·Cortex-M
- 143ONNX Runtime 분석 — Execution Provider와 Cross-Platform 배포
- 144Edge Thermal Management — Throttling·DVFS·Fan Curve·Sustained
- 145NVIDIA Jetson 분석 — Nano·Xavier·Orin·Thor·JetPack·DLA·VPI
- 146Zero-Copy Camera Pipeline — V4L2·DMA-BUF·GPU Import·NPU 직결
- 147온디바이스 LLM 추론 — llama.cpp·GGUF·MLX·KV Cache·NPU Backend
- 148Cortex-M33 TF-M·TrustZone — Secure Firmware·PSA·MCUboot
- 149Matter·Thread 분석 — IoT 통합 표준·Commissioning·Multi-Fabric
- 150PCIe → CXL 진화 — 같은 PHY 위 cache-coherent 프로토콜 추가
- 151QEMU CXL Type 3 디바이스 에뮬레이션 — 노트북에서 CXL 개발 환경 구축
- 152Linux CXL 드라이버 분석 — cxl_pci·cxl_core·region·DAX
관련 글
Atomic Operation 비용 분석 — Fence·Cache Line·Contention
memory_order별 ARM 명령어 차이, LSE vs LL/SC, hot spinning 회피까지 atomic 연산의 실측 비용을 정리합니다.
Compare-And-Swap 패턴 — Stack·Counter·Linked List 적용
CAS loop, strong과 weak CAS, ABA 회피, exponential backoff, spurious failure까지 CAS 사용의 표준 패턴을 정리합니다.
ISR-Safe API 설계 — Reentrant·Atomic·Defer 패턴
ISR 안전 함수 작성. Reentrant, atomic 변수, deferred work, FromISR variant.
이 글을 참조하는 글 (5)
- MPMC Queue 구현 — Multi-producer Multi-consumer Lock-Free— Modern Embedded Recipes
- Cache Line Alignment — alignas·Padding·SoA 적용— Modern Embedded Recipes
- Priority Inversion 진단·예방 — Mars Pathfinder Lesson 추적— Modern Embedded Recipes
- ISR-Safe API 설계 — Reentrant·Atomic·Defer 패턴— Modern Embedded Recipes
- RTOS Queue 활용 — By-Value·By-Reference·Timeout 패턴— Modern Embedded Recipes