본문으로 건너뛰기
Folly Code Review · 44/89

folly::PicoSpinLock — 1-byte spinlock

· Hawk · 3분 읽기

#한 줄 요약

folly::PicoSpinLock<IntType>는 integer 한 bit을 lock으로 사용하는 spinlock. 나머지 bit은 데이터 저장에 사용 가능. lock과 데이터를 한 word에 packing해 메모리·cache line 절약.

#동기

map의 value, node의 metadata 같이 수백만 개가 메모리에 존재하는 작은 객체에 mutex를 추가하면 객체 크기가 두 배가 된다. 8-byte payload + 8-byte mutex = 16 byte. 백만 개면 8MB가 mutex만으로.

이 객체가 대부분 lock-free이고 가끔 mutex가 필요하면, 객체 안의 사용하지 않는 bit을 lock으로 빌릴 수 있다.

// pointer는 보통 하위 3 bit이 0 (8-byte align)
// 가장 낮은 bit을 lock으로 사용 가능
folly::PicoSpinLock<uintptr_t> lock_ptr;
lock_ptr.init(reinterpret_cast<uintptr_t>(some_ptr));
{
std::lock_guard g(lock_ptr);
void* p = reinterpret_cast<void*>(lock_ptr.getData());
// use p
}

객체에 8-byte 추가 없이 lock + pointer 같이.

#API & 사용법

#include <folly/synchronization/PicoSpinLock.h>
// 1. 기본 — uintptr_t 1 bit lock
folly::PicoSpinLock<uintptr_t> lock;
lock.init(0); // 데이터 초기화
// 2. lock / unlock
lock.lock();
auto data = lock.getData();
lock.setData(data + 1);
lock.unlock();
// 3. std::lock_guard 호환
{
std::lock_guard g(lock);
lock.setData(lock.getData() + 1);
}
// 4. try
if (lock.try_lock()) {
lock.setData(...);
lock.unlock();
}
// 5. bit 위치 선택 (custom)
folly::PicoSpinLock<uint64_t, /*lockBitPos=*/63> top_bit_lock;
// 최상위 bit을 lock으로, 하위 63 bit이 데이터

lock bit과 data bit이 같은 word에 공존. lock bit이 0이면 unlocked, 1이면 locked. 데이터 접근은 항상 getData()/setData() 통해.

#내부 구현

// 약식
template <typename IntType, size_t Bit = sizeof(IntType)*8 - 1>
class PicoSpinLock {
std::atomic<IntType> data_;
static constexpr IntType kLockMask = IntType(1) << Bit;
static constexpr IntType kDataMask = ~kLockMask;
};

한 atomic integer. lock bit과 data bit이 mask로 분리.

#lock

// 약식
void lock() {
while (true) {
IntType old = data_.load(std::memory_order_relaxed);
IntType expected = old & kDataMask; // lock bit = 0
IntType desired = expected | kLockMask;
if (data_.compare_exchange_weak(expected, desired,
std::memory_order_acquire)) {
return;
}
cpu_pause();
}
}

CAS로 lock bit set. 이미 set이면 spin.

#unlock

void unlock() {
data_.fetch_and(kDataMask, std::memory_order_release); // lock bit clear
}

fetch_and로 lock bit만 끄기. data는 그대로.

#getData / setData

IntType getData() const {
return data_.load(std::memory_order_relaxed) & kDataMask;
}
void setData(IntType v) {
// lock이 잡혀 있을 때만 호출하는 게 안전
IntType old = data_.load(std::memory_order_relaxed);
IntType desired = (v & kDataMask) | (old & kLockMask);
data_.store(desired, std::memory_order_release);
}

setDatalock 잡힌 상태에서만 호출해야 한다 — 그렇지 않으면 다른 thread의 lock bit을 덮어쓴다.

#사용 사례

#1. Pointer + lock 한 word

// node에 next pointer + lock bit
struct Node {
folly::PicoSpinLock<uintptr_t> next_locked; // 8 byte
Value value;
};
Node* next(Node* n) {
std::lock_guard g(n->next_locked);
return reinterpret_cast<Node*>(n->next_locked.getData());
}

std::mutex* + next pointer 16 byte → 8 byte.

#2. Reference count + lock

folly::PicoSpinLock<uint32_t, 0> rc_lock; // bit 0 = lock, bits 1-31 = count
rc_lock.init(0 | 1u); // count = 0, lock bit can be flipped
void increment() {
std::lock_guard g(rc_lock);
rc_lock.setData(rc_lock.getData() + 2); // count는 bit 1 이상
}

#3. Tagged pointer mode

folly::PicoSpinLock<uintptr_t, 1> ptr_lock; // bit 1 = lock, bit 0 = tag
// pointer가 4-byte align이면 하위 2 bit이 모두 사용 가능

#std/abseil 비교

표준에 없음. abseil도 없음. boost는 interprocess::spin_mutex가 비슷한 사상이지만 더 큰 sizeof.

직접 구현 가능하나 atomic 조작 + memory_order가 까다로워 미세한 버그를 만들기 쉽다. folly의 검증된 구현을 쓰는 게 안전.

#코드 리뷰 포인트

// Bad — setData가 lock 없이 호출
folly::PicoSpinLock<uint64_t> psl;
psl.init(0);
psl.setData(42); // 다른 thread가 lock 중이면 lock bit 덮음

setDatalock 보유 시에만. 그렇지 않으면 lock bit/state 깨짐.

// 주의 — bit 위치 충돌
folly::PicoSpinLock<uintptr_t, 0> ptr_lock;
void* ptr = malloc(64); // 16-byte align — bit 0 사용 안 함
ptr_lock.init(uintptr_t(ptr));
// ptr 정렬이 1-byte라면 ptr의 bit 0가 lock과 충돌!

lock bit 위치가 데이터의 사용하지 않는 bit인지 확인. 일반 malloc은 16-byte align이라 하위 4 bit OK.

// Good — 매우 작은 객체에 lock 추가
struct Entry {
folly::PicoSpinLock<uint64_t> data; // 8 byte, lock + 63-bit payload
};
// vs
struct Entry {
uint64_t data;
std::mutex mu; // +40 byte
};

큰 차이는 대량 객체에서.

#안티패턴

  • long critical section: spin only — wait 길면 CPU 100% 낭비. PicoSpinLock은 수십 cycle CS 전용.
  • lock bit과 user bit 영역 혼동: getData는 자동으로 mask하지만 raw data_ 접근은 금지.
  • 다양한 PicoSpinLock의 bit pos를 한 코드베이스에 섞기: pos 0과 63 두 가지가 있으면 코드 리뷰가 어렵다. 한 가지로 통일.

#정리

  • PicoSpinLock<IntType, BitPos>은 integer 한 bit을 lock으로.
  • lock + 데이터(remaining bit)를 한 word에 packing → 메모리 절약.
  • 대량 객체(million-scale)에서 sizeof 차이가 의미 있음.
  • spin only — short critical section 전용.
  • setData는 lock 보유 시에만, lock bit 위치는 사용 안 하는 bit으로.

#다음 편

Part 9가 Folly Code Review 시리즈의 sync 챕터를 마무리한다. 이후 Part 10에서는 큐(ProducerConsumer, MPMC 등)를 본다.

#관련 항목

Folly Code Review · 45 of 89

  1. 1 Folly Code Review — Meta의 production-grade C++ 라이브러리 코드 분석
  2. 2 Folly 개요 — Meta가 production에서 검증한 utility 모음 분석
  3. 3 Folly vs Abseil 철학 비교 — performance-first vs std-compatible
  4. 4 Folly 빌드와 fbcode 환경 — monorepo의 그림자
  5. 5 Folly API stability 정책 — 어떤 보장도 없다는 솔직함
  6. 6 Folly production validation 문화 — peta-scale에서 단련된 코드
  7. 7 folly::Future 분석 — std::future의 한계를 넘는 composable async
  8. 8 folly::Promise·makeFuture — Future를 만드는 두 길
  9. 9 folly::SemiFuture vs Future — executor binding의 명시화
  10. 10 folly::Future thenValue·thenError·thenTry — continuation 체인 분석
  11. 11 folly::collect·collectAll·collectAny — fan-in 패턴 분석
  12. 12 folly::Future retry·window·via — 제어 흐름 조합자
  13. 13 folly::fibers 분석 — M:N stackful coroutine
  14. 14 folly::InlineExecutor — 호출자 thread에서 즉시 실행
  15. 15 folly::CPUThreadPoolExecutor — CPU-bound 작업의 표준 thread pool
  16. 16 folly::IOThreadPoolExecutor — libevent 기반 I/O pool
  17. 17 folly::ManualExecutor — 결정적 테스트를 위한 수동 진행
  18. 18 folly::EventBase 분석 — libevent 이벤트 루프의 핵심
  19. 19 folly::IOBuf 분석 — zero-copy buffer chain의 기본 단위
  20. 20 folly::IOBufQueue — chain의 push/pull 추상화
  21. 21 folly::io::Cursor·RWCursor — chain 위의 stream
  22. 22 folly Zero-copy 패턴 — IOBuf로 ScatterGather I/O 표현
  23. 23 folly::IOBuf shared semantics — clone·unshare·takeOwnership
  24. 24 folly::FBString 분석 — SSO + COW 구현
  25. 25 folly의 fmt::format 통합 — 모던 포맷팅 채택
  26. 26 folly::StringPiece — string_view 호환 분석
  27. 27 folly Join·Split utilities — 문자열 분해와 결합
  28. 28 folly::to·tryTo — text↔num 변환 분석
  29. 29 folly Conv Customization — 사용자 타입 지원
  30. 30 folly Conv 성능 비교 — sprintf·stringstream 대비
  31. 31 folly::F14ValueMap vs std::unordered_map
  32. 32 folly::F14NodeMap — stable pointer가 필요할 때
  33. 33 folly::F14VectorMap — cache-friendly iteration
  34. 34 folly::F14FastMap — auto-select 동작
  35. 35 folly F14 internals — SIMD probing 메커니즘
  36. 36 folly::small_vector — inline storage 분석
  37. 37 folly::FixedString — compile-time string
  38. 38 folly::AtomicHashMap — lock-free read 분석
  39. 39 folly::ConcurrentHashMap — sharded 동시 해시 맵
  40. 40 folly::EvictingCacheMap — LRU 구현 분석
  41. 41 folly::Synchronized — lock wrapper 패턴
  42. 42 folly::SharedMutex 분석
  43. 43 folly::Baton — one-shot wait 동기화
  44. 44 folly::RWSpinLock 분석
  45. 45 folly::PicoSpinLock — 1-byte spinlock
  46. 46 folly::ProducerConsumerQueue — SPSC 큐 분석
  47. 47 folly::MPMCQueue — multi-producer multi-consumer
  48. 48 folly::UnboundedQueue — 동적 크기 lock-free
  49. 49 folly::fibers::Channel — Go-like channel
  50. 50 folly::dynamic — JSON-like dynamic type 분석
  51. 51 folly JSON conversion — toJson·parseJson
  52. 52 folly dynamic ↔ struct — manual marshaling
  53. 53 folly dynamic Visitor pattern — type별 분기
  54. 54 folly::Singleton vs Meyers/static — 왜 Folly의 Singleton인가
  55. 55 folly::SingletonVault 분석 — 등록·소멸·의존성
  56. 56 folly::Singleton try_get·try_get_fast — TLS-cached 접근
  57. 57 folly::ExceptionWrapper — type-erased exception holder
  58. 58 folly::ScopeGuard·SCOPE_EXIT — RAII cleanup
  59. 59 folly::Optional vs std::optional
  60. 60 folly::Function vs std::function
  61. 61 folly::Lazy — 지연 초기화 wrapper
  62. 62 folly Meta 스타일 code review 패턴
  63. 63 folly anti-patterns — 잘못 쓰면 std보다 느림
  64. 64 folly vs std 선택 기준 분석
  65. 65 folly::coro 개요 — production C++20 코루틴 어댑터
  66. 66 folly::coro::Task — lazy single-shot 코루틴
  67. 67 folly::coro::AsyncGenerator — 비동기 스트림
  68. 68 folly coro blockingWait·collectAll — 동기 경계와 fan-in
  69. 69 folly::coro::Baton·Mutex — 코루틴-aware 동기화
  70. 70 folly::Expected — 결과 또는 오류
  71. 71 folly::Try — Future 결과 wrapper
  72. 72 folly::Try vs Expected 선택 기준
  73. 73 folly::Range — 일반 iterator pair
  74. 74 folly::Uri — URL 파서
  75. 75 folly Fingerprint64·128 — 분산 hash
  76. 76 folly SpookyHashV2 — fast non-crypto hash
  77. 77 folly::Init — main() 부트스트랩
  78. 78 folly::Indestructible — global lifetime 패턴
  79. 79 folly::MicroLock — 1-byte 락
  80. 80 folly::MicroSpinLock — 가장 좁은 spin lock
  81. 81 folly::format — legacy formatter 분석
  82. 82 folly::demangle — typeid 디망글링
  83. 83 folly::DynamicConverter — dynamic ↔ struct
  84. 84 folly::RecordIO — append-only 로그 파일 포맷
  85. 85 folly::io::Compression — zstd·lz4·snappy wrapper
  86. 86 folly::AsyncIO — io_uring·Linux AIO
  87. 87 folly::CancellationToken — 코루틴·Future 취소 전파
  88. 88 folly::observer — hot config의 atomic refresh
  89. 89 fbcode 패턴 모음 — folly 사용의 실전