본문으로 건너뛰기
Folly Code Review · 32/89

folly::F14VectorMap — cache-friendly iteration

· Hawk · 4분 읽기

#한 줄 요약

F14VectorMap은 value를 std::vector 한 곳에 모으고 chunk slot에는 vector index만 둔다. 순회가 vector를 그대로 도는 것과 같아 가장 cache-friendly. lookup은 chunk → index → vector의 두 단계라 ValueMap보다 약간 느리다.

#동기

server는 보통 lookup이 압도적으로 많지만, 가끔 전체 순회가 필요한 경우가 있다.

  • snapshot 직렬화 (모든 entry 출력).
  • batch 처리 (한 번에 다 작업).
  • statistics 계산 (모든 value sum).

ValueMap의 chunk는 빈 slot이 많아 순회 시 빈 slot을 건너뛰며 cache가 비효율적. VectorMap은 value를 vector에 packing해 순회를 dense하게 만든다.

folly::F14VectorMap<int, Metric> metrics;
// ... insert N개
for (auto& [k, v] : metrics) {
v.Aggregate(); // vector를 그대로 도는 효과
}

순회 throughput이 std::vector 수준.

#API & 사용법

#include <folly/container/F14Map.h>
folly::F14VectorMap<std::string, int> m;
m["a"] = 1;
m["b"] = 2;
m["c"] = 3;
// 순회 — insertion order 보장!
for (auto& [k, v] : m) {
// a, b, c 순서
}
// 표준 API
m.find("b");
m.erase("b");
m.contains("a");
// VectorMap 전용 — index 접근
auto vec_view = m.values(); // const std::vector& 비슷한 view
for (size_t i = 0; i < vec_view.size(); ++i) {
// ...
}

VectorMap만의 특징: insertion order를 유지한다. python dict(3.7+)와 비슷한 동작.

#내부 구현

#두 자료구조 결합

Swiss table 스타일의 chunk가 실제 값 대신 vector index를 슬롯에 담고, 값 자체는 연속된 vector에 저장된다. 순회는 이 vector를 그대로 훑기 때문에 insertion order가 유지된다.

Chunks (Swiss table):
[ controls | slot[0] = vec_index | ... | slot[13] = vec_index ]
|
v
Vector:
[ pair<K,V>[0] | pair<K,V>[1] | pair<K,V>[2] | ... ]
// 약식
template <typename Key, typename Value>
class F14VectorMap {
std::vector<Item> values_; // contiguous
ChunkTable indexes_; // chunk → vec index
// ...
};

#Lookup

// 약식
Iterator find(const Key& k) {
auto h = hash(k);
// 1. SIMD probing으로 chunk slot 찾기
uint32_t vec_idx = indexes_.find(k, h);
if (vec_idx == kNotFound) return end();
// 2. vector에서 actual value
return Iterator{&values_[vec_idx]};
}

step 1은 ValueMap과 같음. step 2가 추가 indirection. cache miss가 한 번 더 발생 가능.

#Insert (and Erase의 trick)

// 약식 — Insert
void insert(K k, V v) {
size_t new_idx = values_.size();
values_.emplace_back(std::move(k), std::move(v));
indexes_.insert(values_.back().first, new_idx);
}
// Erase — 가장 미묘
void erase(const Key& k) {
auto vec_idx = indexes_.find(k);
if (vec_idx == values_.size() - 1) {
values_.pop_back(); // 마지막이면 그냥 pop
indexes_.erase(k);
} else {
// 마지막 entry를 erase 자리로 swap
values_[vec_idx] = std::move(values_.back());
values_.pop_back();
// 마지막 entry의 chunk index 갱신
indexes_.updateIndex(values_[vec_idx].first, vec_idx);
indexes_.erase(k);
}
}

erase는 마지막 entry를 swap-pop. 이 때문에 erase 후 insertion order가 깨진다. order가 중요하면 erase를 피하거나 다른 자료구조.

#Reserve가 cheap

m.reserve(N);
// 1. vector.reserve(N) — contiguous block
// 2. chunk 배열 reserve
// 큰 entry 수에서도 한 번에 끝남

VectorMap은 value 영역과 chunk가 분리돼 reserve 동작이 단순하다.

#성능 특성

benchmark: N=1M entries
Lookup Insert Iteration
std::unordered_map 120 ns 180 ns 250 ms (전체)
folly::F14ValueMap 45 ns 60 ns 180 ms
folly::F14NodeMap 50 ns 90 ns 220 ms
folly::F14VectorMap 55 ns 65 ns 45 ms ← !

순회가 4-5배 빠르다. value가 vector에 contiguous이므로 prefetcher가 잘 동작.

대신 lookup이 약 20% 느림 — extra indirection.

#std/abseil 비교

abseil에는 직접 대응이 없다. absl::flat_hash_map 순회는 ValueMap과 비슷한 sparse pattern. order 보장도 없다.

항목std::unordered_mapabsl::flat_hash_mapfolly::F14VectorMap
Insertion orderXXO
Iteration speed느림보통빠름 (vector 수준)
Lookup speed느림빠름보통
Erase order 영향없음없음swap-pop
Memory작음보통

이 점에서 VectorMap은 Folly 고유. order + dense iteration의 조합은 다른 hash map에는 드물다.

#코드 리뷰 포인트

// Good — iteration-heavy workload
folly::F14VectorMap<int, Metric> m;
for (auto& [id, metric] : m) ProcessAll(metric);
// Bad — lookup-heavy
folly::F14VectorMap<int, int> m;
for (int i = 0; i < 1'000'000; ++i) {
Use(m.at(i)); // 매번 indirection
}
// Better: F14ValueMap

read pattern을 보고 선택. lookup이 90% 이상이면 ValueMap, iteration이 잦으면 VectorMap.

// 주의 — erase가 insertion order를 깨뜨림
folly::F14VectorMap<std::string, int> ordered;
ordered["a"] = 1;
ordered["b"] = 2;
ordered["c"] = 3;
ordered.erase("a");
// 순회 결과: b, c가 아니라 c, b (swap-pop)

order가 중요하면 erase 후에는 ordering 가정 금지. 또는 logical delete(tombstone) 패턴.

// Good — bulk insert 후 freeze
folly::F14VectorMap<Key, Value> immutable;
for (auto& kv : initial_data) immutable.insert(kv);
immutable.reserve(immutable.size()); // shrink to fit
// 이후 read-only로 사용

build-once-read-many 패턴이 VectorMap의 sweet spot.

#안티패턴

  • insertion order 보장 가정 후 erase: swap-pop으로 order가 깨진다. order 필요하면 erase 금지 또는 boost::container::flat_map 같은 다른 자료구조.
  • 외부에 vector index 노출: erase 후 index가 무효. iterator/index를 가진 채로 erase 금지.
  • lookup 위주 hot path: indirection 비용. ValueMap이 더 적합.

#정리

  • F14VectorMap은 value를 vector에 contiguous 저장, chunk는 index만.
  • 순회 throughput이 vector 수준 (4-5배 빠름).
  • insertion order 유지 (python dict 식).
  • lookup은 extra indirection으로 20% 느림.
  • erase는 swap-pop이라 order를 깨므로 주의.

#다음 편

F14FastMap은 위 세 변형 중 하나를 value 크기에 따라 자동 선택한다. trade-off를 사용자가 고민할 필요 없다.

#관련 항목

Folly Code Review · 33 of 89

  1. 1 Folly Code Review — Meta의 production-grade C++ 라이브러리 코드 분석
  2. 2 Folly 개요 — Meta가 production에서 검증한 utility 모음 분석
  3. 3 Folly vs Abseil 철학 비교 — performance-first vs std-compatible
  4. 4 Folly 빌드와 fbcode 환경 — monorepo의 그림자
  5. 5 Folly API stability 정책 — 어떤 보장도 없다는 솔직함
  6. 6 Folly production validation 문화 — peta-scale에서 단련된 코드
  7. 7 folly::Future 분석 — std::future의 한계를 넘는 composable async
  8. 8 folly::Promise·makeFuture — Future를 만드는 두 길
  9. 9 folly::SemiFuture vs Future — executor binding의 명시화
  10. 10 folly::Future thenValue·thenError·thenTry — continuation 체인 분석
  11. 11 folly::collect·collectAll·collectAny — fan-in 패턴 분석
  12. 12 folly::Future retry·window·via — 제어 흐름 조합자
  13. 13 folly::fibers 분석 — M:N stackful coroutine
  14. 14 folly::InlineExecutor — 호출자 thread에서 즉시 실행
  15. 15 folly::CPUThreadPoolExecutor — CPU-bound 작업의 표준 thread pool
  16. 16 folly::IOThreadPoolExecutor — libevent 기반 I/O pool
  17. 17 folly::ManualExecutor — 결정적 테스트를 위한 수동 진행
  18. 18 folly::EventBase 분석 — libevent 이벤트 루프의 핵심
  19. 19 folly::IOBuf 분석 — zero-copy buffer chain의 기본 단위
  20. 20 folly::IOBufQueue — chain의 push/pull 추상화
  21. 21 folly::io::Cursor·RWCursor — chain 위의 stream
  22. 22 folly Zero-copy 패턴 — IOBuf로 ScatterGather I/O 표현
  23. 23 folly::IOBuf shared semantics — clone·unshare·takeOwnership
  24. 24 folly::FBString 분석 — SSO + COW 구현
  25. 25 folly의 fmt::format 통합 — 모던 포맷팅 채택
  26. 26 folly::StringPiece — string_view 호환 분석
  27. 27 folly Join·Split utilities — 문자열 분해와 결합
  28. 28 folly::to·tryTo — text↔num 변환 분석
  29. 29 folly Conv Customization — 사용자 타입 지원
  30. 30 folly Conv 성능 비교 — sprintf·stringstream 대비
  31. 31 folly::F14ValueMap vs std::unordered_map
  32. 32 folly::F14NodeMap — stable pointer가 필요할 때
  33. 33 folly::F14VectorMap — cache-friendly iteration
  34. 34 folly::F14FastMap — auto-select 동작
  35. 35 folly F14 internals — SIMD probing 메커니즘
  36. 36 folly::small_vector — inline storage 분석
  37. 37 folly::FixedString — compile-time string
  38. 38 folly::AtomicHashMap — lock-free read 분석
  39. 39 folly::ConcurrentHashMap — sharded 동시 해시 맵
  40. 40 folly::EvictingCacheMap — LRU 구현 분석
  41. 41 folly::Synchronized — lock wrapper 패턴
  42. 42 folly::SharedMutex 분석
  43. 43 folly::Baton — one-shot wait 동기화
  44. 44 folly::RWSpinLock 분석
  45. 45 folly::PicoSpinLock — 1-byte spinlock
  46. 46 folly::ProducerConsumerQueue — SPSC 큐 분석
  47. 47 folly::MPMCQueue — multi-producer multi-consumer
  48. 48 folly::UnboundedQueue — 동적 크기 lock-free
  49. 49 folly::fibers::Channel — Go-like channel
  50. 50 folly::dynamic — JSON-like dynamic type 분석
  51. 51 folly JSON conversion — toJson·parseJson
  52. 52 folly dynamic ↔ struct — manual marshaling
  53. 53 folly dynamic Visitor pattern — type별 분기
  54. 54 folly::Singleton vs Meyers/static — 왜 Folly의 Singleton인가
  55. 55 folly::SingletonVault 분석 — 등록·소멸·의존성
  56. 56 folly::Singleton try_get·try_get_fast — TLS-cached 접근
  57. 57 folly::ExceptionWrapper — type-erased exception holder
  58. 58 folly::ScopeGuard·SCOPE_EXIT — RAII cleanup
  59. 59 folly::Optional vs std::optional
  60. 60 folly::Function vs std::function
  61. 61 folly::Lazy — 지연 초기화 wrapper
  62. 62 folly Meta 스타일 code review 패턴
  63. 63 folly anti-patterns — 잘못 쓰면 std보다 느림
  64. 64 folly vs std 선택 기준 분석
  65. 65 folly::coro 개요 — production C++20 코루틴 어댑터
  66. 66 folly::coro::Task — lazy single-shot 코루틴
  67. 67 folly::coro::AsyncGenerator — 비동기 스트림
  68. 68 folly coro blockingWait·collectAll — 동기 경계와 fan-in
  69. 69 folly::coro::Baton·Mutex — 코루틴-aware 동기화
  70. 70 folly::Expected — 결과 또는 오류
  71. 71 folly::Try — Future 결과 wrapper
  72. 72 folly::Try vs Expected 선택 기준
  73. 73 folly::Range — 일반 iterator pair
  74. 74 folly::Uri — URL 파서
  75. 75 folly Fingerprint64·128 — 분산 hash
  76. 76 folly SpookyHashV2 — fast non-crypto hash
  77. 77 folly::Init — main() 부트스트랩
  78. 78 folly::Indestructible — global lifetime 패턴
  79. 79 folly::MicroLock — 1-byte 락
  80. 80 folly::MicroSpinLock — 가장 좁은 spin lock
  81. 81 folly::format — legacy formatter 분석
  82. 82 folly::demangle — typeid 디망글링
  83. 83 folly::DynamicConverter — dynamic ↔ struct
  84. 84 folly::RecordIO — append-only 로그 파일 포맷
  85. 85 folly::io::Compression — zstd·lz4·snappy wrapper
  86. 86 folly::AsyncIO — io_uring·Linux AIO
  87. 87 folly::CancellationToken — 코루틴·Future 취소 전파
  88. 88 folly::observer — hot config의 atomic refresh
  89. 89 fbcode 패턴 모음 — folly 사용의 실전