본문으로 건너뛰기
Folly Code Review · 60/89

folly::Lazy — 지연 초기화 wrapper

· Hawk · 3분 읽기

#한 줄 요약

folly::Lazy<T>첫 접근 시점에 T를 생성하는 wrapper다. 무거운 객체(DB connection, ML model, regex)를 모든 인스턴스에 미리 만들지 않고, 실제 사용 시점까지 미루기 위한 type-level 도구다. std::once_flag + lambda 패턴의 정형화된 버전.

#동기 — 항상 사용되지 않는 무거운 객체

// 회피 — 무거운 객체를 매번 생성
class Handler {
ExpensiveCache cache_{loadFromDisk()}; // ctor에서 디스크 I/O
Handler() {} // 인스턴스 생성마다 cache 만들어짐
};

handler가 cache를 사용하지 않는 path가 있다면 디스크 I/O가 낭비다.

전통적 해법: std::optional<T> + std::once_flag + 수동 init.

class Handler {
mutable std::optional<ExpensiveCache> cache_;
mutable std::once_flag flag_;
const ExpensiveCache& cache() const {
std::call_once(flag_, [&]{ cache_.emplace(loadFromDisk()); });
return *cache_;
}
};

동작하지만 반복적이다. Lazy가 이걸 한 줄로.

#API

#include <folly/Lazy.h>
class Handler {
folly::Lazy<ExpensiveCache> cache_ = folly::lazy([]{ return loadFromDisk(); });
void serve() {
auto& c = *cache_; // 첫 접근 시 lambda 실행
c.lookup(...);
}
};

folly::lazy(creator)Lazy<T>를 만든다. T는 lambda의 반환 타입에서 자동 추론.

이후 *lazylazy->method()로 접근. 첫 접근 시 lambda 1회 호출, 이후 캐시.

#내부 구현

template <typename Func>
class Lazy {
using T = std::invoke_result_t<Func>;
mutable std::optional<T> value_;
mutable std::once_flag flag_;
Func creator_;
public:
T& operator*() const {
std::call_once(flag_, [&]{ value_.emplace(creator_()); });
return *value_;
}
T* operator->() const { return &**this; }
};

거의 위의 수동 패턴 그대로. once_flag로 thread-safe 단일 초기화 보장.

#thread safety

std::call_once가 사용되므로 thread-safe.

  • 첫 호출자가 lambda 실행, 다른 thread는 wait.
  • 이후 호출은 already-initialized 빠른 path.

#사용 패턴

#regex compile

// 회피 — 매번 compile (느림)
bool match(string s) {
std::regex re("complex pattern"); // compile 비용
return std::regex_search(s, re);
}
// Good — 첫 호출에 compile, 이후 cache
bool match(string s) {
static folly::Lazy<std::regex> re = folly::lazy([]{
return std::regex("complex pattern");
});
return std::regex_search(s, *re);
}

regex compile은 매우 비싸다. lazy + static으로 한 번만.

#per-thread DB connection

class ServiceContext {
folly::Lazy<DbConnection> db_ = folly::lazy([]{ return connectToDb(); });
};
void handleRequest(ServiceContext& ctx) {
if (need_db) {
ctx.db_->query(...); // 첫 사용 시 connect
}
}

DB 안 쓰는 request라면 connect 안 함.

#ML model loading

class Inference {
folly::Lazy<Model> model_ = folly::lazy([]{ return Model::load("path"); });
};

모델 load는 수백 MB · 수십 초. 처음 inference 요청 시점까지 미룸.

#std / abseil 비교

도구one-time initthread-safeAPI 무게
std::optional<T> 수동manualmanual무거움
std::call_once + lambdayesyes중간
static 함수 내부 (Meyers)yesyes (C++11+)가벼움
folly::Lazy<T>yesyes가장 가벼움
absl::call_onceyesyes중간

Meyers static은 정적 객체에 좋고, Lazy는 멤버 필드에 좋다. 인스턴스마다 lazy init이 필요하면 Lazy가 정답.

#코드 리뷰 포인트

#1. 정말 lazy가 필요한가

// 회피 — 항상 사용되는 객체에 Lazy
class Worker {
folly::Lazy<Logger> log_ = folly::lazy([]{ return Logger(); }); // 항상 쓰는데
};
// Good — 항상 쓰면 그냥 멤버
class Worker {
Logger log_;
};

매 접근에 once_flag 분기가 들어간다. 항상 사용한다면 그냥 멤버로.

#2. lambda 안 capture 주의

// 회피 — capture by reference + lifetime 문제
auto x = makeBigConfig();
auto lazy = folly::lazy([&x]{ return process(x); });
// lazy 살아있을 때 x가 살아 있어야 함
// Good — by value capture
auto lazy = folly::lazy([x = std::move(x)]{ return process(x); });

lambda capture의 lifetime을 lazy 객체의 lifetime과 맞춘다.

#3. 첫 호출 latency 인지

// 회피 — 핫패스 첫 호출이 느림
folly::Lazy<HeavyCache> cache;
// p99 latency가 첫 request에서 spike

핫패스 lazy는 startup 시 warm-up 호출로 미리 init.

void warmup() {
*cache; // pre-init
}

#4. Lazy<unique_ptr> 회피

// 회피 — 이중 indirection
folly::Lazy<std::unique_ptr<T>> bad;
// Good — Lazy<T>
folly::Lazy<T> good;

Lazy 자체가 storage를 가진다. unique_ptr로 다시 감쌀 이유 없음.

#안티패턴

#1. Lazy를 매 호출마다 새로 생성

// 회피
void use() {
auto lz = folly::lazy([]{ return compute(); });
auto v = *lz; // 즉시 첫 접근 — lazy 의미 없음
}

매 호출에서 새 lazy면 lambda가 매번 실행. lazy는 재사용되는 컨텍스트에서만 의미 있음.

#2. creator 안에서 예외

// 회피
folly::Lazy<T> bad = folly::lazy([]{
throw std::runtime_error("..."); // 첫 호출자에게만 던져짐
});
// 첫 호출자 catch한 후 다음 호출은 어떻게 되나?
// Folly Lazy 구현마다 다르므로 명세 확인 필요

creator는 noexcept이거나 외부에서 명확히 catch. lazy init 실패의 retry semantics는 모호함.

#3. mutable이 아닌 Lazy를 const 메서드에서 접근

class X {
folly::Lazy<T> lazy_; // non-mutable
const T& get() const {
return *lazy_; // 컴파일 에러 — lazy_가 mutable이 아니면
}
};
// Good — mutable Lazy
mutable folly::Lazy<T> lazy_;

Lazy 내부는 mutable 멤버를 갖지만, 멤버 자체가 mutable이 아니면 const 메서드에서 첫 init 못 함.

#정리

  • Lazy첫 접근 시 T 생성하는 wrapper.
  • std::call_once + std::optional 패턴을 한 줄로.
  • regex, DB connection, ML model 같이 비싼 init에 적합.
  • 항상 사용되는 객체에는 그냥 멤버가 더 빠름.
  • creator는 noexcept 또는 명확한 retry 정책.
  • mutable로 선언해야 const 메서드에서 init 가능.
  • Lazy<unique_ptr> 같은 이중 wrap 회피.

#다음 편

Part 14-01 Meta 스타일 code review — Part 14 시작. Meta 사내 리뷰 문화와 Folly 특유의 리뷰 포인트.

#관련 항목

Folly Code Review · 61 of 89

  1. 1 Folly Code Review — Meta의 production-grade C++ 라이브러리 코드 분석
  2. 2 Folly 개요 — Meta가 production에서 검증한 utility 모음 분석
  3. 3 Folly vs Abseil 철학 비교 — performance-first vs std-compatible
  4. 4 Folly 빌드와 fbcode 환경 — monorepo의 그림자
  5. 5 Folly API stability 정책 — 어떤 보장도 없다는 솔직함
  6. 6 Folly production validation 문화 — peta-scale에서 단련된 코드
  7. 7 folly::Future 분석 — std::future의 한계를 넘는 composable async
  8. 8 folly::Promise·makeFuture — Future를 만드는 두 길
  9. 9 folly::SemiFuture vs Future — executor binding의 명시화
  10. 10 folly::Future thenValue·thenError·thenTry — continuation 체인 분석
  11. 11 folly::collect·collectAll·collectAny — fan-in 패턴 분석
  12. 12 folly::Future retry·window·via — 제어 흐름 조합자
  13. 13 folly::fibers 분석 — M:N stackful coroutine
  14. 14 folly::InlineExecutor — 호출자 thread에서 즉시 실행
  15. 15 folly::CPUThreadPoolExecutor — CPU-bound 작업의 표준 thread pool
  16. 16 folly::IOThreadPoolExecutor — libevent 기반 I/O pool
  17. 17 folly::ManualExecutor — 결정적 테스트를 위한 수동 진행
  18. 18 folly::EventBase 분석 — libevent 이벤트 루프의 핵심
  19. 19 folly::IOBuf 분석 — zero-copy buffer chain의 기본 단위
  20. 20 folly::IOBufQueue — chain의 push/pull 추상화
  21. 21 folly::io::Cursor·RWCursor — chain 위의 stream
  22. 22 folly Zero-copy 패턴 — IOBuf로 ScatterGather I/O 표현
  23. 23 folly::IOBuf shared semantics — clone·unshare·takeOwnership
  24. 24 folly::FBString 분석 — SSO + COW 구현
  25. 25 folly의 fmt::format 통합 — 모던 포맷팅 채택
  26. 26 folly::StringPiece — string_view 호환 분석
  27. 27 folly Join·Split utilities — 문자열 분해와 결합
  28. 28 folly::to·tryTo — text↔num 변환 분석
  29. 29 folly Conv Customization — 사용자 타입 지원
  30. 30 folly Conv 성능 비교 — sprintf·stringstream 대비
  31. 31 folly::F14ValueMap vs std::unordered_map
  32. 32 folly::F14NodeMap — stable pointer가 필요할 때
  33. 33 folly::F14VectorMap — cache-friendly iteration
  34. 34 folly::F14FastMap — auto-select 동작
  35. 35 folly F14 internals — SIMD probing 메커니즘
  36. 36 folly::small_vector — inline storage 분석
  37. 37 folly::FixedString — compile-time string
  38. 38 folly::AtomicHashMap — lock-free read 분석
  39. 39 folly::ConcurrentHashMap — sharded 동시 해시 맵
  40. 40 folly::EvictingCacheMap — LRU 구현 분석
  41. 41 folly::Synchronized — lock wrapper 패턴
  42. 42 folly::SharedMutex 분석
  43. 43 folly::Baton — one-shot wait 동기화
  44. 44 folly::RWSpinLock 분석
  45. 45 folly::PicoSpinLock — 1-byte spinlock
  46. 46 folly::ProducerConsumerQueue — SPSC 큐 분석
  47. 47 folly::MPMCQueue — multi-producer multi-consumer
  48. 48 folly::UnboundedQueue — 동적 크기 lock-free
  49. 49 folly::fibers::Channel — Go-like channel
  50. 50 folly::dynamic — JSON-like dynamic type 분석
  51. 51 folly JSON conversion — toJson·parseJson
  52. 52 folly dynamic ↔ struct — manual marshaling
  53. 53 folly dynamic Visitor pattern — type별 분기
  54. 54 folly::Singleton vs Meyers/static — 왜 Folly의 Singleton인가
  55. 55 folly::SingletonVault 분석 — 등록·소멸·의존성
  56. 56 folly::Singleton try_get·try_get_fast — TLS-cached 접근
  57. 57 folly::ExceptionWrapper — type-erased exception holder
  58. 58 folly::ScopeGuard·SCOPE_EXIT — RAII cleanup
  59. 59 folly::Optional vs std::optional
  60. 60 folly::Function vs std::function
  61. 61 folly::Lazy — 지연 초기화 wrapper
  62. 62 folly Meta 스타일 code review 패턴
  63. 63 folly anti-patterns — 잘못 쓰면 std보다 느림
  64. 64 folly vs std 선택 기준 분석
  65. 65 folly::coro 개요 — production C++20 코루틴 어댑터
  66. 66 folly::coro::Task — lazy single-shot 코루틴
  67. 67 folly::coro::AsyncGenerator — 비동기 스트림
  68. 68 folly coro blockingWait·collectAll — 동기 경계와 fan-in
  69. 69 folly::coro::Baton·Mutex — 코루틴-aware 동기화
  70. 70 folly::Expected — 결과 또는 오류
  71. 71 folly::Try — Future 결과 wrapper
  72. 72 folly::Try vs Expected 선택 기준
  73. 73 folly::Range — 일반 iterator pair
  74. 74 folly::Uri — URL 파서
  75. 75 folly Fingerprint64·128 — 분산 hash
  76. 76 folly SpookyHashV2 — fast non-crypto hash
  77. 77 folly::Init — main() 부트스트랩
  78. 78 folly::Indestructible — global lifetime 패턴
  79. 79 folly::MicroLock — 1-byte 락
  80. 80 folly::MicroSpinLock — 가장 좁은 spin lock
  81. 81 folly::format — legacy formatter 분석
  82. 82 folly::demangle — typeid 디망글링
  83. 83 folly::DynamicConverter — dynamic ↔ struct
  84. 84 folly::RecordIO — append-only 로그 파일 포맷
  85. 85 folly::io::Compression — zstd·lz4·snappy wrapper
  86. 86 folly::AsyncIO — io_uring·Linux AIO
  87. 87 folly::CancellationToken — 코루틴·Future 취소 전파
  88. 88 folly::observer — hot config의 atomic refresh
  89. 89 fbcode 패턴 모음 — folly 사용의 실전