본문으로 건너뛰기
Modern Embedded Recipes · 150/152

QEMU CXL Type 3 디바이스 에뮬레이션 — 노트북에서 CXL 개발 환경 구축

· Hawk · 5분 읽기
recipes cxl qemu emulation virtualization type-3

#한 줄 요약

“실 CXL 카드 없이도 노트북에서 CXL 드라이버·BIOS 개발이 가능합니다.” QEMU 8.0+가 Type 3 memory expander를 stable 지원합니다.

#왜 에뮬레이션이 필요한가

Ch 149에서 CXL의 PHY·프로토콜을 봤습니다. 그런데 드라이버 prototype이나 BIOS의 CXL 초기화 코드를 손보려면 디바이스가 실제로 있어야 합니다. Astera Leo 같은 Type 3 카드는 수십만 원에서 수백만 원이고, 그것을 꽂을 CXL 지원 보드까지 필요합니다. 개발자 한 명이 책상 위에서 시작하기엔 문턱이 높습니다.

QEMU는 그 문턱을 없애 줍니다. Linux guest 입장에서는 lspci에도 잡히고 /sys/bus/cxl/devices/에도 등록되는, 실 디바이스와 구분이 안 되는 CXL 디바이스가 생깁니다. 대여한 장비를 반납할 걱정 없이 커널 모듈을 몇 번이고 다시 올렸다 내렸다 할 수 있는 셈입니다.

이 글은 환경을 세우는 레시피입니다. QEMU의 CXL 지원 범위와 내부 동작, CEDT 테이블 구조, 4.0 기능의 구현 현황은 CXL 4.0 Internals Ch 12에서 다룹니다.

#준비물

시작하기 전에 호스트 쪽 조건을 확인합니다. 여기서 하나라도 어긋나면 아래 명령이 조용히 실패합니다.

항목최소확인 명령
QEMU8.0+qemu-system-x86_64 --version
Guest 커널6.0+guest에서 uname -r
Guest 이미지Ubuntu 24.04+ 또는 Fedora 38+—
CPU 가상화KVM 활성ls /dev/kvm
여유 디스크backing store 크기 + 여유df -h .

Guest 배포판을 최신으로 고르는 이유는 하나입니다. CXL 서브시스템은 커널 6.0에 mainline으로 들어갔고, 5.15 LTS에는 OEM 패치 없이는 cxl_acpi 모듈 자체가 없습니다.

#한 번에 붙여넣는 실행

backing store 파일을 먼저 만들고, 그 파일을 CXL 디바이스의 메모리로 붙이는 순서입니다. 아래 블록을 그대로 실행하면 256 MB짜리 Type 3 expander 한 개가 달린 guest가 뜹니다.

Terminal window
# 1. backing store — CXL 디바이스의 메모리가 실제로 저장되는 파일
truncate -s 256M ./cxl-mem-backing


# 2. guest 실행
qemu-system-x86_64 \
    -machine q35,cxl=on \
    -m 8G,slots=8,maxmem=32G \
    -smp 4 -enable-kvm \
    -drive file=./ubuntu-24.04.qcow2,if=virtio \
    \
    -object memory-backend-file,id=cxl-mem0,share=on,mem-path=./cxl-mem-backing,size=256M \
    \
    -device pxb-cxl,bus_nr=12,bus=pcie.0,id=cxl.1 \
    -device cxl-rp,port=0,bus=cxl.1,id=root_port0,chassis=0,slot=0 \
    -device cxl-type3,bus=root_port0,memdev=cxl-mem0,id=cxl-mem0-dev \
    \
    -M cxl-fmw.0.targets.0=cxl.1,cxl-fmw.0.size=512M

디바이스 스택은 실 하드웨어의 계층을 그대로 흉내 냅니다. host bridge(pxb-cxl) 아래 root port(cxl-rp)가 있고 그 아래 endpoint(cxl-type3)가 붙는 구조입니다. cxl-fmw는 펌웨어가 잡아 주는 주소 창(CFMWS)에 해당하고, 여기서는 그 역할을 QEMU가 대신합니다.

FMW 크기를 디바이스 크기의 두 배로 잡은 것은 오타가 아닙니다. 나중에 디바이스를 하나 더 붙여 interleave를 시험하려면 창이 그만큼 넉넉해야 합니다.

#부팅 후 3분 검증

디바이스가 제대로 붙었는지는 아래 순서로 확인합니다. 위에서부터 하나씩 통과해야 다음 것이 의미가 있습니다.

Terminal window
# 커널이 CXL을 아는 버전인가
guest$ uname -r
6.8.0-...


# 모듈 로딩
guest$ modprobe cxl_acpi
guest$ modprobe cxl_pci


# PCIe 레벨에서 보이는가
guest$ lspci -nn | grep CXL
0c:00.0 CXL: ... [1af4:0d93]


# CXL 서브시스템에 등록됐는가
guest$ ls /sys/bus/cxl/devices/
mem0/  decoder0.0/  port0/  root0/


# 토폴로지가 기대대로인가
guest$ cxl list -RT

여기까지 통과하면 환경은 완성입니다. 이제 메모리로 쓸 수 있게 region을 만들고 NUMA 노드로 올립니다.

Terminal window
guest$ cxl create-region -d decoder0.0 -t ram -s 256M
guest$ daxctl reconfigure-device dax0.0 -m system-ram


guest$ numactl --hardware
node 0 size: 8000 MB     # 기본 RAM
node 1 size: 256 MB      # CXL Type 3 expander

numactl에 노드가 하나 더 보이면 끝입니다. 이 시점부터 guest 안의 모든 명령은 실 디바이스를 상대할 때와 똑같이 동작합니다.

#처음 세울 때 걸리는 함정

이 레시피가 실패하는 지점은 거의 정해져 있습니다. 증상만 보면 원인이 안 보이는 것들이라 미리 적어 둡니다.

증상원인고치는 법
cxl option requires q35 machine-machine pc로 실행q35로 바꿉니다. CXL은 PCIe 5.0 기반이고 PCIe가 q35 전용입니다
guest 시작 직후 segfaultbacking 파일에 QEMU 프로세스의 쓰기 권한 없음mem-path를 /tmp/ 아래로 옮기거나 소유권을 맞춥니다
modprobe: cxl_acpi not foundguest 커널이 6.0 미만guest 이미지를 Ubuntu 24.04+ / Fedora 38+로 교체합니다
region은 만들어지는데 interleave가 안 됨FMW 크기가 디바이스 크기와 같음FMW를 디바이스의 2배 이상으로 잡습니다
두 번째 디바이스가 안 붙음root port끼리 (chassis, slot) 충돌slot을 1, 2, 3...으로 증가시킵니다

#커널 모듈을 고쳐 가며 쓰기

이 환경의 값어치는 반복 속도에 있습니다. 실 하드웨어라면 reboot과 flash에 몇 분씩 쓰지만, 여기서는 컴파일부터 확인까지 수십 초입니다.

CXL mock 프레임워크는 drivers/cxl/이 아니라 tools/testing/cxl/에 있습니다. 처음 찾을 때 헷갈리는 자리입니다.

Terminal window
host$ make -C ~/linux M=tools/testing/cxl
host$ scp tools/testing/cxl/cxl_mock.ko guest:/tmp/


guest$ insmod /tmp/cxl_mock.ko
guest$ dmesg | tail
guest$ ls /sys/bus/cxl/devices/


host$ vim tools/testing/cxl/test/mock.c   # 고치고 다시

#여기서 멈춰야 할 때

QEMU가 흉내 내지 못하는 영역이 있습니다. 아래에 해당하는 작업이라면 이 환경에서 나온 결과를 믿으면 안 됩니다.

  • 성능 측정·튜닝 — latency 모델이 실제와 다릅니다.
  • PHY·signal integrity 디버깅 — 실 PCIe 링크가 없어 LTSSM 버그가 재현되지 않습니다.
  • Type 2 accelerator의 coherency 검증 — CXL.cache가 구현돼 있지 않습니다.
  • RAS 운영 시나리오 — poison·MCTP·VDM이 없습니다.

지원 범위 매트릭스, 정밀 시뮬레이터·FPGA와의 비교, CXL 4.0 기능의 QEMU 구현 현황은 CXL 4.0 Internals Ch 12에 정리돼 있습니다.

#정리

  • truncate로 backing store를 만들고 -machine q35,cxl=on에 pxb-cxl → cxl-rp → cxl-type3를 쌓는 것이 전부입니다.
  • FMW는 디바이스 크기의 2배 이상으로 잡아야 나중에 interleave를 시험할 수 있습니다.
  • 검증은 lspci → /sys/bus/cxl/devices/ → cxl list -RT → numactl --hardware 순서로 위에서부터 통과시킵니다.
  • 실패는 대부분 q35 미사용, backing 파일 권한, guest 커널 6.0 미만 셋 중 하나입니다.
  • mock 모듈은 tools/testing/cxl/에 있습니다. drivers/cxl/에서 찾으면 안 나옵니다.

다음 편은 Ch 151: Linux CXL 드라이버 분석 — drivers/cxl/ 디렉터리의 코드를 진입점부터 sysfs까지 분해합니다.

#관련 항목

Modern Embedded Recipes · 151 of 152

  1. 1 Modern Embedded Recipes — 모던 임베디드 실전 레시피 시리즈 소개
  2. 2 디지털 신호 기초 — Voltage Level·Edge·Setup/Hold 분석
  3. 3 임베디드 클럭과 타이밍 — Skew·Jitter·PLL·MMCM 분석
  4. 4 GPIO 내부 구조 분해 — Push-Pull·Open-Drain·Schmitt Trigger
  5. 5 UART 하드웨어 동작 분석 — Baud Rate·Framing·FIFO
  6. 6 SPI 하드웨어 분석 — Clock Mode·MOSI/MISO·Chip Select
  7. 7 I2C 하드웨어 분석 — Open-Drain·Clock Stretching·Arbitration
  8. 8 ADC 동작 원리 — SAR·Sigma-Delta·Pipelined 비교
  9. 9 DAC 동작 원리 — R-2R Ladder·Sigma-Delta·Settling Time
  10. 10 PWM 신호 생성 분석 — Duty·Frequency·Dead Time·Center-Aligned
  11. 11 CAN 버스 전기적 특성 — Differential·Termination·Dominant/Recessive
  12. 12 RS-485·RS-422 차동 신호 분석 — Termination·Biasing·Topology
  13. 13 LVDS 차동 신호 분석 — Common-Mode·Impedance·Eye Pattern
  14. 14 ARM Cortex-M 시리즈 비교 — M0·M3·M4·M7·M33·M55 분석
  15. 15 ARM Cortex-A 시리즈 비교 — A53·A55·A72·A78·X1 분석
  16. 16 ARM 레지스터 구조 분석 — R0~R15·CPSR·SPSR·Banked Registers
  17. 17 Cortex-M 예외 처리 — Vector Table·NVIC·Tail-Chaining 추적
  18. 18 ARM 메모리 맵 분석 — Normal·Device·Strongly-Ordered Region
  19. 19 ARM L1·L2 캐시 분석 — Set Associative·Inclusive·Maintenance
  20. 20 ARM MPU 활용 — Region·Attribute·Privilege Separation
  21. 21 ARM MMU 기초 분석 — Translation Table·TLB·ASID
  22. 22 ARM TrustZone-M 기초 — Secure/Non-Secure·NSC·MPC
  23. 23 ARM Memory Barrier 실전 — DMB·DSB·ISB·DMA·MMIO
  24. 24 임베디드 크로스 컴파일러 분석 — GCC·Clang·Sysroot 구성
  25. 25 C 컴파일 4단계 — Preprocess·Compile·Assemble·Link 추적
  26. 26 ELF 파일 구조 분석 — Section·Segment·Symbol Table·DWARF
  27. 27 링커 스크립트 기초 — SECTIONS·MEMORY·entry point
  28. 28 링커 스크립트 고급 — Overlay·BSS·init_array·LMA/VMA
  29. 29 임베디드 스타트업 코드 분석 — Reset_Handler·Vector Table·SystemInit
  30. 30 C 런타임 crt0 분석 — Stack·BSS Zero·Data Copy·atexit
  31. 31 임베디드 메모리 레이아웃 — .text·.rodata·.data·.bss·.heap·.stack
  32. 32 임베디드 컴파일러 최적화 분석 — -O0~-O3·-Os·-LTO 비교
  33. 33 Map 파일 분석 — Symbol·Section·Size 추적으로 코드 크기 진단
  34. 34 Make·CMake 크로스 컴파일 — Toolchain File·Sysroot 통합
  35. 35 임베디드 Bootloader 체인 — BootROM·SPL·U-Boot·Kernel·Secure Boot
  36. 36 첫 bare-metal 프로그램 작성 — Linker·Startup·main의 최소 구성
  37. 37 MMIO 레지스터 직접 접근 — volatile·Memory Map·Aliasing 분석
  38. 38 GPIO 드라이버 직접 구현 — STM32 HAL 없이 레지스터로
  39. 39 임베디드 클럭 설정 분석 — HSE·PLL·SYSCLK·AHB/APB 분주
  40. 40 Cortex-M 인터럽트 핸들링 — NVIC·Priority·Vector·EXTI
  41. 41 SysTick 타이머 활용 — 24-bit Counter·1ms Tick·delay 구현
  42. 42 UART 드라이버 구현 — polling·interrupt·DMA 3가지 방식 비교
  43. 43 SPI 드라이버 구현 — Master·Slave·CRC·DMA
  44. 44 I2C 드라이버 구현 — Master·7-bit/10-bit·Clock Stretching 처리
  45. 45 임베디드 DMA 기초 — Memory-to-Memory·Peripheral·Circular Mode
  46. 46 저전력 모드 분석 — Sleep·Stop·Standby·Wake-up Source
  47. 47 IWDG·WWDG 워치독 구현 — Independent vs Window 비교
  48. 48 임베디드 Flash 프로그래밍 — Erase·Program·Read While Write
  49. 49 DDR 초기화 실패 진단 — Timing·Calibration·Walking Bit Test
  50. 50 PWM 출력 실전 — LED 밝기·모터 속도 제어
  51. 51 DC 모터 제어 — H-Bridge·PWM Duty·Encoder Feedback
  52. 52 스테퍼 모터 제어 — Full Step·Half Step·Microstepping
  53. 53 서보 모터 제어 — PWM 1ms~2ms·Closed Loop·PID
  54. 54 Character LCD 제어 — HD44780·4-bit Mode·Custom Char
  55. 55 SPI OLED 제어 — SSD1306·Frame Buffer·Page 단위 갱신
  56. 56 TFT 디스플레이 구동 — RGB565·FSMC·LTDC·DMA2D
  57. 57 환경 센서 활용 — BME280 온습압·SHT3x·BMP180 비교
  58. 58 IMU 센서 활용 — MPU6050·LSM6DSO·Sensor Fusion
  59. 59 CAN 통신 구현 — bxCAN·Filter·Mailbox·CAN-FD
  60. 60 USB Device 기초 — Descriptor·Enumeration·Endpoint·HID/CDC
  61. 61 Ethernet MAC+PHY 통합 — RMII·lwIP·DMA Descriptor
  62. 62 SD Card + FatFs 구현 — SPI/SDIO 모드·CSD/CID·Wear
  63. 63 RTC 활용 — Calendar·Alarm·Wake-up Timer·Backup Domain
  64. 64 RTOS 도입 결정 분석 — Super Loop vs RTOS 트레이드오프
  65. 65 RTOS Task 설계 패턴 — 우선순위·스택·State Machine
  66. 66 RTOS Scheduler 동작 분석 — Tick·Context Switch·Yield
  67. 67 RTOS Semaphore 활용 — Binary·Counting·ISR Give
  68. 68 RTOS Mutex 활용 — Recursive·Priority Inheritance 적용
  69. 69 RTOS Queue 활용 — By-Value·By-Reference·Timeout 패턴
  70. 70 RTOS Event Group 활용 — Bit Wait·Sync·Notify
  71. 71 RTOS Software Timer 활용 — One-shot·Auto-reload·Daemon Task
  72. 72 ISR-Safe API 설계 — Reentrant·Atomic·Defer 패턴
  73. 73 Priority Inversion 진단·예방 — Mars Pathfinder Lesson 추적
  74. 74 Timer Wheel 분석 — Hashed·Hierarchical·O(1) Tick
  75. 75 RTOS 디버깅 기법 — Tracealyzer·SystemView·Stack 추적
  76. 76 임베디드 Linux 부팅 흐름 분석 — BootROM·U-Boot·Kernel·init
  77. 77 U-Boot 활용 — bootcmd·env·tftp·boot.scr 분석
  78. 78 Device Tree 실전 — DTS·DTB·Overlay·Phandle 추적
  79. 79 Device Tree Overlay 적용 — Runtime fragment·dtoverlay
  80. 80 임베디드 커널 빌드 — defconfig·menuconfig·Image·zImage
  81. 81 커널 모듈 기초 — init/exit·Parameter·KBuild·DKMS
  82. 82 캐릭터 드라이버 작성 — file_operations·cdev·register_chrdev
  83. 83 Platform 드라이버 작성 — probe·remove·of_match·DT 바인딩
  84. 84 mmap 4가지 모드 — Anonymous·File·Shared·Huge Page
  85. 85 epoll 실전 — LT·ET·ONESHOT·EXCLUSIVE 비교
  86. 86 UIO·VFIO 분석 — User-Space Driver와 IOMMU 격리
  87. 87 sysfs·configfs 활용 — kobject 기반 User 인터페이스
  88. 88 IRQ Affinity 튜닝 — smp_affinity·isolcpus·irqbalance
  89. 89 루트 파일시스템 구축 — Buildroot 기초·Package·Toolchain
  90. 90 임베디드 동적 메모리 — malloc 위험·결정성·대안 분석
  91. 91 메모리 정렬과 패딩 분석 — Natural·Strict Alignment·Trap
  92. 92 Cache Line Alignment — alignas·Padding·SoA 적용
  93. 93 DMA-Friendly Allocator — dma_alloc_coherent·IOMMU·Pool
  94. 94 Zero-Copy Pipeline — DMA-BUF·sendfile·io_uring·splice
  95. 95 NUMA Memory Topology — numactl·numa_alloc·HBM 적용
  96. 96 SIMD 활용 분석 — Intrinsics·Auto-Vectorization·OpenMP SIMD
  97. 97 ARM NEON 심화 — Matrix Multiply·FFT·Image Filter 적용
  98. 98 임베디드 스택 분석 — high-water·overflow 탐지
  99. 99 임베디드 코드 크기 최적화 — -Os·LTO·Section Garbage Collection
  100. 100 임베디드 전력 최적화 — Sleep Mode·Clock Gating·DVFS
  101. 101 WCET 분석 기법 — Static·Measurement·Hybrid 방법론
  102. 102 Lock-Free Ring Buffer 구현 — SPSC·Power-of-2·Memory Order
  103. 103 Wait-Free Signaling — Atomic Flag·Sequence·Latest-Value
  104. 104 RCU (Read-Copy-Update) 기초 — Quiescent State·Grace Period
  105. 105 Hazard Pointer 분석 — Lock-Free Memory Reclamation
  106. 106 Compare-And-Swap 패턴 — Stack·Counter·Linked List 적용
  107. 107 Atomic Operation 비용 분석 — Fence·Cache Line·Contention
  108. 108 Spinlock vs Mutex 결정 가이드 — Context Switch·Hold Time
  109. 109 ABA 문제 회피 — Tagged Pointer·Hazard·Generation Counter
  110. 110 False Sharing 해결 — Cache Line Padding·SoA 적용
  111. 111 MPMC Queue 구현 — Multi-producer Multi-consumer Lock-Free
  112. 112 임베디드 디버깅 마인드셋 — 가설·격리·재현·이분탐색
  113. 113 JTAG·SWD 안 붙을 때 — 핀·전압·속도·세션 진단
  114. 114 GDB 원격 디버깅 — OpenOCD·J-Link·target remote 구성
  115. 115 Cortex-M 하드폴트 분석 — Stacked Frame·CFSR 읽기
  116. 116 UART 안 찍힐 때 — Bare-metal 체크리스트
  117. 117 임베디드 부팅 실패 진단 — 단계별 Isolation
  118. 118 인터럽트 누락·중복 진단 — Priority·Pending·Re-entry 추적
  119. 119 메모리 오버플로우·오염 진단 — Canary·MPU·Pattern 분석
  120. 120 타이밍·Race 진단 — Heisenbug 잡는 법
  121. 121 통신 프로토콜 분석 — Logic Analyzer와 Protocol Decoder
  122. 122 임베디드 로깅 시스템 설계 — 레벨·버퍼·SWO·Deferred
  123. 123 임베디드 포스트모템 분석 — Core Dump와 Field Crash
  124. 124 FPGA 기초 분석 — LUT·FF·BRAM·DSP 자원 구조
  125. 125 Vivado 사용법 — Project·Constraint·Synth·Impl·Bitstream
  126. 126 PCIe BAR 매핑 분석 — Config Space·Enumeration·MMIO 접근
  127. 127 AXI 인터페이스 — AXI4·AXI4-Lite·AXI-Stream 비교
  128. 128 Zynq PS-PL 통신 — GP·HP·ACP 인터페이스 선택
  129. 129 Mailbox Protocol 분석 — Host와 Accelerator를 잇는 Doorbell
  130. 130 Command Queue·Submission Queue — NVMe·XDMA 공통 패턴
  131. 131 DMA Completion 메커니즘 — Interrupt·Polling·Completion Ring
  132. 132 PCIe Streaming 분석 — BAR Type·MSI-X·Kernel Bypass
  133. 133 Vitis HLS 분석 — Pragma·Pipeline II·Dataflow 실전 감각
  134. 134 HLS 최적화 기법 — Pipeline·Unroll·Partition·Dataflow
  135. 135 Vitis AI 분석 — DPU·xmodel·VART
  136. 136 OpenCL on FPGA — Kernel·Channel·Burst Memory 분석
  137. 137 Intel Quartus 사용법 — Platform Designer·Nios II·HLS
  138. 138 Edge Inference 분석 — Cloud vs Edge·Latency·Privacy
  139. 139 NPU 아키텍처 분석 — Ethos·Hexagon·Systolic Array 비교
  140. 140 딥러닝 Quantization 분석 — PTQ·QAT·INT8·INT4·Calibration
  141. 141 TensorRT 분석 — ONNX→Engine·FP16·INT8·DLA·Multi-Stream
  142. 142 TFLite Micro 분석 — Op Resolver·Tensor Arena·Cortex-M
  143. 143 ONNX Runtime 분석 — Execution Provider와 Cross-Platform 배포
  144. 144 Edge Thermal Management — Throttling·DVFS·Fan Curve·Sustained
  145. 145 NVIDIA Jetson 분석 — Nano·Xavier·Orin·Thor·JetPack·DLA·VPI
  146. 146 Zero-Copy Camera Pipeline — V4L2·DMA-BUF·GPU Import·NPU 직결
  147. 147 온디바이스 LLM 추론 — llama.cpp·GGUF·MLX·KV Cache·NPU Backend
  148. 148 Cortex-M33 TF-M·TrustZone — Secure Firmware·PSA·MCUboot
  149. 149 Matter·Thread 분석 — IoT 통합 표준·Commissioning·Multi-Fabric
  150. 150 PCIe → CXL 진화 — 같은 PHY 위 cache-coherent 프로토콜 추가
  151. 151 QEMU CXL Type 3 디바이스 에뮬레이션 — 노트북에서 CXL 개발 환경 구축
  152. 152 Linux CXL 드라이버 분석 — cxl_pci·cxl_core·region·DAX

관련 글

Linux CXL 드라이버 분석 — cxl_pci·cxl_core·region·DAX

CXL 디바이스가 메모리로 안 올라올 때 모듈 체인·sysfs·mailbox 중 어디서 끊겼는지 좁혀 가는 절차.

· recipes

같은 시리즈에서 이어 읽기

PCIe → CXL 진화 — 같은 PHY 위 cache-coherent 프로토콜 추가

PCIe 5.0/6.0 PHY 위에서 CXL이 어떻게 cache coherency를 얹는지 — Flex Bus, 세 프로토콜 다중화, Type 1/2/3 디바이스 구분.

· recipes

같은 시리즈에서 이어 읽기

NUMA Memory Topology — numactl·numa_alloc·HBM 적용

NUMA node topology, numactl 운영, libnuma API, HBM/CXL tier, 자동차 ECU의 mini-NUMA까지 정리합니다.

· recipes

같은 시리즈에서 이어 읽기

이 글을 참조하는 글 (3)