ARM64 Secondary Core Bring-up — PSCI CPU_ON 호출부터 EL1 진입까지

#한 줄 요약

“SMP 부트는 primary CPU가 secondary CPU 각각에 진입점을 알려 주고 한 줄씩 일으켜 세우는 순서입니다.” — BL1·BL2는 single CPU로 진행되고, BL31이 primary 한 명만 BL33으로 보냅니다. 나머지 CPU들은 Linux가 primary 위에서 동작한 뒤에야 PSCI SMC로 깨워집니다. 옛 spin-table 방식과 현재 표준 PSCI 방식이 어떻게 다른지가 핵심입니다.

Ch 32에서 PSCI CPU_ON의 ABI를 봤습니다. 이 장은 그 반대편을 봅니다. CPU_ON이 trigger된 뒤 secondary CPU가 어떤 어셈블리를 통과해 Linux의 secondary_start_kernel에 도착하는지, 그 사이에 어떤 자료구조가 초기화되는지를 따라갑니다. 비교 대상으로 옛 spin-table 방식도 함께 봅니다.

#부트 시퀀스 안에서 SMP가 일어나는 자리

ARMv8-A 부트 체인은 primary CPU 한 명만으로 진행됩니다. BL1·BL2는 single CPU 가정으로 짜여 있습니다. 나머지 CPU 코어들은 reset 직후 holding pen 또는 WFI로 묶여 있습니다.

primary가 부트의 거의 끝까지 혼자 가고, 마지막에 secondary들을 한 명씩 깨웁니다. 이 모델의 장점은 부트 초반의 race를 원천 차단하는 것입니다. DDR initialization, secure carveout setup, MMU page table build 같이 원자적 단일 흐름이 필요한 작업을 race 걱정 없이 진행할 수 있습니다.

전체 SMP bring-up 흐름을 한눈에 보면 다음과 같습니다.

#두 가지 방식 — spin-table vs PSCI

secondary CPU를 깨우는 방식은 mainline 커널 기준 두 가지입니다.

#spin-table (legacy)

ARMv8 spec 초기에 정의된 방식입니다. secondary CPU가 지정된 메모리 주소를 polling하며 WFE로 대기합니다. primary가 그 주소에 entry point를 write하고 SEV하면, secondary가 깨어나 그 주소로 점프합니다.

1
[Boot]
2
Primary 진행                       Secondary
3
────────                            ──────────
4
                                    ldr x0, [release_addr]
5
                                    cbz x0, wait
6
                                    br  x0           ← 진입
7
                                wait:
8
                                    wfe
9
                                    b   loop
10

11
Linux primary:
12
  str <entry>, [release_addr]
13
  sev                              ← secondary wakes up

release_addr는 각 CPU마다 다른 주소고 DT에 cpu-release-addr = <0x0 0x70000000> 형태로 적힙니다. BL31이 부팅 후 secondary CPU들을 그 주소에서 WFI/WFE 상태로 둬야 합니다.

#PSCI CPU_ON (현재 표준)

primary가 SMC를 통해 BL31에 직접 깨우기를 요청합니다. BL31이 SoC reset controller를 두드려 secondary CPU의 reset을 풀고, warm boot path에서 caller가 지정한 entry로 점프시킵니다. spin-table과 달리 busy-loop polling이 필요 없고 진정한 power-down에서 깨울 수 있습니다.

mainline 커널 기준 PSCI가 사실상 강제다. spin-table은 PSCI가 없는 환경(예: hypervisor 없이 EL2에서 직접 부팅하는 일부 minimal boot)이나 legacy 보드에만 남아 있습니다. 새로 만드는 모든 ARMv8 보드는 PSCI를 씁니다.

#DT 표기 — enable-method가 분기점

커널의 secondary CPU 깨우기 분기는 DT의 enable-method 속성으로 결정됩니다.

1
/* PSCI 방식 */
2
cpus {
3
    cpu@0 {
4
        device_type = "cpu";
5
        compatible = "arm,cortex-a53";
6
        reg = <0x0>;
7
        enable-method = "psci";
8
    };
9
    cpu@1 {
10
        device_type = "cpu";
11
        compatible = "arm,cortex-a53";
12
        reg = <0x1>;
13
        enable-method = "psci";
14
    };
15
};
16

17
psci {
18
    compatible = "arm,psci-1.0";
19
    method = "smc";
20
};

1
/* spin-table 방식 (legacy) */
2
cpus {
3
    cpu@0 {
4
        device_type = "cpu";
5
        compatible = "arm,cortex-a53";
6
        reg = <0x0>;
7
        enable-method = "spin-table";
8
        cpu-release-addr = <0x0 0x70000fff8>;
9
    };
10
    cpu@1 {
11
        device_type = "cpu";
12
        compatible = "arm,cortex-a53";
13
        reg = <0x1>;
14
        enable-method = "spin-table";
15
        cpu-release-addr = <0x0 0x70000fff0>;
16
    };
17
};

같은 cpus 노드에 enable-method가 섞여 있어도 됩니다. 일부 CPU는 PSCI, 일부는 spin-table로 깨우는 hybrid 보드가 드물게 존재합니다.

두 방식의 차이를 그림으로 비교하면 다음과 같습니다.

#Linux primary의 SMP 진입 흐름

커널이 secondary CPU를 깨우는 코드 경로를 따라갑니다. start_kernel이 마지막에 rest_init → kernel_init → kernel_init_freeable → smp_init을 호출합니다.

1
void __init smp_init(void)
2
{
3
    unsigned int cpu;
4

5
    /* 모든 possible CPU에 대해 cpu_up 호출 */
6
    for_each_present_cpu(cpu) {
7
        if (num_online_cpus() >= setup_max_cpus)
8
            break;
9
        if (!cpu_online(cpu))
10
            cpu_up(cpu);
11
    }
12
}

cpu_up이 _cpu_up → bringup_cpu → __cpu_up(arch-specific)으로 내려갑니다.

1
int __cpu_up(unsigned int cpu, struct task_struct *idle)
2
{
3
    int ret;
4
    long status;
5

6
    /* 1. idle task 등록 — secondary가 첫 진입할 stack */
7
    secondary_data.task = idle;
8
    secondary_data.stack = task_stack_page(idle) + THREAD_SIZE;
9
    update_cpu_boot_status(CPU_MMU_OFF);
10
    __flush_dcache_area(&secondary_data, sizeof(secondary_data));
11

12
    /* 2. enable-method별 ops 호출 */
13
    ret = cpu_ops[cpu]->cpu_boot(cpu);
14
    if (ret)
15
        return ret;
16

17
    /* 3. secondary가 online 될 때까지 wait */
18
    wait_for_completion_timeout(&cpu_running,
19
                                msecs_to_jiffies(5000));
20

21
    if (!cpu_online(cpu))
22
        return -EIO;
23
    return 0;
24
}

cpu_ops[cpu]는 enable-method에 따라 다른 ops 구조체입니다.

1
static const struct cpu_operations *const supported_cpu_ops[] = {
2
    &smp_spin_table_ops,
3
    &cpu_psci_ops,
4
    NULL,
5
};

PSCI 방식이면 cpu_psci_ops.cpu_boot = cpu_psci_cpu_boot가 호출되어 SMC를 발사합니다.

1
static int cpu_psci_cpu_boot(unsigned int cpu)
2
{
3
    phys_addr_t pa_secondary_entry = __pa_symbol(secondary_entry);
4
    int err = psci_ops.cpu_on(cpu_logical_map(cpu), pa_secondary_entry);
5

6
    if (err)
7
        pr_err("failed to boot CPU%d (%d)\n", cpu, err);
8
    return err;
9
}

secondary_entry가 secondary CPU가 첫 진입할 어셈블리 라벨입니다. PSCI CPU_ON에 physical address로 넘긴다는 점이 중요합니다.

#secondary_entry 어셈블리 — MMU off에서 시작

secondary_entry부터 __secondary_switched까지의 어셈블리가 SMP bring-up의 진짜 핵심입니다. 이 코드는 MMU off, cache off 상태에서 시작해 MMU on, cache on까지 가져갑니다.

1
SYM_CODE_START(secondary_entry)
2
    bl    init_kernel_el           /* EL1 또는 EL2 결정 */
3
    bl    set_cpu_boot_mode_flag
4
    b     secondary_startup
5
SYM_CODE_END(secondary_entry)
6

7
SYM_CODE_START_LOCAL(secondary_startup)
8
    /*
9
     * 공통 entry — secondary 모두가 통과.
10
     * stack은 still primary의 secondary_data에서 가져옴.
11
     */
12
    mov   x20, x0                  /* preserve boot mode */
13
    bl    __cpu_secondary_check52bitva
14
    bl    __cpu_setup              /* TCR_EL1, MAIR_EL1 등 set up */
15
    adrp  x1, swapper_pg_dir       /* primary가 만든 page table */
16
    adrp  x2, idmap_pg_dir
17
    bl    __enable_mmu             /* MMU on */
18
    ldr   x8, =__secondary_switched
19
    br    x8
20
SYM_CODE_END(secondary_startup)

각 단계가 다음을 합니다.

MMU를 켜는 순간 primary가 만들어 둔 swapper_pg_dir가 secondary에도 보이게 됩니다. 이 page table은 모든 CPU가 공유하므로 별도 build가 필요 없습니다. __cpu_setup이 TCR_EL1의 TG0/TG1(page size), IPS(physical addr size)를 primary와 일치시켜 page table을 그대로 쓸 수 있게 만듭니다.

#__secondary_switched — C 코드로 점프

MMU가 켜진 직후의 첫 C 함수가 secondary_start_kernel입니다.

1
SYM_FUNC_START_LOCAL(__secondary_switched)
2
    mov   x0, x20                  /* boot mode */
3
    bl    set_cpu_boot_mode_flag
4

5
    /* secondary_data로부터 idle task, stack 가져옴 */
6
    adr_l x0, secondary_data
7
    ldr   x1, [x0, #CPU_BOOT_STACK] /* stack */
8
    cbz   x1, __secondary_too_slow
9
    mov   sp, x1
10
    ldr   x2, [x0, #CPU_BOOT_TASK]  /* task_struct */
11
    cbz   x2, __secondary_too_slow
12
    msr   sp_el0, x2                /* current_thread_info */
13

14
    scs_load_current                /* shadow call stack */
15
    mov   x29, #0
16
    mov   x30, #0
17
    b     secondary_start_kernel
18
SYM_FUNC_END(__secondary_switched)

sp_el0에 task_struct를 넣어 두는 것이 ARM64 커널의 current 매크로를 동작하게 만드는 핵심입니다. 그래서 current = (struct task_struct *) read_sysreg(sp_el0)이 어떤 CPU에서든 자기 자신의 task를 가리킵니다.

1
asmlinkage notrace void secondary_start_kernel(void)
2
{
3
    u64 mpidr = read_cpuid_mpidr() & MPIDR_HWID_BITMASK;
4
    struct mm_struct *mm = &init_mm;
5
    unsigned int cpu = smp_processor_id();
6

7
    /* 1. percpu offset 설정 */
8
    set_my_cpu_offset(per_cpu_offset(cpu));
9

10
    /* 2. cpu info 채우기 (cpuinfo_arm64) */
11
    cpuinfo_store_cpu();
12

13
    /* 3. mm context 활성화 */
14
    mmgrab(mm);
15
    current->active_mm = mm;
16

17
    /* 4. GIC CPU interface 초기화 */
18
    if (cpu_ops[cpu]->cpu_postboot)
19
        cpu_ops[cpu]->cpu_postboot();
20

21
    /* 5. local timer, IRQ enable */
22
    notify_cpu_starting(cpu);
23
    store_cpu_topology(cpu);
24
    numa_add_cpu(cpu);
25

26
    /* 6. online 표시 → primary가 wait에서 깨어남 */
27
    set_cpu_online(cpu, true);
28
    complete(&cpu_running);
29

30
    /* 7. local IRQ enable, idle loop 진입 */
31
    local_daif_restore(DAIF_PROCCTX);
32
    cpu_startup_entry(CPUHP_AP_ONLINE_IDLE);
33
}

set_cpu_online(cpu, true)이 그 CPU가 동작 가능함을 scheduler에 알리는 신호입니다. 이 줄이 실행되는 순간 scheduler가 그 CPU에 task를 배정하기 시작합니다. complete(&cpu_running)이 primary의 wait_for_completion_timeout을 깨웁니다. 그 다음 cpu_startup_entry가 idle loop로 들어가고 첫 timer interrupt가 도착하면 scheduler가 work를 배정합니다.

#percpu 자료구조 초기화

set_my_cpu_offset(per_cpu_offset(cpu))이 secondary의 percpu base register를 set up합니다. ARM64는 TPIDR_EL1를 percpu offset register로 씁니다.

1
static inline void set_my_cpu_offset(unsigned long off)
2
{
3
    asm volatile("msr tpidr_el1, %0" :: "r" (off) : "memory");
4
}
5

6
static inline unsigned long __my_cpu_offset(void)
7
{
8
    unsigned long off;
9
    asm("mrs %0, tpidr_el1" : "=r" (off));
10
    return off;
11
}

이 offset이 설정되기 전에 percpu variable 접근을 시도하면 primary CPU의 변수에 접근하게 되어 race가 납니다. set_my_cpu_offset 호출 직후부터 비로소 percpu access가 안전합니다.

GIC CPU interface 초기화는 cpu_postboot ops에서 합니다. PSCI ops의 경우 다음이 호출됩니다.

1
static void gic_cpu_init(void)
2
{
3
    void __iomem *rbase;
4
    int i;
5

6
    /* GICR (Re-distributor) base 계산 */
7
    rbase = gic_data_rdist_sgi_base();
8

9
    /* SGI/PPI enable */
10
    for (i = 0; i < 32; i += 32)
11
        writel_relaxed(GICD_INT_DEF_PRI_X4,
12
                       rbase + GIC_DIST_PRI + i);
13

14
    /* CPU interface enable */
15
    gic_cpu_sys_reg_init();
16
}

GIC CPU interface(GICC/GICR)는 CPU별로 자기 자신만 접근 가능합니다. 그래서 secondary CPU 위에서 직접 초기화해야 합니다. primary가 대신 못 합니다. 이게 secondary CPU bring-up이 단순히 reset release만으로 끝나지 않는 이유 중 하나입니다.

#HOTPLUG_CPU — CPU_OFF 흐름

echo 0 > /sys/devices/system/cpu/cpu1/online으로 CPU를 끄면 reverse 흐름이 진행됩니다.

1
echo 0 > .../cpu1/online
2
   │
3
   ▼
4
cpu_down(1) → __cpu_down → cpuhp_kick_ap
5
   │
6
   ▼
7
take_cpu_down (CPU1에서 실행)
8
   │
9
   ▼
10
__cpu_disable
11
   ├─ migrate IRQs to 다른 CPU
12
   ├─ disable local timer
13
   └─ cpu_psci_cpu_disable
14
   │
15
   ▼
16
cpu_die (CPU1)
17
   ├─ idle_task_exit
18
   ├─ complete(&cpu_died)
19
   └─ arch_cpu_idle_dead
20
         │
21
         ▼
22
      cpu_psci_cpu_die
23
         │
24
         ▼
25
      smc PSCI_CPU_OFF        ← BL31로 trap
26
         │
27
         ▼
28
      [BL31] platform pwr_domain_off
29
         │
30
         ▼
31
      SoC reset assert → CPU1 전원 차단

CPU_OFF SMC는 return하지 않는다. 호출한 CPU 자신이 power down되기 때문입니다. CPU1이 사라진 뒤 primary는 wait_for_completion(&cpu_died)에서 깨어나 hotplug list에서 CPU1을 제거합니다.

다시 켤 때는 처음 SMP bring-up과 같은 경로가 반복됩니다. PSCI CPU_ON → BL31 warm boot → secondary_entry → secondary_start_kernel. CPU별 percpu storage는 영구 할당돼 있어 재초기화만 하면 됩니다.

#측정 — 4-core boot up time

i.MX 8M Plus(4-core Cortex-A53 1.5 GHz, kernel 6.6) 측정값입니다.

1
[BL31 reset release → primary BL33 진입]    : ~5 ms
2
[BL33 → kernel start_kernel]                : ~500 ms
3
[start_kernel → smp_init]                   : ~80 ms
4
[smp_init → 모든 CPU online]                 : ~1 ms
5
  [CPU1 PSCI CPU_ON SMC]                    : ~5 µs
6
  [CPU1 reset → secondary_start_kernel]     : ~150 µs
7
  [CPU1 percpu·GIC·timer init]              : ~100 µs
8
  [CPU1 ONLINE 표시]                        : ~300 µs (CPU1 총합)
9
  [CPU2, CPU3 동일]                         : ~600 µs
10
[총 SMP bring-up time]                      : ~1 ms (4-core)

전체 부트의 1 ms만이 SMP bring-up에 쓰입니다. 나머지는 BL31 부팅과 kernel single-CPU init이 잡아먹습니다. SMP bring-up이 빠른 이유는 PSCI fast call과 모든 CPU가 같은 page table을 공유하기 때문입니다.

1
[ 부트 로그에서 본 SMP 단계 ]
2
[    0.087401] smp: Bringing up secondary CPUs ...
3
[    0.087512] Detected VIPT I-cache on CPU1
4
[    0.087602] GICv3: CPU1: found redistributor 1 region 0
5
[    0.087701] CPU1: Booted secondary processor 0x0000000001
6
[    0.087788] Detected VIPT I-cache on CPU2
7
[    0.087877] GICv3: CPU2: found redistributor 2 region 0
8
[    0.087966] CPU2: Booted secondary processor 0x0000000002
9
[    0.088054] Detected VIPT I-cache on CPU3
10
[    0.088143] GICv3: CPU3: found redistributor 3 region 0
11
[    0.088232] CPU3: Booted secondary processor 0x0000000003
12
[    0.088354] smp: Brought up 1 node, 4 CPUs
13
[    0.088462] SMP: Total of 4 processors activated.

Booted secondary processor 사이의 timestamp 차이가 한 CPU bring-up 시간입니다. 약 100 µs 단위로 올라옵니다.

#자주 보는 함정

#Secondary CPU stack 미할당

secondary_data.stack이 NULL이면 __secondary_switched의 cbz x1, __secondary_too_slow 검사에 걸려 secondary가 조용히 hang합니다. mainline 커널은 idle thread를 미리 fork해 stack을 할당해 두지만, 새 enable-method ops를 custom으로 추가하다 secondary_data 설정을 빠뜨리면 발생합니다. 부팅 중 CPU%d: failed to come online이 뜨면 stack 또는 task struct를 의심합니다.

#GIC CPU interface 초기화 누락

cpu_postboot에서 gic_cpu_init을 부르지 않으면 SGI/PPI가 안 들어와 secondary가 timer interrupt를 못 받는다. local IRQ는 enable되지만 아무 interrupt도 도착하지 않으므로 scheduler가 task를 배정해도 idle에 머뭅니다. mainline에서는 cpu_psci_ops가 자동 처리하지만, hypervisor 환경의 paravirt SMP에서 빠뜨리는 경우가 있습니다.

#CPU_ON race — 같은 CPU 두 번 호출

primary가 cpu_up(1)을 호출한 직후 다른 thread가 다시 cpu_up(1)을 호출하면 PSCI가 ALREADY_ON 또는 ON_PENDING을 return합니다. 커널의 cpu_up은 cpu_hotplug_lock으로 보호되지만, custom ops를 짤 때 race를 신경 쓰지 않으면 secondary가 두 번 진입해 stack corruption이 납니다.

#MMU enable 전에 percpu access

set_my_cpu_offset 이전에 percpu variable에 쓰는 코드가 들어가면 primary CPU의 percpu 영역을 두드리게 됩니다. 이는 race로 primary를 망가뜨릴 수 있습니다. 특히 pr_info 같은 매크로가 내부에서 percpu printk buffer를 쓰므로 MMU enable 전에 print 호출 자체가 위험합니다. mainline은 early_printk에 special path를 두지만 custom build에서 잊기 쉽습니다.

#spin-table release_addr 정렬 누락

spin-table 방식에서 cpu-release-addr가 8-byte aligned가 아니면 ldr x0, [release_addr]이 alignment fault를 냅니다. DT 작성 시 항상 8-byte aligned 주소를 쓰고, BL31이 그 주소에 8-byte zero를 미리 깔아 둬야 합니다.

#enable-method 누락 또는 잘못

enable-method 속성이 없으면 커널이 PSCI도 spin-table도 아니라고 판단해 그 CPU를 online으로 만들지 않는다. dmesg에 CPU%d: failed in unknown state 형태의 메시지가 뜨면 DT의 enable-method를 확인합니다. 거꾸로 enable-method = "psci"인데 PSCI 노드 자체가 DT에 없으면 PSCI ops가 등록 안 돼 같은 결과가 납니다.

#정리

• SMP 부트는 primary CPU가 secondary 각각에 진입점을 알려 일으켜 세우는 순서입니다. BL1·BL2·BL31·BL33·Linux primary가 모두 single CPU로 진행됩니다.
• secondary 깨우는 방식은 두 가지입니다. spin-table은 메모리 polling + SEV, PSCI는 SMC + SoC reset controller다. 현재 표준은 PSCI다.
• DT의 cpus/cpu@N/enable-method 속성이 분기점이고, PSCI 방식이면 psci 노드와 method = "smc"가 함께 있어야 합니다.
• 커널의 __cpu_up이 secondary_data에 idle task와 stack을 채우고, enable-method에 맞는 cpu_boot ops를 호출해 PSCI CPU_ON SMC를 발사합니다.
• secondary는 secondary_entry → secondary_startup → __secondary_switched → secondary_start_kernel을 통과합니다. MMU off에서 시작해 primary가 만든 swapper_pg_dir로 MMU를 켭니다.
• set_my_cpu_offset이 TPIDR_EL1을 채워야 percpu access가 안전해집니다. GIC CPU interface 초기화는 secondary 위에서 직접 해야 합니다.
• HOTPLUG_CPU는 cpu_die가 PSCI CPU_OFF SMC로 자신을 끄는 흐름이고, 다시 켤 때는 처음 bring-up과 같은 경로가 반복됩니다.
• 4-core Cortex-A53 기준 전체 SMP bring-up이 약 1 ms 안에 끝납니다. 한 CPU당 reset release 후 online까지 ~300 µs다.
• 흔한 함정은 secondary stack 미할당, GIC 초기화 누락, CPU_ON race, MMU 전 percpu access, spin-table 정렬 문제, enable-method 누락 여섯 가지입니다.

#시리즈 마무리

이 장이 Bootloader Internals 시리즈의 마지막 깊이다. 시리즈는 Ch 1: 부트로더가 푸는 문제에서 시작해 BootROM부터 init까지의 전 과정을 따라왔습니다. 30장이 양산 CI까지의 보편적 흐름을 다뤘다면, 마지막 세 장(31·32·33)은 ARM bare-metal boot이 깊어질 때 반드시 마주치는 EL3 runtime과 SMP bring-up을 채웠습니다.

다음 단계로 추천할 주제는 두 가지입니다. 첫째는 Embedded Security 시리즈로 secure boot·TrustZone·TEE의 보안 모델을 더 깊이 파는 길입니다. 둘째는 Practical RTOS Internals 시리즈로 ARM Cortex-A SMP·AMP·context switch 같은 부트 이후의 runtime 동작을 따라가는 길입니다.

#관련 항목

• Ch 1: 부트로더가 푸는 문제
• Ch 4: 부트 단계 — BL1 → SPL → TPL → U-Boot Proper
• Ch 25: ARM TF-A 통합 — BL1·BL2·BL31·BL32·BL33
• Ch 31: TF-A BL31 EL3 Runtime
• Ch 32: PSCI / SMCCC ABI
• Practical RTOS Internals Ch 2-6: Cortex-A context switch
• Practical RTOS Internals Ch 4-7: SMP RTOS
• Practical RTOS Internals Ch 4-12: AMP와 OpenAMP
• Embedded Security Ch 4: TrustZone
• 원문 — Arm PSCI v1.1 specification (DEN0022)
• 원문 — Linux kernel Documentation/arm64/booting.rst