LK · source analysis

ARM64 exception에서 C handler까지

동기 예외는 long frame을 저장한 뒤 C에서 ESR을 읽고, data abort의 미처리 경로에서만 FAR을 읽는다. IRQ는 short frame, platform_irq()와 조건부 preempt 경로를 따른다.

upstream 1eb9917은 이 글의 LittleKernel 소스 분석 기준이다. 실제 platform IRQ 동작과 syscall override는 해당 빌드의 구현에 대조한다.

Series
08 / 20
Baseline
upstream 1eb9917
Commit
1eb99171efae
Source
arch/arm64/exceptions_c.c:136-224 (발췌 범위)

frame, ESR, FAR는 각각 어느 경로에서 언제 읽히는가?

현재 EL의 SPx와 lower EL 동기 벡터는 assembly regsave_long으로 GPR, SP_EL0, ELR_EL1, SPSR_EL1을 frame에 넣고 arm64_sync_exception()을 호출한다. ESR_EL1은 이 C 함수가 시작한 뒤 읽는다. 등록된 data-abort handler가 ELR과 일치하면 ELR을 handler 주소로 바꾸고 FAR_EL1은 읽지 않은 채 복귀한다.

매치되지 않은 data abort에서만 FAR_EL1을 읽고 로그·panic 경로로 간다. FPU exception은 handler가 반환할 수 있고, syscall은 구성된 handler가 반환할 수 있지만 기본 weak syscall handler는 panic한다. IRQ는 short frame 뒤 platform_irq() 반환값이 0이 아닐 때만 thread_preempt()를 호출한다.

저장된 frame과 나중에 읽는 syndrome

그림 1. vector 종류에 따라 다른 frame과 C 소비자
벡터 진입assembly frameC에서 조건부 읽기
01sync 또는 IRQ slot
02long / short frame
ELR·SPSR 저장
03sync: C에서 ESR
IRQ: platform_irq
04FAR: 미처리
data abort만
BOUNDARY

ESR·FAR는 assembly frame의 저장 필드가 아니다. 분기별 상태 표

regsave_long은 동기 예외에서 x0–x29 등을, regsave_short는 IRQ에서 x0–x17 등을 저장한다. 둘 다 ELR_EL1·SPSR_EL1을 frame에 넣는다. ESR은 동기 C handler의 지역 값이고 FAR은 등록된 data-abort handler가 없는 경우의 지역 값이다.

동기 예외와 IRQ의 공통점·갈림길

그림 2. frame 저장 뒤 분기별 handler와 복귀
VBAR_EL1
vector slot
sync: long
IRQ: short 저장
sync: ESR in C
IRQ: platform_irq
sync: EC 분기
IRQ: preempt 조건
반환이면 복원·eret
미처리 sync는 panic

동기 예외는 C가 반환할 때 long frame을 복원하고 eret한다. 처리되지 않은 instruction/data abort, BRK 등은 C에서 dump 후 panic한다. IRQ는 platform_irq() 결과가 0이 아니면 preempt를 호출하고 short frame을 복원한다. GIC acknowledge/EOI는 여기의 공통 vector instruction이 아니라 platform 구현의 책임이다.

저장·읽기·복귀 조건

ELR과 SPSR의 frame 저장을 ESR/FAR 읽기와 분리하고, 동기 예외와 IRQ를 별도 경로로 적었다.

#경로·단계소스의 동작다음 상태
01sync vectorregsave_long이 GPR, SP_EL0, ELR_EL1, SPSR_EL1을 frame에 저장한다.arm64_sync_exception(iframe)
02sync C 진입esr_el1을 읽고 EC·IL·ISS를 계산한다. 이 값은 frame에 사전 저장되지 않는다.EC별 switch
03FPU / syscallFPU handler는 반환 가능. syscall은 설정된 handler가 반환할 수 있으나 weak 기본 구현은 panic한다.반환 시 long restore → eret
04data abort먼저 fault-handler table을 ELR로 검색한다. 매치하면 iframe의 ELR을 handler 주소로 바꾸고 바로 반환한다.매치 시 FAR 읽기 없이 eret
05미처리 data abort그때만 far_el1을 읽고 fault를 출력한다. 다른 미처리 sync와 함께 ESR/frame dump 뒤 panic한다.복원·eret 없음
06IRQ vectorregsave_short 후 FIQ를 다시 허용하고 platform_irq()를 호출한다.반환값이 비0이면 thread_preempt()
07IRQ 복귀FIQ를 다시 막아 ELR/SPSR 복원을 보호하고 short frame을 복원한다.eret; controller 세부는 platform 구현

분석 범위에서 다룬 current-EL SPx/lower-EL sync·IRQ는 각자 다른 frame을 쓴다. current-EL SP0와 error vector 등은 invalid_exception으로 가서 panic하므로 이 반환 표에 합치지 않는다.

동기 예외의 분기와 IRQ 복귀를 그림으로 읽기

원본 exceptions.S의 저장 macro와 exceptions_c.c의 EC switch를 함께 본다. IRQ의 interrupt-controller 세부는 선택한 platform의 platform_irq()를 확인한다.

그림 3. sync vector에서 ESR 판별과 조건부 FAR 읽기

위 네 칸은 동기 예외의 공통 prefix다. 아래 행들은 EC별 대안 경로이며 한 번에 모두 실행되는 직렬 단계가 아니다.

01sync vector
SPx / lower EL
02regsave_long
ELR·SPSR 저장
03C 진입 뒤
ESR_EL1 읽기
04EC/ISS switch
경로 선택
AFPUarm64_fpu_exception반환 시 eret
Bsyscallarm64_syscall 호출반환: eret / weak: panic
Cdata abortELR handler 매치ELR 수정·eret
Ddata abort 미매치그때 FAR_EL1 읽기dump·panic
E그 밖의 미처리 ECESR·frame dumppanic
그림 4. 동기 예외와 IRQ의 frame·복귀 경계

두 열은 frame 크기, 호출 대상, 반환 조건을 비교한다. GIC 조작은 platform-specific 구현을 확인한다.

Synchronous exception

01regsave_long: x0–x29 등

02ELR·SPSR frame 저장

03C에서 ESR 읽고 EC switch

04FAR은 미처리 data abort만

05handler 반환→eret / 미처리→panic

IRQ

01regsave_short: x0–x17 등

02ELR·SPSR 저장 뒤 FIQ 허용

03platform_irq() 호출

04비0 반환일 때만 thread_preempt()

05FIQ 차단→short 복원→eret

원본 코드

아래 코드는 LK upstream 1eb9917의 arch/arm64/exceptions_c.c에서 136-224줄을 그대로 가져온 것이다.

commit1eb99171efae98867d4be4a5bd6479ea03f43ac9anchor · L160void arm64_sync_exception
136}
137
138extern struct fault_handler_table_entry __fault_handler_table_start[];
139extern struct fault_handler_table_entry __fault_handler_table_end[];
140
141static void dump_iframe(const struct arm64_iframe_long *iframe) {
142    printf("iframe %p:\n", iframe);
143    printf("x0  0x%16llx x1  0x%16llx x2  0x%16llx x3  0x%16llx\n", iframe->r[0], iframe->r[1], iframe->r[2], iframe->r[3]);
144    printf("x4  0x%16llx x5  0x%16llx x6  0x%16llx x7  0x%16llx\n", iframe->r[4], iframe->r[5], iframe->r[6], iframe->r[7]);
145    printf("x8  0x%16llx x9  0x%16llx x10 0x%16llx x11 0x%16llx\n", iframe->r[8], iframe->r[9], iframe->r[10], iframe->r[11]);
146    printf("x12 0x%16llx x13 0x%16llx x14 0x%16llx x15 0x%16llx\n", iframe->r[12], iframe->r[13], iframe->r[14], iframe->r[15]);
147    printf("x16 0x%16llx x17 0x%16llx x18 0x%16llx x19 0x%16llx\n", iframe->r[16], iframe->r[17], iframe->r[18], iframe->r[19]);
148    printf("x20 0x%16llx x21 0x%16llx x22 0x%16llx x23 0x%16llx\n", iframe->r[20], iframe->r[21], iframe->r[22], iframe->r[23]);
149    printf("x24 0x%16llx x25 0x%16llx x26 0x%16llx x27 0x%16llx\n", iframe->r[24], iframe->r[25], iframe->r[26], iframe->r[27]);
150    printf("x28 0x%16llx x29 0x%16llx lr  0x%16llx usp 0x%16llx\n", iframe->r[28], iframe->r[29], iframe->lr, iframe->usp);
151    printf("elr 0x%16llx\n", iframe->elr);
152    printf("spsr 0x%16llx\n", iframe->spsr);
153    arch_stacktrace(iframe->r[29], iframe->elr);
154}
155
156__WEAK void arm64_syscall(struct arm64_iframe_long *iframe, bool is_64bit) {
157    panic("unhandled syscall vector\n");
158}
159
160void arm64_sync_exception(struct arm64_iframe_long *iframe);
161void arm64_sync_exception(struct arm64_iframe_long *iframe) {
162    struct fault_handler_table_entry *fault_handler;
163    uint32_t esr = ARM64_READ_SYSREG(esr_el1);
164    uint32_t ec = BITS_SHIFT(esr, 31, 26);
165    uint32_t il = BIT(esr, 25);
166    uint32_t iss = BITS(esr, 24, 0);
167
168    switch (ec) {
169        case 0b000111: /* floating point */
170            arm64_fpu_exception(iframe);
171            return;
172        case 0b010001: /* syscall from arm32 */
173        case 0b010101: /* syscall from arm64 */
174#ifdef WITH_LIB_SYSCALL
175            void arm64_syscall(struct arm64_iframe_long *iframe);
176            arch_enable_fiqs();
177            arm64_syscall(iframe);
178            arch_disable_fiqs();
179            return;
180#else
181            arm64_syscall(iframe, (ec == 0x15) ? true : false);
182            return;
183#endif
184        case 0b100000: /* instruction abort from lower level */
185        case 0b100001: /* instruction abort from same level */
186            printf("instruction abort: PC at 0x%llx\n", iframe->elr);
187            print_fault_msg(BITS(iss, 5, 0));
188            break;
189        case 0b100100: /* data abort from lower level */
190        case 0b100101: { /* data abort from same level */
191            for (fault_handler = __fault_handler_table_start;
192                    fault_handler < __fault_handler_table_end;
193                    fault_handler++) {
194                if (fault_handler->pc == iframe->elr) {
195                    iframe->elr = fault_handler->fault_handler;
196                    return;
197                }
198            }
199
200            /* read the FAR register */
201            uint64_t far = ARM64_READ_SYSREG(far_el1);
202
203            printf("data fault: %s access from PC 0x%llx, FAR 0x%llx, iss 0x%x (DFSC 0x%lx)\n",
204                   BIT(iss, 6) ? "Write" : "Read", iframe->elr, far, iss, BITS(iss, 5, 0));
205            print_fault_msg(BITS(iss, 5, 0));
206            break;
207        }
208        case 0b111100: {
209            printf("BRK #0x%04lx instruction: PC at 0x%llx\n",
210                   BITS_SHIFT(iss, 15, 0), iframe->elr);
211            break;
212        }
213        default:
214            printf("unhandled synchronous exception\n");
215    }
216
217    /* unhandled exception, die here */
218    printf("ESR 0x%x: ec 0x%x, il 0x%x, iss 0x%x\n", esr, ec, il, iss);
219    dump_iframe(iframe);
220
221    panic("die\n");
222}
223
224void arm64_invalid_exception(struct arm64_iframe_long *iframe, unsigned int which);

발췌 범위와 읽기 기준

원문 136–224줄에는 앞뒤 문맥이 포함된다. arm64_sync_exception 선언·구현은 이 범위에 있으며, 발췌 첫 줄은 함수 정의의 시작이 아니다.

발췌 C 코드의 첫 단계는 esr_el1 읽기다. frame에 ELR·SPSR을 저장하고 C로 분기하는 앞 단계는 arch/arm64/exceptions.S에서 확인한다. data abort의 FAR 읽기는 handler-table 검색 뒤에 있다.

함께 읽어야 하는 원본 코드

첫 코드 조각만으로 동작이 완성되지 않는 경우 호출 매크로, 객체 정의와 실제 실행 목록을 같은 페이지에 묶었다. 각 조각은 같은 기준 commit에서 가져왔다.

01. exception frame의 register를 덤프하는 코드

arch/arm64/exceptions_c.c 133-199줄이다.

filearch/arm64/exceptions_c.canchor · L141static void dump_iframe
133            break;
134        }
135    }
136}
137
138extern struct fault_handler_table_entry __fault_handler_table_start[];
139extern struct fault_handler_table_entry __fault_handler_table_end[];
140
141static void dump_iframe(const struct arm64_iframe_long *iframe) {
142    printf("iframe %p:\n", iframe);
143    printf("x0  0x%16llx x1  0x%16llx x2  0x%16llx x3  0x%16llx\n", iframe->r[0], iframe->r[1], iframe->r[2], iframe->r[3]);
144    printf("x4  0x%16llx x5  0x%16llx x6  0x%16llx x7  0x%16llx\n", iframe->r[4], iframe->r[5], iframe->r[6], iframe->r[7]);
145    printf("x8  0x%16llx x9  0x%16llx x10 0x%16llx x11 0x%16llx\n", iframe->r[8], iframe->r[9], iframe->r[10], iframe->r[11]);
146    printf("x12 0x%16llx x13 0x%16llx x14 0x%16llx x15 0x%16llx\n", iframe->r[12], iframe->r[13], iframe->r[14], iframe->r[15]);
147    printf("x16 0x%16llx x17 0x%16llx x18 0x%16llx x19 0x%16llx\n", iframe->r[16], iframe->r[17], iframe->r[18], iframe->r[19]);
148    printf("x20 0x%16llx x21 0x%16llx x22 0x%16llx x23 0x%16llx\n", iframe->r[20], iframe->r[21], iframe->r[22], iframe->r[23]);
149    printf("x24 0x%16llx x25 0x%16llx x26 0x%16llx x27 0x%16llx\n", iframe->r[24], iframe->r[25], iframe->r[26], iframe->r[27]);
150    printf("x28 0x%16llx x29 0x%16llx lr  0x%16llx usp 0x%16llx\n", iframe->r[28], iframe->r[29], iframe->lr, iframe->usp);
151    printf("elr 0x%16llx\n", iframe->elr);
152    printf("spsr 0x%16llx\n", iframe->spsr);
153    arch_stacktrace(iframe->r[29], iframe->elr);
154}
155
156__WEAK void arm64_syscall(struct arm64_iframe_long *iframe, bool is_64bit) {
157    panic("unhandled syscall vector\n");
158}
159
160void arm64_sync_exception(struct arm64_iframe_long *iframe);
161void arm64_sync_exception(struct arm64_iframe_long *iframe) {
162    struct fault_handler_table_entry *fault_handler;
163    uint32_t esr = ARM64_READ_SYSREG(esr_el1);
164    uint32_t ec = BITS_SHIFT(esr, 31, 26);
165    uint32_t il = BIT(esr, 25);
166    uint32_t iss = BITS(esr, 24, 0);
167
168    switch (ec) {
169        case 0b000111: /* floating point */
170            arm64_fpu_exception(iframe);
171            return;
172        case 0b010001: /* syscall from arm32 */
173        case 0b010101: /* syscall from arm64 */
174#ifdef WITH_LIB_SYSCALL
175            void arm64_syscall(struct arm64_iframe_long *iframe);
176            arch_enable_fiqs();
177            arm64_syscall(iframe);
178            arch_disable_fiqs();
179            return;
180#else
181            arm64_syscall(iframe, (ec == 0x15) ? true : false);
182            return;
183#endif
184        case 0b100000: /* instruction abort from lower level */
185        case 0b100001: /* instruction abort from same level */
186            printf("instruction abort: PC at 0x%llx\n", iframe->elr);
187            print_fault_msg(BITS(iss, 5, 0));
188            break;
189        case 0b100100: /* data abort from lower level */
190        case 0b100101: { /* data abort from same level */
191            for (fault_handler = __fault_handler_table_start;
192                    fault_handler < __fault_handler_table_end;
193                    fault_handler++) {
194                if (fault_handler->pc == iframe->elr) {
195                    iframe->elr = fault_handler->fault_handler;
196                    return;
197                }
198            }
199

소스의 반환·panic 경계를 따라 읽기

01

vector slot마다 저장 macro가 다르다

current EL SPx와 lower EL의 sync slot은 regsave_long을 호출하고, IRQ slot은 regsave_short를 쓴다. current EL SP0 및 error slot 등은 invalid_exception으로 들어간다.

long은 x0–x29, short는 x0–x17 범위와 LR·SP_EL0·ELR_EL1·SPSR_EL1을 저장한다. IRQ를 sync와 같은 full frame으로 설명하지 않는다.

02

frame 값과 system-register 읽기 시점을 분리한다

assembly 저장 macro는 ELR_EL1과 SPSR_EL1을 frame에 넣고 C handler로 넘긴다. arm64_sync_exception()가 ESR_EL1을 읽어 EC/IL/ISS를 계산한다. ESR 자체는 이 frame의 필드가 아니다.

FAR_EL1은 data-abort handler table에서 ELR 매치를 먼저 찾은 뒤, 매치가 없는 경우에만 읽는다. 따라서 모든 sync exception의 공통 입력으로 FAR을 두지 않는다.

03

정상 복귀가 가능한 동기 분기를 구별한다

FPU EC에서는 arm64_fpu_exception()을 호출하고 반환한다. data abort가 fault-handler table의 PC와 맞으면 frame의 ELR을 handler 주소로 고치고 반환한다. 이 경로는 FAR을 읽지 않는다.

syscall EC도 handler가 반환하면 복귀하지만 기본 weak arm64_syscall()는 panic한다. WITH_LIB_SYSCALL 빌드에서는 호출 전후 FIQ 허용/차단 경계도 있다.

04

미처리 동기 예외는 restore에 도달하지 않는다

instruction abort는 fault 설명을 출력하고, 매치되지 않은 data abort는 FAR을 읽어 출력한다. BRK와 기본 EC도 해당 메시지를 낸다. 이후 공통 부분에서 ESR과 long frame을 dump하고 panic("die")한다.

C가 반환하는 경우에만 assembly의 regrestore_long과 eret을 지나간다.

05

IRQ의 preempt와 controller 처리를 분리한다

IRQ macro는 short frame 뒤 ELR/SPSR이 안전해지면 FIQ를 다시 허용하고 platform_irq()를 호출한다. 반환값이 0이면 preempt를 건너뛰고, 비0이면 thread_preempt()를 호출한다.

복원 직전 FIQ를 다시 차단한다. GIC acknowledge/EOI와 device별 처리 순서는 이 공통 assembly가 아니라 선택된 platform의 platform_irq() 구현에 속한다.

오독하기 쉬운 세 경계

01

ESR·FAR를 frame의 저장 필드로 묶지 않는다

regsave_long과 regsave_short가 저장하는 system state는 SP_EL0·ELR_EL1·SPSR_EL1이다. ESR_EL1은 C의 지역 변수로 읽히고, FAR_EL1은 미처리 data abort에서만 읽힌다.

frame 구조와 register offset을 대조할 때도 실제 저장 필드와 뒤의 C 판별 값을 분리해야 한다.

02

data abort는 먼저 PC별 recovery table을 확인한다

C handler는 __fault_handler_table_start/end를 순회해 frame의 ELR과 일치하는 PC를 찾는다. 매치하면 ELR을 대체 handler 주소로 바꾸고 즉시 반환한다.

FAR 로그와 panic은 이 검색이 실패한 뒤에만 온다. 원래 ELR을 무조건 4바이트 증가시키는 일반 retry/skip 단계도 이 코드에는 없다.

03

syscall과 FPU의 return 가능성을 조건부로 쓴다

FPU EC는 arm64_fpu_exception()에서 돌아오면 long frame restore로 간다. syscall EC는 빌드의 handler가 반환할 수 있지만 이 파일의 weak 기본 구현은 panic한다.

WITH_LIB_SYSCALL일 때 C는 syscall callback 주위에서 FIQ를 허용했다가 다시 차단한다. 이것을 일반 IRQ의 preempt 조건과 혼동하지 않는다.

04

platform IRQ와 공통 exception entry의 책임을 나눈다

공통 IRQ macro에는 platform_irq() 호출과 비0 결과의 thread_preempt(), FIQ mask 전환, short restore가 있다. GIC register 접근은 보이지 않는다.

acknowledge/EOI 순서를 설명하려면 실제 platform/controller 소스를 추가로 대조해야 한다. 공통 exception entry의 보장으로 단정하지 않는다.

frame과 조건부 진단 값

대상생성·읽기 시점유효 범위다음 소비자
long arm64_iframesync vector의 regsave_longC 반환 뒤 restore 또는 panic까지sync C dispatch·long restore
short IRQ frameIRQ vector의 regsave_shortplatform_irq()·조건부 preempt·short restore까지eret
frame의 ELR·SPSR각 save macro의 mrs·stp복원 시 system register로 돌아갈 때까지data-abort handler의 ELR 변경 또는 restore
ESR / EC·IL·ISSarm64_sync_exception() C 진입 뒤해당 sync dispatch 동안EC switch·오류 로그
FAR 지역 값handler-table 미매치 data abort에서만fault 로그·panic 경로data fault 출력
fault-handler table링크된 정적 tableimage 수명data abort ELR 매치

복귀하지 않는 조건과 확인 지점

#조건소스에서 보이는 결과먼저 볼 지점
01current EL SP0 / error 등 invalid vectorarm64_invalid_exception() dump·panic선택된 vector slot
02instruction abort·BRK·미분류 syncESR/frame dump 뒤 panicEC switch와 dump_iframe()
03data abort table 미매치FAR 읽기·fault 출력·panicELR과 table PC 매치
04syscall 기본 weak handlerpanic("unhandled syscall vector")override와 WITH_LIB_SYSCALL 설정
05IRQ platform 반환값 0preempt 생략 후 short restore·eretplatform_irq() 반환값

FAR이 없다는 사실만으로 frame 손상이라고 판단하지 않는다. 정상적인 등록 data-abort handler 복귀에서도 FAR은 읽히지 않는다.

고정 소스와 실행 흔적에서 확인할 증거

시험은 예외를 의도적으로 일으킬 수 있는 emulator 또는 디버깅 장비에서 수행한다. 심벌 이름은 소스의 함수명이며 C 선언 문자열을 nm에서 찾지 않는다.

#목적명령 또는 계측판정 기준
01vector·handler 위치nm -an build-*/lk.elf | grep -E 'arm64_exception_base|arm64_sync_exception|platform_irq'실제 심벌과 선택된 platform handler를 확인한다.
02저장 순서objdump -dr build-*/lk.elf에서 vector와 regsave_long/short 확장 확인ELR·SPSR 저장 뒤 C/IRQ 호출, ESR·FAR의 assembly 저장 부재를 대조한다.
03data abort 복구ELR이 fault-handler table의 PC와 일치하는 경우 추적ELR 재지정 뒤 FAR 읽기 없이 return·eret하는지 본다.
04미처리 faultESR·ELR·FAR 로그와 panic trace 기록FAR 출력은 미매치 data abort에만 있는지 확인한다.
05IRQ/preemptplatform_irq() 반환값과 thread_preempt() 진입 기록비0 반환에서만 preempt하며 GIC 세부는 platform 코드에서 확인한다.

직접 확인할 실험

  1. 01
    data abort의 두 분기 비교

    등록된 fault-handler PC에서의 abort와 미등록 PC의 abort를 시험 환경에서 나눠 추적한다. 전자는 ELR 변경 후 FAR 읽기 없이 복귀하고, 후자는 FAR 로그와 panic으로 가야 한다.

  2. 02
    frame과 ESR 읽기 시점 대조

    exceptions.S의 long/short macro에 ELR·SPSR 저장을 표시하고, exceptions_c.c의 esr_el1 및 조건부 far_el1 읽기 위치를 분리해 본다.

  3. 03
    IRQ 반환값과 preempt 계측

    platform IRQ handler가 0과 비0을 돌려주는 시험 조건에서 thread_preempt() 호출 여부를 확인한다. controller acknowledge/EOI는 같은 platform 구현에서 따로 본다.

  4. 04
    syscall·FPU의 조건부 return 확인

    syscall override 유무와 WITH_LIB_SYSCALL을 확인하고, FPU 첫 사용 exception과 기본 weak syscall panic을 서로 다른 경로로 기록한다.

원문과 다음 글