syscall entry

읽는 지도

process/syscall 코드는 user/kernel boundary와 task lifetime transaction이다. clone, exec, exit, signal은 모두 task_struct 주변 객체의 reference, namespace, credentials, mm을 재배치한다.

먼저 볼 것

함수 이름보다 입력 객체와 출력 객체를 먼저 본다. 이 토픽에서 어떤 구조체가 생성, 연결, publish, retire되는지 표시한다.

다음에 볼 것

정상 경로와 실패 경로를 같은 무게로 본다. kernel code의 품질은 성공 path보다 error unwind, hotplug, teardown에서 더 잘 드러난다.

그림 1. syscall entry 이 kernel 안에서 놓이는 위치

EL0 / syscallpt_regs, ABI, user pointer

→

task_structstate, credentials, signal, files

→

mm / fs / filesaddress space and descriptor tables

→

scheduler / waitrunnable, zombie, reparent, wakeup

왼쪽은 입력 또는 상위 계층이고, 오른쪽으로 갈수록 실제 상태 변경이 커진다. 문C식으로 읽을 때는 이 그림을 먼저 머리에 놓고 코드 조각을 끼워 넣는다.

원본 코드 좌표

Linux 6.18.37 LTS에서 열 파일

원본 코드:

Linux 6.18.37 LTS: arch/arm64/kernel/entry.S
Linux 6.18.37 LTS: arch/arm64/kernel/syscall.c
Linux 6.18.37 LTS: include/uapi/asm-generic/unistd.h

설명: 첫 파일은 보통 진입 함수가 있는 곳이고, 나머지는 구조체 정의, architecture glue, callback 구현을 확인할 때 같이 연다. 파일을 여러 개 놓고 봐야 이 토픽의 boundary가 보인다.

GitHub 원본:

arch/arm64/kernel/entry.S arch/arm64/kernel/syscall.c include/uapi/asm-generic/unistd.h

대표 코드

el0_svc

원본 코드: arch/arm64/kernel/entry.S, around line 301

alternative_else_nop_endif
#endif

	stp	x22, x23, [sp, #S_PC]

	/* Not in a syscall by default (el0_svc overwrites for real syscall) */
	.if	\el == 0
	mov	w21, #NO_SYSCALL
	str	w21, [sp, #S_SYSCALLNO]
	.endif

#ifdef CONFIG_ARM64_PSEUDO_NMI
alternative_if_not ARM64_HAS_GIC_PRIO_MASKING
	b	.Lskip_pmr_save\@
alternative_else_nop_endif

	mrs_s	x20, SYS_ICC_PMR_EL1
	str	x20, [sp, #S_PMR_SAVE]
	mov	x20, #GIC_PRIO_IRQON | GIC_PRIO_PSR_I_SET
	msr_s	SYS_ICC_PMR_EL1, x20

.Lskip_pmr_save\@:
#endif

	/*
	 * Registers that may be useful after this macro is invoked:
	 *
	 * x20 - ICC_PMR_EL1
	 * x21 - aborted SP
	 * x22 - aborted PC
	 * x23 - aborted PSTATE
	*/
	.endm

	.macro	kernel_exit, el
	.if	\el != 0
	disable_daif
	.endif

#ifdef CONFIG_ARM64_PSEUDO_NMI

읽는 법: 이 절편에서 먼저 볼 것은 return 값이 아니라 상태 변경이다. 어떤 lock을 잡은 뒤 어떤 필드를 바꾸는지, 실패하면 어느 label로 빠지는지, 그리고 바뀐 상태를 다음 호출자가 어떤 전제로 소비하는지 표시한다.

invoke_syscall

원본 코드: arch/arm64/kernel/syscall.c, around line 30

#endif

	return sys_ni_syscall();
}

static long __invoke_syscall(struct pt_regs *regs, syscall_fn_t syscall_fn)
{
	return syscall_fn(regs);
}

static void invoke_syscall(struct pt_regs *regs, unsigned int scno,
			   unsigned int sc_nr,
			   const syscall_fn_t syscall_table[])
{
	long ret;

	add_random_kstack_offset();

	if (scno < sc_nr) {
		syscall_fn_t syscall_fn;
		syscall_fn = syscall_table[array_index_nospec(scno, sc_nr)];
		ret = __invoke_syscall(regs, syscall_fn);
	} else {
		ret = do_ni_syscall(regs, scno);
	}

	syscall_set_return_value(current, regs, 0, ret);

	/*
	 * Ultimately, this value will get limited by KSTACK_OFFSET_MAX(),
	 * but not enough for arm64 stack utilization comfort. To keep
	 * reasonable stack head room, reduce the maximum offset to 9 bits.
	 *
	 * The actual entropy will be further reduced by the compiler when
	 * applying stack alignment constraints: the AAPCS mandates a
	 * 16-byte (i.e. 4-bit) aligned SP at function boundaries.
	 *
	 * The resulting 5 bits of entropy is seen in SP[8:4].
	 */
	choose_random_kstack_offset(get_random_u16() & 0x1FF);

함수별 독해

EL0 trap frame을 kernel syscall dispatch로 변환하고 return path에서 signal, tracing, work flags를 처리한다.

이 섹션은 원본 코드 발췌를 함수 이름 단위로 끊어, 각 함수가 어떤 전제 조건을 만들고 다음 함수가 무엇을 소비하는지 추적한다.

그림 2. syscall entry 함수 체인과 관찰 지점

entrycaller가 넘기는 객체와 context를 확정

→

el0_svcEL0 state 저장

→

invoke_syscallhandler 호출

→

observable statetracepoint, counter, sysfs/proc에서 확인되는 결과

각 노드는 독립 함수가 아니라 전제 조건을 생산하고 소비하는 연결점이다. 코드를 읽을 때는 노드 사이에서 어떤 필드가 바뀌는지 표시한다.

1. `el0_svc`

el0_svc 주변에서는 pt_regs를 중심으로 본다. 이 필드는 argument/return frame 역할을 하므로, 함수가 끝날 때 exception entry 상태가 실제로 성립했는지 확인해야 한다.

원본 코드에서 볼 순서는 입력 범위 검증, 중심 필드 갱신, 다른 계층에 보이는 publish 지점, 실패 시 되돌림 순서다. 이 네 칸이 맞아야 다음 함수가 EL0 state 저장을 전제로 삼을 수 있다.

자주 틀리는 해석: syscall handler만 보고 entry/exit work를 빼먹음

2. `invoke_syscall`

invoke_syscall 주변에서는 sys_call_table를 중심으로 본다. 이 필드는 number to handler 역할을 하므로, 함수가 끝날 때 syscall dispatch 상태가 실제로 성립했는지 확인해야 한다.

원본 코드에서 볼 순서는 입력 범위 검증, 중심 필드 갱신, 다른 계층에 보이는 publish 지점, 실패 시 되돌림 순서다. 이 네 칸이 맞아야 다음 함수가 handler 호출을 전제로 삼을 수 있다.

자주 틀리는 해석: pt_regs argument ABI를 C prototype과 혼동함

함수	입력	상태 변경	검증 질문
el0_svc	pt_regs, caller context, subsystem 전제 조건	exception entry: EL0 state 저장	syscall handler만 보고 entry/exit work를 빼먹음 문제를 코드상 어느 조건문 또는 error label에서 분리하는가
invoke_syscall	sys_call_table, caller context, subsystem 전제 조건	syscall dispatch: handler 호출	pt_regs argument ABI를 C prototype과 혼동함 문제를 코드상 어느 조건문 또는 error label에서 분리하는가

구조체 / 필드 해설

여기서는 “어떤 구조체가 있다”가 아니라 그 필드가 어느 단계에서 쓰기 가능하고 어느 단계부터 관찰 가능한지를 본다. 박사급 리뷰에서는 필드의 뜻보다 보호 규칙이 먼저다.

그림 3. syscall entry 핵심 필드 연결

pt_regsargument/return frame

→

sys_call_tablenumber to handler

→

thread_info flagsreturn work bits

→

addr_limit/user accessuser pointer boundary

필드는 구조체 안에 흩어져 있지만, 실제 실행에서는 위 순서로 의미가 이어진다.

필드	읽는 법	확인
pt_regs	argument/return frame	누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
sys_call_table	number to handler	누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
thread_info flags	return work bits	누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
addr_limit/user access	user pointer boundary	누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인

상태 전이 그림

상태 전이를 따로 그리는 이유는 정상 path와 실패 path를 같은 표에서 보기 위해서다. 커널 regression은 흔히 마지막 상태가 아니라 중간 상태를 외부에 publish한 뒤 rollback하지 못해서 생긴다.

그림 4. syscall entry 상태 전이

exception entryEL0 state 저장

→

syscall dispatchhandler 호출

→

exit worksignal/resched/audit 처리

→

eretreturn to EL0

상태 전이는 단방향처럼 그렸지만, 실패 경로에서는 대부분 역순 rollback이 붙는다.

상태	의미	진입 조건	깨지는 지점
exception entry	EL0 state 저장	앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤	다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
syscall dispatch	handler 호출	앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤	다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
exit work	signal/resched/audit 처리	앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤	다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
eret	return to EL0	앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤	다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때

syscall entry review rule = state transition + owner transition + visibility transition

불변조건 / 실패 케이스

lifetime

syscall entry 의 중심 객체가 publish된 뒤에는 마지막 참조가 사라지기 전까지 teardown path가 모든 callback, timer, IRQ, worker와 경합하지 않아야 한다.

ordering

상태 필드를 바꾼 뒤 다른 CPU나 하위 계층이 관찰할 수 있다면 lock, barrier, refcount, RCU 중 어느 장치가 visibility를 보장하는지 확인한다.

error unwind

중간 단계 실패는 성공 단계의 역순으로 되돌아가야 한다. goto label이 많은 코드는 label 이름보다 어느 resource가 이미 획득됐는지를 표로 적는다.

bring-up symptom

embedded bring-up에서는 panic보다 silence, timeout, deferred probe, interrupt flood처럼 간접 증상으로 드러나는 경우가 많다.

주의

syscall handler만 보고 entry/exit work를 빼먹음

주의

pt_regs argument ABI를 C prototype과 혼동함

주의

return path signal delivery를 syscall 밖 사건으로 봄

계측 / 검증

계측은 printk 위치 경쟁이 아니라 가설 검증이다. 먼저 위 상태표에서 멈춘 state를 정하고, 그 state를 바꾸는 함수와 그 결과를 소비하는 함수를 동시에 본다.

도구	보는 것	해석
sys_enter/sys_exit	syscall entry 의 상태 전이가 어느 지점에서 멈추는지 확인	로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
perf trace	syscall entry 의 상태 전이가 어느 지점에서 멈추는지 확인	로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
ftrace:invoke_syscall	syscall entry 의 상태 전이가 어느 지점에서 멈추는지 확인	로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
seccomp trace	syscall entry 의 상태 전이가 어느 지점에서 멈추는지 확인	로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인

기본 추적 골격:

# 예시: tracefs가 켜진 보드에서 토픽별 event를 좁혀 본다.
mount -t tracefs nodev /sys/kernel/tracing
echo function_graph > /sys/kernel/tracing/current_tracer
echo ':mod:*' > /sys/kernel/tracing/set_ftrace_filter
cat /sys/kernel/tracing/trace_pipe

연구 질문

syscall entry 의 state machine을 네 단계로 줄였을 때, 실제 코드에서 빠지는 intermediate state는 무엇인가?
syscall entry 의 fast path가 생략한 검사는 어느 init path 또는 slow path에서 보증되는가?
실험으로 확인한다면 'syscall handler만 보고 entry/exit work를 빼먹음' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?
실험으로 확인한다면 'pt_regs argument ABI를 C prototype과 혼동함' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?