Memory · Linux 6.18.37 LTS · source + diagram note

page fault

최신 LTS 기준: kernel.org longterm 6.18.37 기준으로 파일 위치와 링크를 맞춘 원본 코드 분석 노트입니다. do_page_fault, handle_mm_fault, fault flags.

전체 흐름

Linux v6.18.37 ARM64의 do_page_fault()는 FAR/ESR와 실행 문맥으로 접근 유형을 분류합니다. 사용자 fault는 per-VMA read lock을 먼저 시도하고, VMA가 없으면 mmap_lock 경로에서 다시 찾습니다. 권한·GCS·pkey 거부는 MM의 PTE 처리 전에 오류 경로로 갑니다. 허용된 접근은 아래 전용 분기 도해처럼 handle_mm_fault()가 처리합니다.

v6.6과 달라진 지점: 이 버전의 빠른 VMA 경로는 권한, GCS 및 pkey 거부를 bad_area에서 처리할 수 있습니다. v6.6 빠른 경로의 vm_flags 불일치는 lock_mmap에서 재검사합니다.

소스 분기 지도: 주소에서 복구 결과까지

do_page_fault()는 fault 주소와 접근 종류를 해석하고, 해당 VMA를 찾은 뒤 접근 권한을 검사합니다. 통과한 경우에만 handle_mm_fault()가 페이지 테이블 처리를 맡습니다. 빈 PTE에서 anonymous/file 경로가 갈리고, 이미 존재하는 PTE도 non-present·NUMA 보호·쓰기 보호·접근 비트 상태에 따라 동작이 다릅니다. 따라서 page fault가 항상 새 PTE 하나를 설치하는 것은 아닙니다.

가로로 이동해 읽을 수 있습니다. 도해 · fault 분기 크게 열기 ↗

FAR와 ESR에서 주소와 접근 종류를 정한 뒤 VMA 검사로 가고, 일반 PTE의 빈 항목·non-present 항목·NUMA 보호 항목·쓰기 보호 항목이 각각 다른 처리로 갈라진다. 결과는 복구, 재시도 또는 오류다.
도해 · fault 분기 지도. 일반 PTE 경로를 이해하기 위한 자체 제작 개념도입니다. 실제 주소 배치나 계측 trace가 아니며, hugetlb 및 PUD/PMD huge-page 분기는 간략화했습니다. EL0에서 VMA 조회·잠금에 실패하면 mmap_lock 경로로 넘어갑니다.
단계마다 누가 VMA·PTE를 보호하는가
판정 위치읽는 객체와 보호갈림길
do_page_fault() 진입far, esr, pt_regs, current->mm. 아직 VMA 잠금 전.untagged_addr(far)와 접근 종류를 정함. interrupt 또는 mm 부재 시 no_context.
EL0 VMA 빠른 경로lock_vma_under_rcu()로 얻은 VMA의 read lock. FAULT_FLAG_VMA_LOCK을 전달.VMA가 없거나 잠금 시도가 실패하면 lock_mmap으로 이동. 권한/pkey 거부는 bad_area.
VMA 느린 경로lock_mm_and_find_vma() 성공 시 mmap_lock read. 그 보호 아래 vma->vm_flags 검사.VMA 없음 → SEGV_MAPERR, 권한 불일치 → SEGV_ACCERR. VM_FAULT_RETRY면 VMA를 다시 찾음.
일반 PTE 경로vm_fault, pmd, orig_pte. 진입 시 VMA 또는 mmap read lock. present PTE 갱신에서는 ptl을 획득.없음 → anonymous/file fault, non-present → do_swap_page(), NUMA 보호 PTE → do_numa_page(), 쓰기 보호 → do_wp_page(), 일반 present → 접근/dirty 갱신.
호출자에게 복귀반환값 vm_fault_t와 현재 잠금 상태를 같이 확인. RETRY/COMPLETED 후에는 VMA 재참조 금지.정상 복구 또는 이미 해결됨 → 명령 재실행. RETRY → 잠금·VMA 재획득. 오류 → OOM 또는 해당 signal 처리.

잠금 주의: handle_mm_fault()에 들어갈 때는 VMA read lock 또는 mmap_lock을 갖지만, fault 처리 중 잠금이 풀릴 수 있습니다. 특히 VM_FAULT_RETRY와 VM_FAULT_COMPLETED를 단순 성공/실패 값으로만 읽지 말고 호출자의 unlock·재탐색 분기와 함께 보세요.

고정 소스 근거: arch/arm64/mm/fault.c:552–620 (주소·접근 종류), 622–779 (VMA 잠금과 결과), mm/memory.c:6166–6351 (PTE·상위 테이블, NUMA 분기 6215–6216행), 4371–4377 (빈 PTE의 anonymous/file 분기), 6478–6549 (잠금 계약과 반환). 검증에 사용한 로컬 체크아웃의 태그 v6.18.37 파일 SHA-256은 arch/arm64/mm/fault.c: F616F18E8279D914653D38A3A4745EAEA779A2044173605C1696CA1FEAE58E9D, mm/memory.c: B67175AAC45601E50972AB32F38854756CF8CE5D20C3E323B008E9BF40327045입니다.

소스 코드 위치

먼저 확인할 Linux 6.18.37 LTS 소스 파일

원본 코드:
Linux 6.18.37 LTS: arch/arm64/mm/fault.c
Linux 6.18.37 LTS: mm/memory.c
Linux 6.18.37 LTS: mm/mmap.c

설명: 진입 함수가 있는 파일과 구조체 정의, 아키텍처별 연결 코드, 콜백 구현을 함께 확인한다. 여러 파일을 대조해야 호출 관계와 각 코드의 역할을 알 수 있다.

대표 코드

do_page_fault

원본 코드: arch/arm64/mm/fault.c, 622–660행 (EL0 VMA 경로 발췌)
	if (!(mm_flags & FAULT_FLAG_USER))
		goto lock_mmap;

	vma = lock_vma_under_rcu(mm, addr);
	if (!vma)
		goto lock_mmap;

	if (is_invalid_gcs_access(vma, esr)) {
		vma_end_read(vma);
		fault = 0;
		si_code = SEGV_ACCERR;
		goto bad_area;
	}

	if (!(vma->vm_flags & vm_flags)) {
		vma_end_read(vma);
		fault = 0;
		si_code = SEGV_ACCERR;
		count_vm_vma_lock_event(VMA_LOCK_SUCCESS);
		goto bad_area;
	}

	if (fault_from_pkey(vma, mm_flags)) {
		pkey = vma_pkey(vma);
		vma_end_read(vma);
		fault = 0;
		si_code = SEGV_PKUERR;
		count_vm_vma_lock_event(VMA_LOCK_SUCCESS);
		goto bad_area;
	}

	fault = handle_mm_fault(vma, addr, mm_flags | FAULT_FLAG_VMA_LOCK, regs);
	if (!(fault & (VM_FAULT_RETRY | VM_FAULT_COMPLETED)))
		vma_end_read(vma);

	if (!(fault & VM_FAULT_RETRY)) {
		count_vm_vma_lock_event(VMA_LOCK_SUCCESS);
		goto done;
	}

확인 사항: do_page_fault() 정의는 552행입니다. 사용자 fault는 먼저 VMA read lock을 시도하고, 조회·잠금에 실패하면 mmap_lock 경로(671–713행)로 내려갑니다. 권한 또는 pkey 검사 뒤 handle_mm_fault()를 호출하며, 반환값의 RETRY/COMPLETED 비트에 따라 unlock과 재탐색 책임이 달라집니다.

handle_mm_fault

원본 코드: mm/memory.c, 6485–6549행 (함수 본문)
vm_fault_t handle_mm_fault(struct vm_area_struct *vma, unsigned long address,
			   unsigned int flags, struct pt_regs *regs)
{
	/* If the fault handler drops the mmap_lock, vma may be freed */
	struct mm_struct *mm = vma->vm_mm;
	vm_fault_t ret;
	bool is_droppable;

	__set_current_state(TASK_RUNNING);

	ret = sanitize_fault_flags(vma, &flags);
	if (ret)
		goto out;

	if (!arch_vma_access_permitted(vma, flags & FAULT_FLAG_WRITE,
					    flags & FAULT_FLAG_INSTRUCTION,
					    flags & FAULT_FLAG_REMOTE)) {
		ret = VM_FAULT_SIGSEGV;
		goto out;
	}

	is_droppable = !!(vma->vm_flags & VM_DROPPABLE);

	/*
	 * Enable the memcg OOM handling for faults triggered in user
	 * space.  Kernel faults are handled more gracefully.
	 */
	if (flags & FAULT_FLAG_USER)
		mem_cgroup_enter_user_fault();

	lru_gen_enter_fault(vma);

	if (unlikely(is_vm_hugetlb_page(vma)))
		ret = hugetlb_fault(vma->vm_mm, vma, address, flags);
	else
		ret = __handle_mm_fault(vma, address, flags);

	/*
	 * Warning: It is no longer safe to dereference vma-> after this point,
	 * because mmap_lock might have been dropped by __handle_mm_fault(), so
	 * vma might be destroyed from underneath us.
	 */

	lru_gen_exit_fault();

	/* If the mapping is droppable, then errors due to OOM aren't fatal. */
	if (is_droppable)
		ret &= ~VM_FAULT_OOM;

	if (flags & FAULT_FLAG_USER) {
		mem_cgroup_exit_user_fault();
		/*
		 * The task may have entered a memcg OOM situation but
		 * if the allocation error was handled gracefully (no
		 * VM_FAULT_OOM), there is no need to kill anything.
		 * Just clean up the OOM state peacefully.
		 */
		if (task_in_memcg_oom(current) && !(ret & VM_FAULT_OOM))
			mem_cgroup_oom_synchronize(false);
	}
out:
	mm_account_fault(mm, regs, address, flags, ret);

	return ret;
}

확인 사항: 진입 전에 호출자가 VMA read lock 또는 mmap_lock을 보유합니다. 이 함수는 접근 허용 여부를 확인하고 hugetlb 또는 일반 __handle_mm_fault()로 분기한 뒤 결과를 계수합니다. 하위 함수가 잠금을 해제했을 수 있으므로, 호출 뒤에는 vma를 다시 역참조하지 않습니다.

함수별 분석

상단 전용 분기 도해는 일반 PTE 경로를 확대한 것입니다. 여기서는 예외 핸들러가 VMA를 보호하는 방법과 handle_mm_fault()의 반환 계약을 따로 봅니다.

위치입력·판정분기·나갈 때
ARM64 do_page_fault()FAR/ESR/regs로 주소·접근 유형 결정. GCS fault는 쓰기 fault로 취급.faulthandler_disabled/no mm 또는 복구 불가 kernel fault는 no_context.
EL0 per-VMA 경로lock_vma_under_rcu() 후 GCS·vm_flags·pkey 검사.거부는 bad_area; 허용되면 FAULT_FLAG_VMA_LOCK으로 MM 진입.
mmap_lock 경로lock_mm_and_find_vma() 후 권한·pkey 재검사.VMA 없음은 MAPERR; 접근 거부는 ACCERR/PKUERR. RETRY면 재탐색.
handle_mm_fault()sanitize_fault_flags, arch_vma_access_permitted, hugetlb 또는 __handle_mm_fault.RETRY/COMPLETED 후 기존 VMA 접근 금지; caller가 unlock·시그널 결정.

잠금 계약: VM_FAULT_RETRY 또는 VM_FAULT_COMPLETED 뒤에는 이전 VMA를 계속 사용하지 않습니다. RETRY에서는 주소로 VMA를 다시 찾습니다.

v6.18.37 ARM64 fault.c, v6.18.37 mm/memory.c.

구조체와 필드

예외 입력, VMA 접근 정책, 페이지 테이블 상태, 반환값은 서로 다른 판단 근거입니다. 하나의 순차적 객체 열로 읽으면 VMA가 PTE를 직접 소유한다는 잘못된 인상을 줍니다.

객체·값역할보호·수명
far / esr / pt_regs주소, exception 원인, EL0/EL1·접근 유형arch fault 진입의 입력; 사용자/커널 처리 구별
mm_struct / vm_area_struct주소 공간과 해당 범위의 vm_flags·pkey·GCS 정책per-VMA read lock 또는 mmap_lock으로 보호; RETRY 뒤 옛 VMA 사용 금지
vm_fault / orig_pteMM 내부 주소·flags·원래 PTE 상태일반 present PTE 갱신은 ptl 아래 재검사
vm_fault_t / si_code해결, RETRY, COMPLETED, OOM, SIGBUS 등의 결과호출자의 unlock·재탐색·시그널 분기 결정

실행 단계와 상태 변화

fault 성공은 항상 “PTE 하나를 새로 설치했다”는 뜻이 아닙니다. 이미 present인 PTE는 접근/dirty 상태만 바꾸거나 경쟁자가 먼저 해결했을 수 있습니다.

PTE 상태일반 PTE의 대표 경로호출자 관찰
빈 PTEanonymous → do_anonymous_page(); file → do_fault()페이지 준비와 PTE 설치 또는 retry/error 가능
non-present PTEdo_swap_page()swap/marker 복구 또는 오류
NUMA 보호 PTEdo_numa_page()NUMA balancing
쓰기 보호 PTEdo_wp_page()COW 또는 쓰기 허용. 단순 할당과 다름
present PTEptl 아래 재확인 후 young/dirty/access 갱신새 folio 생성 없이 해결 가능

hugetlb 및 상위 단계의 huge PMD/PUD 경로는 별도입니다. 이 표는 일반 PTE 경로만 분리합니다.

v6.18.37 mm/memory.c.

불변 조건과 실패 사례

VMA 수명: 하위 fault 경로가 잠금을 놓을 수 있습니다. RETRY 또는 COMPLETED 뒤 이전 VMA를 역참조하지 않습니다.
권한과 결손 구분: 주소가 VMA 밖이면 MAPERR, 권한 불일치는 ACCERR, pkey 거부는 PKUERR입니다. 모두 “빈 PTE”와 다릅니다.
EL1은 별도: 커널 문맥에서 처리할 수 없는 fault는 no_context로 갑니다.

계측과 검증

/proc/<pid>/maps로 주소가 어느 VMA에 있는지 대조하고, perf stat -e page-faults,minor-faults,major-faults -- <command>로 fault 발생량을 볼 수 있습니다. 카운터만으로 특정 PTE 분기나 시그널 원인을 증명하지는 못합니다.

질문관찰 자료한계
주소가 VMA 밖인가?/proc/<pid>/maps, SIGSEGV si_code실행 중 VMA 변화에 유의해 동일 주소·시점 확인
fault가 반복되는가?minor/major counters, perf page-faultsCOW·swap·NUMA·권한 실패를 카운터만으로 구분 못함
잠금 재시도를 거쳤나?fault.c의 retry label, 필요 시 표적 ftrace잠금 해제와 VMA 재획득을 함께 확인

추가 확인 사항

  • EL0 빠른 VMA 경로에서 VMA 없음과 권한·GCS·pkey 거부는 각각 어디로 이동하는가?
  • 빈 PTE, non-present, NUMA 보호, 쓰기 보호, present PTE는 각각 어디로 갈라지는가?
  • VM_FAULT_RETRY/COMPLETED 뒤 잠금과 VMA 수명은 누가 책임지는가?
  • 사용자 시그널과 커널 no_context를 어떤 조건으로 구분하는가?