Syscall / ELF · Linux userspace / kernel ABI

ELF 적재와 _start

execve 이후 ELF program header, interpreter, 초기 stack, _start, __libc_start_main, main이 이어지는 순서를 봅니다.

Series
04 / 38
Build
cc -std=c17 -Wall -Wextra -O2 elf_start.c -o elf_start
Run
./elf_start one two
Kernel
Linux 6.18.37 LTS

main()보다 먼저 실행되는 코드는 어디에서 오는가?

ELF loader는 section name을 보고 실행 파일을 적재하지 않는다. PT_LOAD program header가 지정한 file offset, virtual address, permission을 기준으로 VMA를 만들고, PT_INTERP가 있으면 dynamic linker도 함께 적재한다.

새 process image의 첫 userspace instruction은 main이 아니라 ELF entry point다. 일반적인 glibc 실행 파일에서는 crt1의 _start가 초기 stack에서 argc, argv를 꺼내 __libc_start_main에 넘긴다.

구조 그림

그림 1. execve 직후 ELF process의 가상 주소 배치
높은 가상 주소낮은 가상 주소
user stackargc · argv · envp · auxv
vDSO / vvarkernel이 제공하는 userspace helper
ld-linux + shared objectsPT_INTERP · relocation · libc
mmap areaanonymous/file mappings
heapbrk와 allocator arena
main ELF PT_LOADR-- headers · R-X text · RW- data/bss

PT_LOAD가 실행 시 mapping을 만들고 section table은 이 배치를 직접 결정하지 않는다. 주소는 ASLR 때문에 실행마다 달라질 수 있다.

호출 흐름

그림 2. 사용자 코드의 요청과 처리 결과
execve pathname/argv/envp
ELF phdr PT_LOAD/PT_INTERP
ld-linux relocation과 dependency
_start crt startup
main C runtime 준비 완료

section table은 link/debug 정보에 가깝고, 실행 시 mapping은 program header가 결정한다. readelf -l 출력과 /proc/PID/maps를 서로 맞춰 본다.

그림 3. 커널 내부에서 지나가는 주요 지점
do_execveat_common linux_binprm 준비
search_binary_handler format 선택
load_elf_binary VMA와 stack
start_thread IP/SP 설정
EL0 ELF entry 실행

함수 이름을 외우기 위한 그림이 아니다. 반환값, 파일 디스크립터, 메모리 매핑, 대기 큐 가운데 무엇이 다음 단계로 전달되는지 확인한다.

Linux 6.18.37 LTS 소스 위치

glibc 함수에서 멈추지 않고 syscall 구현과 커널 객체가 만나는 파일까지 내려간다. 링크는 동일한 태그의 원본 파일을 가리킨다.

파일함수·구조체여기서 볼 것
fs/exec.c do_execveat_common(), begin_new_exec() 기존 주소 공간을 폐기하고 새 binary를 확정하는 지점
fs/binfmt_elf.c load_elf_binary(), create_elf_tables() PT_LOAD mapping과 초기 stack 구성
arch/x86/include/asm/processor.h start_thread() 새 instruction pointer와 stack pointer 설정

실행 예제 원본

아래 코드는 설명을 위해 중간 줄을 생략한 의사 코드가 아니다. 파일로 빌드해 실행할 수 있는 최소 예제다.

빌드cc -std=c17 -Wall -Wextra -O2 elf_start.c -o elf_start
01#include <stdio.h>
02#include <stdlib.h>
03
04static void before_main(void) __attribute__((constructor));
05static void after_main(void) __attribute__((destructor));
06
07static void before_main(void)
08{
09    puts("constructor: runtime is ready");
10}
11
12static void after_main(void)
13{
14    puts("destructor: normal exit path");
15}
16
17int main(int argc, char **argv, char **envp)
18{
19    printf("main: argc=%d argv0=%s\n", argc, argv[0]);
20    printf("argv=%p envp=%p\n", (void *)argv, (void *)envp);
21    return EXIT_SUCCESS;
22}

코드 조각별 설명

실제 코드 4행__attribute__((constructor))

linker가 함수 주소를 .init_array에 넣고 C runtime이 main 전에 배열을 순회한다. ELF entry point 자체가 이 함수로 바뀌는 것은 아니다.

실제 코드 5행__attribute__((destructor))

정상적인 exit 경로에서 .fini_array를 통해 호출된다. _exit(), fatal signal, 전원 차단에는 실행되지 않는다.

실제 코드 9행puts("constructor

이 시점에는 dynamic relocation과 libc 초기화가 끝났으므로 stdio를 사용할 수 있다.

실제 코드 17행int main(int argc

argc/argv/envp 원본은 kernel이 만든 초기 stack에서 시작하지만, main 호출은 C runtime이 ABI에 맞춰 다시 구성한다.

실제 코드 21행return EXIT_SUCCESS

main의 반환은 __libc_start_main 내부에서 exit() 호출로 이어져 atexit handler와 stdio flush를 수행한다.

세부 동작

01

PT_LOAD가 VMA의 초안이다

p_offset와 p_vaddr는 page offset 관계가 맞아야 한다. loader는 file-backed 구간을 map하고 p_memsz가 p_filesz보다 큰 끝부분을 0으로 채워 .bss를 만든다.

W^X 정책은 program header permission과 mprotect relocation 과정에서 확인한다.

02

초기 stack에는 문자열만 있는 것이 아니다

argc, argv pointer array, envp pointer array 뒤에 auxiliary vector가 놓인다. AT_PHDR, AT_ENTRY, AT_RANDOM, AT_SYSINFO_EHDR 같은 항목을 libc와 dynamic linker가 소비한다.

getauxval()을 사용하면 /proc/self/auxv를 직접 parsing하지 않고 값을 확인할 수 있다.

03

exec 성공에는 반환 경로가 없다

execve가 성공하면 호출 process의 code, data, stack이 교체되므로 이전 instruction 다음 줄로 돌아오지 않는다. 실패했을 때만 -1과 errno가 돌아온다.

multithread process에서 호출하면 다른 thread는 사라지고 호출한 thread만 새 image의 초기 thread가 된다.

객체와 수명

대상언제 생기고 없어지는가확인할 값
linux_binprmexec 준비 중 임시로 존재하며 binary handler가 소비한다file, buf, argc/envc
PT_LOAD VMAexec 때 만들어지고 munmap/다음 exec/process exit까지 유지된다offset, protection, p_filesz/p_memsz
initial stackcreate_elf_tables가 만들고 _start와 libc가 소비한다argc, argv, envp, auxv

실패 조건과 오해하기 쉬운 부분

겉으로 보이는 현상실제 원인 후보확인 방법
ENOEXECELF magic/architecture/format 불일치file, readelf -h, kernel log
ENOENT인데 파일은 존재PT_INTERP가 가리키는 dynamic linker 없음readelf -l의 interpreter 확인
main 전 crashrelocation, constructor, stack/ABI 문제LD_DEBUG, gdb starti, core dump

직접 확인

  1. readelf -l 출력의 LOAD 주소와 실행 중 /proc/$PID/maps 주소를 PIE/비PIE 빌드로 비교한다.
  2. gdb에서 starti를 사용해 _start 첫 instruction에서 stack을 확인하고 x/32gx $rsp로 argc와 pointer 배열을 찾는다.
  3. _exit(0)를 호출하도록 바꿔 destructor와 stdio flush가 실행되지 않는지 확인한다.
실행./elf_start one two
추적readelf -h -l ./elf_start && strace -f -e execve,mmap,mprotect ./elf_start

원문

RISC-V에서는 ISA와 호출 규약을 따로 확인합니다

명령어를 실행할 수 있다는 것과 다른 object 파일과 올바르게 호출·반환할 수 있다는 것은 다릅니다. 아래는 RISC-V psABI의 고정 리비전 3095deae52ae를 읽은 개념 비교입니다. 앞의 x86-64 실행 예제를 RISC-V에서 빌드·실행했다는 뜻은 아닙니다.

표준 정수 호출 규약은 인자에 a0–a7를 사용하고 앞의 두 레지스터를 반환값에도 사용합니다. 반환 형식이 크면 숨은 포인터로 전달하는 등 형식별 규칙을 적용합니다. s0–s11은 callee가 보존하며 gp·tp는 일반 임시 레지스터가 아닙니다. frame pointer는 선택 사항이고 사용하면 s0입니다.

표준 ABI의 sp는 함수 진입 때부터 실행 중에도 16바이트 정렬을 유지합니다. 첫 stack 인자는 진입 시 sp+0에 놓입니다. ILP32E는 인자 a0–a5, 보존 레지스터 s0–s1, 4바이트 stack 정렬 등 예외가 있으므로 일반 규칙을 그대로 적용하면 안 됩니다.

하드웨어 부동소수점 호출 규약은 named 인자에 fa0–fa7를 추가합니다. fs0–fs11의 보존은 값의 크기가 ABI_FLEN 이내일 때 적용됩니다. variadic 인자는 정수 호출 규약을 따릅니다. F/D 명령 사용 가능 여부만으로 인자가 F 레지스터로 전달된다고 판단하지 않습니다. 표준 vector 규약에서 v0–v31은 임시 레지스터이며 인자·반환값 전달에 쓰이지 않습니다. vector variant에서는 v1–v7과 v24–v31 보존 등 별도 규칙을 적용합니다.

ELF의 EI_CLASS, EI_DATA, e_flags를 확인합니다. float ABI flag는 호출 시 전달 규칙이지 함수 내부의 부동소수점 명령 허가 비트가 아닙니다. R_RISCV_RELAX가 허용하는 call relaxation은 조건에 맞는 AUIPC+JALR를 JAL 등으로 줄이는 링크 최적화이며 ABI 불일치를 고치지 않습니다.

이 리비전의 상태표에서 일반 ILP32/LP64 부동소수점 변형들은 ratified, ILP32E·RV64ILP32 변형과 big-endian ABI들은 draft입니다. 명령 집합 표준의 승인 상태와 ABI 문서의 상태를 섞지 않습니다. 실제 조합의 검증에는 compiler·linker 버전, ISA/ABI 옵션과 생성된 ELF·disassembly가 필요하며 여기서는 그 실행 검증을 주장하지 않습니다.

출처: RISC-V International, ABI 상태표 · 호출 규약 · ELF·relaxation (CC BY 4.0). 설명은 해당 고정 원문의 한국어 요약입니다. 원자 연산의 도구 체인 간 호환성도 별도로 확인합니다.