전체 흐름
메모리 압박이 생기면 호출 문맥에 따라 직접 회수 또는 kswapd가 진입한다. 두 경로는 shrink_node() 부근에서 만나지만, root reclaim의 MGLRU 분기와 memcg/lruvec 순회, folio별 keep·activate·pageout·free 판정은 서로 다른 경계다. 회수 경로 그림과 결과표에서 먼저 분기를 확인한다.
try_to_free_pages()를 통한 직접 회수와 balance_pgdat()를 통한 백그라운드 회수를 구분한다. GFP 제약과 watermark 목표가 선택할 수 있는 작업을 바꾼다.
스캔한 folio가 곧바로 free되는 것은 아니다. 참조·dirty·writeback·매핑 상태에 따라 LRU 복귀, pageout, 해제 또는 별도 demotion 경로로 갈린다.
소스 코드 위치
먼저 확인할 Linux 6.18.37 LTS 소스 파일
Linux 6.18.37 LTS: mm/vmscan.c
Linux 6.18.37 LTS: mm/workingset.c
Linux 6.18.37 LTS: mm/shrinker.c
설명: vmscan.c에서 두 회수 진입점과 folio별 분기를, workingset.c에서 refault 판단을, shrinker.c에서 slab/object cache 회수 인터페이스를 확인한다.
GitHub 원본:
대표 코드
shrink_node — 진입부와 MGLRU 분기
static void shrink_node(pg_data_t *pgdat, struct scan_control *sc)
{
unsigned long nr_reclaimed, nr_scanned, nr_node_reclaimed;
struct lruvec *target_lruvec;
bool reclaimable = false;
if (lru_gen_enabled() && root_reclaim(sc)) {
memset(&sc->nr, 0, sizeof(sc->nr));
lru_gen_shrink_node(pgdat, sc);
return;
}
target_lruvec = mem_cgroup_lruvec(sc->target_mem_cgroup, pgdat);
again:
memset(&sc->nr, 0, sizeof(sc->nr));
nr_reclaimed = sc->nr_reclaimed;
nr_scanned = sc->nr_scanned;
prepare_scan_control(pgdat, sc);
shrink_node_memcgs(pgdat, sc);
함수 앞부분만 발췌했다. root reclaim에서 MGLRU가 켜져 있으면 lru_gen_shrink_node()로 돌아가고, 그 외에는 memcg/lruvec 순회를 준비한다. 이 함수가 kswapd를 시작하는 것은 아니다.
kswapd — 대기와 balance_pgdat 호출
static int kswapd(void *p)
{
unsigned int alloc_order, reclaim_order;
unsigned int highest_zoneidx = MAX_NR_ZONES - 1;
pg_data_t *pgdat = (pg_data_t *)p;
struct task_struct *tsk = current;
/*
* Tell the memory management that we're a "memory allocator",
* and that if we need more memory we should get access to it
* regardless (see "__alloc_pages()"). "kswapd" should
* never get caught in the normal page freeing logic.
*
* (Kswapd normally doesn't need memory anyway, but sometimes
* you need a small amount of memory in order to be able to
* page out something else, and this flag essentially protects
* us from recursively trying to free more memory as we're
* trying to free the first piece of memory in the first place).
*/
tsk->flags |= PF_MEMALLOC | PF_KSWAPD;
set_freezable();
WRITE_ONCE(pgdat->kswapd_order, 0);
WRITE_ONCE(pgdat->kswapd_highest_zoneidx, MAX_NR_ZONES);
atomic_set(&pgdat->nr_writeback_throttled, 0);
for ( ; ; ) {
bool was_frozen;
alloc_order = reclaim_order = READ_ONCE(pgdat->kswapd_order);
highest_zoneidx = kswapd_highest_zoneidx(pgdat,
highest_zoneidx);
kswapd_try_sleep:
kswapd_try_to_sleep(pgdat, alloc_order, reclaim_order,
highest_zoneidx);
/* Read the new order and highest_zoneidx */
alloc_order = READ_ONCE(pgdat->kswapd_order);
highest_zoneidx = kswapd_highest_zoneidx(pgdat,
highest_zoneidx);
WRITE_ONCE(pgdat->kswapd_order, 0);
WRITE_ONCE(pgdat->kswapd_highest_zoneidx, MAX_NR_ZONES);
if (kthread_freezable_should_stop(&was_frozen))
break;
/*
* We can speed up thawing tasks if we don't call balance_pgdat
* after returning from the refrigerator
*/
if (was_frozen)
continue;
/*
* Reclaim begins at the requested order but if a high-order
* reclaim fails then kswapd falls back to reclaiming for
* order-0. If that happens, kswapd will consider sleeping
* for the order it finished reclaiming at (reclaim_order)
* but kcompactd is woken to compact for the original
* request (alloc_order).
*/
trace_mm_vmscan_kswapd_wake(pgdat->node_id, highest_zoneidx,
alloc_order);
reclaim_order = balance_pgdat(pgdat, alloc_order,
highest_zoneidx);
if (reclaim_order < alloc_order)
goto kswapd_try_sleep;
}
tsk->flags &= ~(PF_MEMALLOC | PF_KSWAPD);
return 0;
}
kswapd는 node별 커널 스레드다. 깨어나면 balance_pgdat()를 호출하고, 그 안에서 kswapd_shrink_node()를 거쳐 shrink_node()에 도달한다. 직접 회수는 별도 진입점에서 합류한다.
함수별 분석
직접 회수와 kswapd는 같은 함수의 연속 단계가 아니다. 각각의 진입점에서 node 회수 함수로 들어온 뒤, scan_control의 조건에 따라 회수량과 쓰기 허용 범위가 달라진다.
직접 회수
try_to_free_pages()가 scan_control을 만들고 do_try_to_free_pages()에 전달한다. 이어 shrink_zones()가 대상 node의 shrink_node()를 호출한다. 할당 문맥의 GFP 제약 때문에 파일시스템 진입이나 writeback이 제한될 수 있다.
예외적으로 throttle 중 fatal signal을 받은 경로는 회수에 진입하지 않고 1을 반환한다. 이는 OOM 처리를 피하기 위한 값이며 한 페이지 해제를 뜻하지 않는다(6646–6652행).
백그라운드 회수
kswapd()는 잠에서 깬 뒤 balance_pgdat()를 부른다. watermark 목표를 판단하는 과정에서 kswapd_shrink_node()가 shrink_node()를 호출한다. scanned와 reclaimed는 별개 카운터다.
워터마크는 시스템 전체 여유 메모리가 아니라 zone별 기준입니다
Linux 6.18 문서의 min·low·high는 zone별 워터마크입니다. low 아래에서는 백그라운드 회수가 필요할 수 있고, 일반적인 균형 목표는 high입니다. 메모리 계층화 모드에서는 promo 기준을 사용하므로 high를 항상 종료 조건으로 쓰지 않습니다. min_free_kbytes는 zone별 min 계산에 영향을 주며, 모든 zone이 같은 남은 RAM 수치와 비교하는 설정은 아닙니다.
min 아래라고 모든 할당이 반드시 직접 회수에 들어가는 것도 아닙니다. 할당 플래그·차수·사용 가능한 zone·예약량을 함께 봐야 합니다. free의 합계만으로 성공 여부를 예측하거나 이 설명만으로 sysctl 값을 조절하지 않습니다. Linux 6.18: zone 워터마크와 reserve
English
Watermarks are per zone. Low is a background-reclaim threshold; high is the usual balancing target, while memory tiering can use promo. min_free_kbytes influences per-zone minima, not one global free-RAM comparison. Falling below min does not force every allocation into direct reclaim: flags, order, eligible zones and reserves also matter. Global free-memory totals alone neither predict success nor justify tuning.
두 회수 경로와 folio의 결과
아래 그림은 가능한 호출 관계를 요약한 개념도다. 실제 실행 trace나 메모리 배치를 나타내지 않는다. shrink_node()의 root reclaim 분기는 MGLRU와 memcg 순회를 가르며, memcg 회수는 shrink_lruvec() 안에서 MGLRU를 다시 선택할 수 있다.
분기 근거: mm/vmscan.c:6083–6106; memcg의 별도 MGLRU 조건: 5816–5829.
| 결과 | 대표 조건 | 그다음 상태 | 고정 소스 |
|---|---|---|---|
| Keep | 잠금 실패, 참조 확인의 FOLIOREF_KEEP, 또는 dirty folio에 필요한 FS 진입·writepage가 허용되지 않음. | ret_folios로 되돌려 LRU에 남긴다. 스캔했다고 곧바로 free되지 않는다. | 1140–1141, 1282–1293, 1450–1455, 1604–1609 |
| Activate | FOLIOREF_ACTIVATE, DMA pin, 또는 특정 writeback·dirty 조건에서는 즉시 회수하지 않음. | active 표시 후 LRU 복귀. writeback folio의 다른 조건은 완료를 기다렸다가 재시도한다. | 1238–1279, 1285–1289, 1417–1418, 1592–1607 |
| Pageout | dirty folio가 쓰기 조건을 통과해야 pageout()을 시도한다. file folio는 kswapd·reclaim 표시·PGDAT_DIRTY 조건도 검사한다. | PAGE_KEEP/PAGE_ACTIVATE/PAGE_SUCCESS/PAGE_CLEAN으로 갈린다. 성공해도 writeback 또는 dirty가 남으면 keep한다. | 1421–1463, 1463–1502 |
| Free | writeback·dirty 장애가 없고 매핑 제거 또는 참조 동결에 성공해 실제 해제 가능한 folio. | free_folios batch에 넣고 uncharge·free한다. pageout 호출만으로 성립하지 않는다. | 1484–1502, 1549–1580 |
표는 shrink_folio_list()의 대표 분기를 요약한다. NUMA demotion은 별도 경로이며, 이 네 행이 모든 folio의 최종 상태를 망라하지는 않는다(mm/vmscan.c:1296–1304). 기존 CRLF 체크아웃의 v6.18.37 mm/vmscan.c SHA-256: 9be5764f837b788bedc544b4b7381a3af4084899e34dd2c566e1ada112ad87e8. 같은 내용의 공식 LF 원문은 10b728ec394b2d2b019f6bc55682cc0800dcd9472ffa2057d25a62115265d6e9이며 줄바꿈 정규화 후 내용이 일치한다.
구조체와 필드
lruvec, scan_control, folio 상태, shrinker는 네 단계로 변하는 하나의 객체가 아니다. scan_control은 회수 요청의 제약을, lruvec은 대상 LRU를 나타내며, folio 상태는 개별 판정에 쓰인다. shrinker는 slab/object cache를 대상으로 하는 별도 회수 hook이다. 이 관계를 순서 화살표로 읽지 않는다.
각 항목의 역할과 회수 경로에서 대조할 위치를 구분한다.
| 객체 또는 상태 | 회수 경로에서의 역할 |
|---|---|
| lruvec | memcg와 NUMA node별 LRU |
| scan_control | reclaim 정책과 압박 수준 |
| folio flags | dirty/writeback/referenced 상태 |
| shrinker | slab/object cache 회수 hook |
실행 단계와 상태 변화
memory pressure가 있다고 모든 folio가 같은 네 단계를 통과하지는 않는다. 회수 진입 후 scan_control의 목표·GFP 제약과 folio의 참조·dirty·writeback 상태를 검사한다. nr_scanned는 살핀 양이고 nr_reclaimed는 회수로 집계된 양(강등 포함)이다(mm/vmscan.c:1613–1616).
특히 writeback을 요청한 folio는 I/O 완료 전까지 free로 진행할 수 없다. 참조가 있으면 활성화하고, 진행 중인 writeback은 조건에 따라 활성화하거나 기다린 뒤 재시도한다. 가능한 결과와 소스 분기는 위의 그림과 folio 결과표에서 확인할 수 있다.
불변 조건과 실패 사례
nr_scanned와 nr_reclaimed를 같은 수로 해석하지 않는다. 참조 중이거나 잠금·매핑 제거 조건을 통과하지 못한 folio는 LRU로 돌아갈 수 있다.
dirty folio의 pageout 시도와 실제 free를 구분한다. writeback 중이거나 쓰기 조건을 만족하지 못하면 해당 분기의 keep·activate·대기·재시도를 소스와 대조한다.
직접 회수와 kswapd를 동일한 latency 경로로 묶지 않는다. GFP/FS/IO 제약과 memcg 또는 global 대상이 선택하는 회수 분기를 확인한다.
지연만으로 원인을 단정하지 않는다. /proc/vmstat, vmscan tracepoint, PSI와 실제 workload를 함께 기록해 스캔·회수·writeback을 나눠 본다.
direct reclaim이 sleep/IO를 유발할 수 있다는 점을 놓침
dirty/writeback page를 즉시 free 가능하다고 봄
memcg reclaim과 global reclaim을 섞음
계측과 검증
직접 회수와 kswapd의 실행 문맥을 먼저 구분하고 pgscan·pgsteal, PSI와 이미 수집된 vmscan 이벤트를 대조한다. 합계만으로 개별 folio의 keep·activate·demotion을 단정하지 않는다.
이 예제는 기존 관측값만 읽는다. tracefs 마운트나 전역 tracer·필터 설정을 바꾸지 않으며, 항목이 없으면 해당 관측은 미확인으로 남긴다.
| 도구 | 보는 것 |
|---|---|
| trace_vmscan_* | reclaim 실행이 어느 단계에서 멈추는지 확인 |
| vmpressure | reclaim 실행이 어느 단계에서 멈추는지 확인 |
| psi memory | reclaim 실행이 어느 단계에서 멈추는지 확인 |
| cat /proc/vmstat | reclaim 실행이 어느 단계에서 멈추는지 확인 |
cat /proc/vmstat
cat /proc/pressure/memory
# tracefs가 이미 마운트되고 수집 중일 때만:
cat /sys/kernel/tracing/available_events
cat /sys/kernel/tracing/trace
추가 확인 사항
- 선택한 workload에서 직접 회수와
kswapd중 어느 경로가 실행됐고, 그 근거는 어떤 tracepoint인가? - 스캔한 folio 가운데 keep·activate·pageout·free 및 demotion을 어떤 조건과 카운터로 구분할 수 있는가?
- 실험으로 확인한다면 'direct reclaim이 sleep/IO를 유발할 수 있다는 점을 놓침' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?
- 실험으로 확인한다면 'dirty/writeback page를 즉시 free 가능하다고 봄' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?