[가이드] Windows 대형 페이지(Large Pages) 활성화 및 메모리 성능 최적화 방안

[가이드] Windows 대형 페이지(Large Pages) 활성화 및 메모리 성능 최적화 방안

 

1. 가상 메모리 페이지 매커니즘과 대형 페이지(Large Pages)의 이점

Windows 운영체제는 물리 메모리(RAM)를 효율적으로 관리하기 위해 기본적으로 4KB 크기의 작은 단위인 '페이지(Page)'로 쪼개어 가상 메모리 주소와 물리 주소를 매핑합니다. CPU는 이 주소를 더 빠르게 찾기 위해 TLB(Translation Lookaside Buffer)라는 초고속 캐시 메모리를 사용합니다. 하지만 32GB 이상의 대용량 RAM을 탑재한 시스템에서 수십 기가바이트의 데이터를 처리하는 고사양 게임이나 3D 렌더링, 데이터베이스 프로그램을 구동하면 4KB 단위의 매핑 데이터가 너무 많아져 TLB 캐시 범위를 벗어나는 'TLB 미스(Miss)' 현상이 빈발하고, 이는 시스템 미세 프리징(Stuttering)의 원인이 됩니다. 이때 대형 페이지를 활성화하면 가상 메모리 단위를 2MB나 4MB로 크게 묶어주어 CPU의 주소 변환 부하를 획기적으로 줄이고 메모리 대역폭 효율을 극대화할 수 있습니다.

2. 로컬 그룹 정책 편집기를 통한 '메모리에 페이지 잠금' 권한 할당

Windows의 기본 정책은 메모리에 상주하는 페이지라 할지라도 필요에 따라 앞서 설명했던 디스크의 가상 메모리(페이징 파일) 영역으로 내보내도록(Paging out) 설계되어 있습니다. 고사양 프로그램이 작동 중인 와중에 메모리 데이터가 느린 저장 장치로 스왑(Swap)되면 일시적인 성능 하락이 발생합니다. 이를 원천 차단하기 위해 특정 계정에 '메모리에 페이지 잠금(Lock Pages in Memory)' 권한을 부여해야 합니다.

실행 창(Win + R)에 gpedit.msc를 입력하여 로컬 그룹 정책 편집기를 실행한 후 다음 경로로 이동합니다.

컴퓨터 구성 > Windows 설정 > 보안 설정 > 로컬 정책 > 사용자 권한 할당

우측 목록에서 '메모리에 페이지 잠금' 항목을 찾아 더블 클릭한 뒤, '사용자 또는 그룹 추가' 버튼을 눌러 현재 로그인된 윈도우 계정명(또는 Administrators)을 입력하고 적용합니다. 이 설정을 마치면 운영체제가 핵심 연산 데이터를 디스크 가상 메모리로 임의 방출하지 않고 RAM 내에 무결하게 물리적으로 고정하여 지속적인 초고속 응답성을 유지합니다.

3. 특정 애플리케이션 및 가상화 환경에서의 대형 페이지 연계 적용

'메모리에 페이지 잠금' 보안 권한을 운영체제 단에서 활성화했다면, 실제로 이 기능을 지원하는 프로그램 내부에서 활성화 지시를 내려야 효과를 볼 수 있습니다. 대규모 연산이 필요한 오라클(Oracle), MSSQL 등 데이터베이스 서버 시스템은 물론이고, 가상머신(VMware, Hyper-V)이나 특정 하이엔드 렌더러 및 게임 엔진(가령 자바 기반 프로그램 등) 환경의 설정 파일 또는 실행 인자 파라미터에 대형 페이지(-XX:+UseLargePages 등) 옵션을 추가해 줍니다. 이렇게 연계해 주면 프로그램이 실행될 때 커널에 거대한 연속 메모리 블록을 통째로 요청 및 할당받으므로, 조각난 메모리 공간을 탐색하는 자원 낭비를 완벽하게 차단하고 작업 연산 속도를 끌어올릴 수 있습니다.

3줄 요약

• 메모리 주소 변환 캐시(TLB)의 효율을 높이기 위해 기본 4KB 단위의 페이지를 2MB 이상의 대형 페이지로 관리함.
• 로컬 그룹 정책 편집기에서 '메모리에 페이지 잠금' 권한을 계정에 부여하여 RAM 안의 데이터가 가상 메모리로 밀려나 성능이 저하되는 현상을 방지함.
• 가상화 시스템이나 고부하 개발/서버 프로그램 환경과 연계 설정하여 대용량 가용 메모리의 물리적 연산 대역폭을 극대화함.