2억 개 웹사이트의 관문 NGINX, HTTP/2만 켜져 있어도 서버 장악
Wiz가 발견한 두 개의 치명적 HTTP/2 취약점이 2억 개가 넘는 웹사이트를 위협합니다. 인증 없이 원격 코드 실행이 가능한 이 결함의 원리와 대응 방법을 정리했습니다.
원문 논문 보기
11월 18일, CVSS 9.2가 두 개 붙었다
2026년 11월 18일, Wiz Research가 NGINX의 HTTP/2 구현에서 두 개의 치명적 메모리 안전성 결함을 발견했다고 발표했습니다. CVE-2026-123007과 CVE-2026-123633으로 등록된 이 두 취약점은 나란히 CVSS 9.2를 받았는데, 225만 개 이상의 웹사이트를 뒷받침하는 NGINX에서 HTTP/2만 활성화돼 있으면 별도 인증 없이도 원격 코드 실행(RCE)이 가능하기 때문입니다. 저는 처음 이 소식을 접했을 때 점수보다 '인증이 필요 없고 HTTP/2만 켜져 있으면 된다'는 조건에서 먼저 멈칫했습니다.
다행히 F5는 발표가 나온 같은 날 수정 버전을 곧바로 출시했습니다. 하지만 이번 공개가 단순한 버그 리포트에 그치지 않았던 이유는, Wiz가 AI 지원 코드 스캐닝으로 이 결함들을 찾아냈을 뿐만 아니라 실제 환경에서 ASLR 우회 검증까지 마친 상태로 결과를 내놓았기 때문이죠. 이론상 가능할지 모른다는 추정이 아니라, 작동하는 공격 경로가 눈앞에 증명된 셈입니다.
그만큼 보안 커뮤니티의 반응도 즉각적이고 거셌습니다. Hacker News에서는 1,482 포인트와 636개 댓글이 달리며 논의가 이어졌고, Google News RSS 기준으로도 이틀 동안 "NGINX HTTP/2" 관련 기사가 약 76건, 7일 동안 "CVE-2026-123007" 관련 기사가 약 46건이나 쏟아졌습니다. 그렇다면 유독 NGINX와 HTTP/2의 조합이 이토록 큰 파장을 일으킨 이유는 무엇일까요?
2억 개 웹사이트 앞에서 발견된 결함
전 세계 웹 트래픽의 상당 부분을 받아내는 NGINX는 단순한 웹 서버를 넘어 리버스 프록시, 로드 밸런서, API 게이트웨이까지 두루 맡고 있습니다. 현재 225만 개 이상의 웹사이트에서 쓰이고 있는데, 실제 운영 환경에서는 단일 인스턴스가 여러 앱과 API, 여러 웹사이트를 한꺼번에 뒷받침하는 구성이 흔하죠. 바로 이 구조 때문에 관문 하나가 뚫리면 피해가 단일 페이지에서 끝나지 않고 뒤편의 여러 서비스로 한꺼번에 번질 수 있습니다.
이렇게 널리 쓰이게 된 배경에는 NGINX 특유의 성능과 유연성이 있습니다. 낮은 메모리 사용량과 높은 동시 연결 처리 능력, 거기에 직관적인 설정 문법까지 갖추다 보니 많은 개발자와 운영자가 자연스럽게 선택했고, AWS, Azure, GCP 같은 주요 클라우드 제공업체 역시 NGINX 기반 서비스를 폭넓게 제공하고 있죠. 그런데 클라우드 환경에서는 한 대의 서버가 훨씬 많은 트래픽을 떠안기 마련입니다. 결국 인기가 높을수록, 그리고 한 서버가 처리하는 비중이 클수록 취약점 하나가 만들어내는 공격 표면과 영향력도 함께 커지는 셈입니다.
여기에 오픈 소스 생태계와 현대 프로토콜의 특성까지 겹칩니다. NGINX는 전 세계 개발자들이 기여하는 오픈 소스 프로젝트여서 투명성과 협업이라는 분명한 장점을 누리지만, 반대로 취약점이 한 번 드러나면 코드가 널리 퍼져 있는 만큼 위험 역시 빠르게 확산될 수 있다는 양면성을 안고 있습니다. 특히 이번 사건의 무대가 된 HTTP/2는 2015년 RFC 7540으로 표준화되면서 HTTP/1.1의 한계를 넘기 위해 헤더 압축, 서버 푸시, 다중화 같은 기능을 도입했고, 연결 재사용을 전제로 여러 스트림이 하나의 TCP 연결을 공유하며 효율을 높이도록 설계됐죠. 성능을 끌어올리기 위해 공들여 만든 그 효율성과 기능들이 아이러니하게도 이번 취약점에서는 공격 표면이 됐습니다. 그렇다면 연결 하나를 여러 스트림이 나눠 쓰는 이 구조 안에서, 실제로 어떤 코드가 무너진 것일까요?

환불 한 번이 카운터를 최대값 위로 밀었다
CVE-2026-123007의 발단은 HTTP/2 연결이 아직 보낼 수 있는 바이트 수를 추적하는 `h2c->send_window` 카운터에 있습니다. 여러 스트림이 하나의 연결을 공유할 때 이 `send_window` 값이 흐름 제어의 기준 역할을 하는데, 스트림 취소와 창 크기 갱신이 맞물리는 틈에서 계산이 어긋나기 시작하죠. 실제 공격이 성립하는 순서를 따라가 보면 단계마다 정교한 연쇄 반응이 이어집니다.
1. 먼저 여러 HTTP/2 스트림이 하나의 연결을 공유하면서 응답을 주고받습니다.
2. 이때 응답 데이터가 큐에 쌓이면, 그 데이터 크기만큼 `send_window`에서 차감됩니다.
3. 그런데 데이터가 큐에 남아 있는 상태에서 스트림이 취소되면 `ngx_http_v2_filter_cleanup()`이 사용하지 않은 허용량을 되돌려주는데, 문제는 이 되돌림에 최대 창 크기 검사가 없다는 점입니다.
4. 바로 그 틈에 클라이언트가 데이터가 큐에 있는 동안 `WINDOW_UPDATE`로 허용량을 미리 높여 두면, 이어지는 되돌림이 카운터를 `NGX_HTTP_V2_MAX_WINDOW` 위로 밀어올립니다.
5. 그러고 나면 경계 검사 `if (window > NGX_HTTP_V2_MAX_WINDOW - h2c->send_window)`가 부호 없는 산술로 계산되면서 뺄셈이 언더플로우해 거대한 양수로 바뀌고, 결국 검사를 그대로 통과해 버립니다.
6. 이어서 `ngx_http_v2_send_chain()`에서 이 거대한 부호 없는 값이 부호 있는 `off_t`로 변환되는 순간 음수가 되며, 버퍼 끝 포인터가 시작 지점보다 앞에 놓이게 됩니다.
7. 마지막으로 `ngx_ssl_send_chain()`이 이를 경계 밖 메모리 복사본으로 변환하면서, 메모리 유출과 힙 손상을 거쳐 인증 없는 RCE로 이어집니다.
저는 이 연쇄 과정에서 부호 없는 산술의 함정이 가장 섬뜩하게 보였습니다. `NGX_HTTP_V2_MAX_WINDOW - h2c->send_window`라는 식은 겉보기에 안전한 상한 검사처럼 보이지만, `h2c->send_window`가 이미 `NGX_HTTP_V2_MAX_WINDOW`보다 커진 상태에서는 부호 없는 뺄셈이 음수가 아니라 거대한 양수로 언더플로우하면서 방어 로직을 정반대로 무력화해 버리기 때문이죠. 공격자 입장에서는 여러 단계를 밟아야 하긴 하지만 그 절차 자체가 막혀 있는 것은 아닙니다. 먼저 HTTP/2 연결을 설정해 데이터를 큐에 쌓은 뒤, 스트림을 취소하면서 `WINDOW_UPDATE`를 반복적으로 보내 `send_window` 카운터를 `NGX_HTTP_V2_MAX_WINDOW` 위로 밀어올리기만 하면 의도한 언더플로우를 유발할 수 있습니다.
돌이켜보면 이 취약점은 연결 재사용을 위한 HTTP/2의 효율적인 설계가 오히려 공격 표면으로 돌아온 사례이기도 합니다. 프로토콜을 설계하고 구현할 때 성능만큼 보안 경계 조건을 치밀하게 챙겨야 한다는 교훈을 남기는 셈이죠. 게다가 이 결함이 특히 위험한 이유는 공격자가 로그인이나 인증 없이도 곧바로 서버에 침투해 원격 코드를 실행할 수 있기 때문입니다. 기존 웹 공격과는 차원이 다른 위협인데, 그렇다면 현대 운영 체제의 기본 방어 장치인 ASLR이 이런 공격을 막아주지는 못할까요?

음수여야 할 숫자가 거대한 양수가 되는 순간
현대 운영 체제의 기본 보안 장치인 ASLR(Address Space Layout Randomization)은 메모리 주소를 매번 무작위로 배치해, 공격자가 특정 함수나 데이터 구조의 위치를 미리 예측하지 못하도록 막아 줍니다. 그런데 이번 NGINX 취약점들은 코드를 실행하기 전에 서버 메모리를 먼저 읽을 수 있다는 점이 결정적입니다. 공격자가 메모리 유출로 ASLR이 숨긴 주소를 한 번 알아내고 나면, 그 주소를 기반으로 이후 공격을 정확하게 구성해 우회할 수 있기 때문이죠. 실제로 Wiz는 공식 NGINX 1.31.7과 1.31.8 빌드에서 ASLR 우회 RCE가 작동한다는 사실까지 직접 검증했습니다.
저는 실무에서 "정보 유출"이라는 표현이 종종 과소평가된다고 봅니다. 많은 팀이 이를 단순한 데이터 노출 정도로만 여기기 쉬운데, 이번 사례가 보여주듯 메모리 유출은 곧바로 RCE로 넘어가는 공격의 첫 단계가 될 수 있습니다. 메모리 유출이 코드 실행으로 이어지는 경로를 차단하려면, 유출 자체를 원천적으로 막아야 합니다.
ASLR은 공격을 어렵게 만들어 줄 뿐 불가능하게 만드는 만능 장치가 아닙니다. 메모리 유출은 물론 포맷 스트링 버그나 타입 혼동, 브루트 포스, 정보 수집 같은 기법 앞에서는 언제든 우회될 수 있기 때문에, 단일 방어 수단에 기대기보다는 취약점 자체를 제거하는 동시에 방화벽, WAF, IDS/IPS, 패치 관리를 함께 묶는 다층 방어 전략이 필요합니다. 그런데 Wiz가 이번에 공개한 결함은 `send_window` 언더플로우 하나만이 아니었습니다.
닫힌 연결이 살아 있는 요청을 다시 잡는다
두 번째 취약점인 CVE-2026-123633은 HTTP/2 연결에서 발생하는 use-after-free 결함으로, 1.19.7부터 1.31.8까지 영향을 받습니다. Use-after-free는 이미 해제된 메모리를 다시 사용하는 버그를 말하는데, 여기서는 HTTP/2 연결이 해제된 뒤에도 그 연결을 참조하는 코드가 남아 있으면서 메모리 손상이나 크래시, 때로는 임의 코드 실행으로 이어지게 됩니다. 물론 리버스 프록시로 설정돼 있어야 하고 사용 가능한 연결 슬롯이 부족한 환경이어야 한다는 점에서 CVE-2026-123007보다는 조건이 까다롭습니다. 하지만 그 조건이 충족되는 순간에는 마찬가지로 치명적인 결과를 낳습니다.
이런 결함이 낯설지 않은 이유는 NGINX가 메모리 관리를 개발자가 직접 책임지는 C 언어로 작성됐기 때문입니다. C나 C++ 같은 저수준 언어에서는 사소한 메모리 관리 실수나 참조 카운트 오류, 동적 할당 해제 뒤 포인터 초기화 누락 같은 문제만으로도 use-after-free가 흔하게 발생하죠. 게다가 저는 이런 버그가 실전에서 특히 까다로운 이유가 테스트 단계에서 좀처럼 모습을 드러내지 않는 데 있다고 봅니다. 실행 시점의 메모리 상태에 따라 동작이 달라지다 보니 재현이 어렵고 테스트 커버리지에서도 놓치기 쉬워서, 정적 분석 도구와 동적 분석 도구를 함께 사용해야 비로소 효과적으로 잡아낼 수 있습니다.
이처럼 use-after-free는 저수준 언어의 메모리 안전성 문제가 얼마나 오래된 숙제인지를 대표적으로 보여줍니다. 그래서 이런 문제를 구조적으로 예방하기 위해 Rust 같은 메모리 안전 언어를 대안으로 검토하는 흐름도 이어지고 있죠. 그렇다면 지금 운영 중인 NGINX 환경 가운데 두 취약점의 영향권 안에 들어가는 범위는 어디까지일까요?
메모리를 먼저 읽고 나서 코드를 실행한다
두 취약점 모두 HTTP/2가 활성화된 환경에서만 작동한다는 공통점이 있지만, 실제로 노출되는 범위는 결코 좁지 않습니다. 우선 영향받는 버전 구간부터 확인해 보면 다음과 같습니다.
- CVE-2026-123007: 1.9.5 ~ 1.31.8
- CVE-2026-123633: 1.19.7 ~ 1.31.8
여기서 특히 위험하게 봐야 할 쪽은 CVE-2026-123007입니다. 복잡한 추가 구성 없이 기본 설정에서도 악용이 가능하고, 백엔드 서버나 서드파티 모듈 없이 TLS를 통해 정적 파일만 제공하고 있어도 공격 조건이 충족되기 때문이죠. 실제로 많은 NGINX 사용자가 HTTP/2를 활성화한 채 정적 파일을 제공하고 있다는 점을 떠올리면 노출 면적이 상당히 넓습니다. 반면 CVE-2026-123633은 리버스 프록시 구성이 필요하지만, 리버스 프록시 자체가 NGINX의 주요 사용 사례 중 하나인 만큼 안심하기는 어렵습니다. 그렇다면 현업에서는 어떤 순서로 대응해야 할까요?
패치가 먼저, HTTP/2 차단은 그 다음
F5가 2026년 11월 18일 수정 버전을 출시한 만큼, 최우선 조치는 지체 없이 최신 버전으로 패치하는 것입니다. 다만 패치가 즉시 불가능한 상황이라면 HTTP/2를 일시적으로 비활성화해 공격 경로를 먼저 닫아야 하고, 앞단의 CDN이나 WAF가 HTTP/2를 종단하는 환경이라면 구현에 따라 노출이 줄어들 수도 있습니다. 현장에서 대응할 때는 아래 우선순위로 움직이는 편이 가장 명확합니다.
1. 최신 버전으로 패치: F5 공식 사이트에서 최신 릴리스를 확인한 뒤 즉시 적용합니다.
2. HTTP/2 비활성화: 패치가 막혔다면 설정에서 `listen ... http2`를 제거하고 재시작합니다.
3. CDN/WAF 활용: HTTP/2를 종단하는 CDN이나 WAF를 사용하면 구현에 따라 노출을 줄일 수 있습니다.
패치와 완화 조치를 진행하는 동안에도 공격 시도가 있었는지 감지할 수 있어야 합니다. 이를 위해서는 평소 HTTP/2 연결 모니터링을 꼼꼼히 돌려야 하는데, 특히 다음과 같은 단서가 포착된다면 의심 신호로 바로 살펴봐야 합니다.
- 장기간 유지되는 HTTP/2 연결에서 대량의 데이터가 전송되는 경우
- CVE-2026-123007 악용에 필요한 다수의 `WINDOW_UPDATE` 레코드가 반복적으로 나타나는 경우
그런데 이번 사건을 보면서 패치만큼이나 많은 엔지니어의 시선을 붙잡은 대목이 하나 더 있습니다. 바로 Wiz가 이 방대한 코드베이스에서 두 결함을 찾아낸 방식입니다.

AI가 찾았지만 판단은 여전히 사람이 한다
Wiz가 이번 결함들을 찾아낸 수단은 AI 지원 코드 스캐닝이었습니다. 그렇다고 AI가 취약점을 "만든" 것은 아니고, 연구원이 방대한 코드를 분석하는 과정을 옆에서 도운 셈이죠. 실제로 NGINX처럼 규모가 큰 코드베이스에서는 사람이 모든 분기를 일일이 검토하기가 어렵습니다. 반면 AI는 바로 이런 반복적이고 지루한 작업에서 강점을 발휘하며, 대규모 코드베이스를 사람보다 빠르고 정확하게 훑어 사람이 놓치기 쉬운 패턴과 의심스러운 지점을 표시해 줍니다.
저는 Patty의 관점에서도 바로 이 분업 구조가 현실적이라고 봅니다. AI는 기존의 취약점 발견 방식을 대체하는 존재가 아니라, 연구원의 능력을 확장해 새로운 발견을 가능하게 만드는 보완 도구이자 파트너로 자리 잡고 있기 때문입니다. 실제로 코드 리뷰, 취약점 탐지, 이상 행동 감지 등 다양한 분야에서 AI의 역할이 빠르게 커지고 있죠. 하지만 AI가 내놓은 판단을 무조건 신뢰해서는 안 됩니다. 의심 지점이 진짜 취약점인지 검증하고 최종 판단을 내리는 일은 여전히 사람 연구원의 몫입니다.
이번 사례는 기계가 인간 전문가를 밀어내는 장면이 아니라, AI가 방대한 코드에서 후보를 좁혀 주고 사람이 깊은 검증으로 결론을 짓는 협업 모델이 어떻게 작동하는지를 보여줍니다. 앞으로 이런 협업 방식이 더 발전할수록 오랫동안 숨어 있던 결함이 수면 위로 올라오는 속도도 빨라질 텐데, 그렇다면 운영자 입장에서는 지금 당장 무엇부터 점검해야 할까요?
숫자보다 먼저 패치 노트를 본다
취약점의 원리와 맥락을 확인했다면 이제 남은 일은 운영 중인 서버 상태를 직접 점검하는 것입니다. 현재 NGINX를 사용하고 있다면 우선 기본 노출 여부와 패치 상태부터 아래 순서대로 확인해 보시기 바랍니다.
1. 현재 버전 확인: `nginx -v`
2. HTTP/2 활성화 여부: 설정 파일에서 `listen ... http2` 확인
3. 최신 버전으로 패치: F5 공식 사이트에서 최신 릴리스 확인
4. 패치가 막혔다면 HTTP/2 비활성화: `listen ... http2` 제거 후 재시작
여기서 멈추지 말고, 리버스 프록시 환경과 운영 모니터링 항목까지 추가로 점검해 두면 훨씬 안전합니다.
5. 리버스 프록시 구성 여부: CVE-2026-123633에 영향을 받는지 확인
6. 연결 슬롯 설정: 사용 가능한 연결 슬롯이 충분한지 확인
7. HTTP/2 연결 모니터링: 장기간 유지되는 연결과 대량 데이터 전송을 감시
225만 개 웹사이트를 뒷받침하는 관문에서 HTTP/2만 켜져 있어도 서버가 장악될 수 있다는 경고는 결코 가볍지 않습니다. 저는 이런 인프라 취약점일수록 완벽한 대책을 고민하며 미루기보다, 지금 바로 확인하고 대응에 나서는 것이 가장 빠른 방어라고 생각합니다.