QD Research EngineAI-Synthesised

딥 헤징: 신경망이 블랙-숄즈를 대체할 때

모델과 프레임워크
2026-03-09 · 15 min

신경망은 블랙-숄즈 이론이 무시하는 거래비용과 팻테일을 고려하여 시장 데이터로부터 최적의 헤징 전략을 직접 학습할 수 있습니다.

Deep LearningDerivativesHedgingReinforcement LearningOptionsTransaction Costs
출처: Buehler et al. (2019), Quantitative Finance ↗

개인 투자자를 위한 실용적 활용

개인 투자자가 직접 파생상품 포트폴리오를 헤징할 일은 드물지만, 딥 헤징의 영향은 하류로 흐릅니다. 마켓메이커의 더 나은 헤징은 더 좁은 옵션 스프레드와 더 효율적인 가격결정을 의미합니다. 옵션 전략이나 구조화 상품을 평가할 때, 그 뒤의 가격결정과 리스크 관리가 점점 AI 기반이라는 것을 이해하세요.

편집자 노트

AI가 금융의 모든 영역을 변혁하는 가운데, 딥 헤징은 신경망이 고전 이론을 명확히 개선하는 가장 분명한 사례 중 하나입니다. 옵션 거래량이 사상 최고치를 기록하고 마켓메이킹이 점점 알고리즘화되면서, 공식 기반에서 학습 기반 헤징 전략으로의 전환이 가속화되고 있습니다.

모두가 무시하는 가정

금융학과 학생에게 옵션을 헤징하는 방법을 물으면 답은 즉각적이다: 델타 헤징. 블랙-숄즈 델타를 계산하고, 그에 해당하는 수량만큼 기초자산을 매수 또는 매도하며, 연속적으로 조정하면 옵션의 리스크가 사라진다. 금융 이론에서 가장 우아한 결과 중 하나이자, 실무에서 가장 빈번하게 위반되는 결과이기도 하다.

문제는 델타 헤징이 이론적으로 틀렸다는 것이 아니다. 이론이 요구하는 조건을 실제 시장이 결코 충족하지 못한다는 것이다. 블랙-숄즈 모델은 거래 비용 없는 연속 거래, 일정한 변동성, 로그정규분포를 따르는 수익률을 전제한다. 그러나 실제 시장은 모든 거래마다 매수-매도 스프레드를 부과하고, 변동성은 군집화와 점프 현상을 보이며, 팻테일 수익률을 만들어내어 모델이 체계적으로 과소평가하게 만든다. 세계 모든 옵션 데스크가 이 사실을 알고 있다. 감마 스캘핑, 변동성 곡면 피팅, 이산 리밸런싱 규칙 등 임시방편으로 보완하지만, 모델과 현실 사이의 근본적 괴리는 여전히 남아 있다.

만약 이상화된 수학적 모델에서 출발해 그 결함을 땜질하는 대신, 실제 시장 환경—모든 마찰, 팻테일, 거래 비용을 포함한—에서 시작하여 알고리즘이 최적의 헤징 전략을 직접 학습하도록 한다면 어떨까? 이것이 딥 헤징의 핵심 전제이며, 머신러닝의 퀀트 금융 분야 적용 중 가장 의미 있는 사례 중 하나이다.

딥 헤징이란 무엇인가

딥 헤징은 Buehler, Gonon, Mancini, Wood가 2019년 Quantitative Finance에 발표한 논문 "Deep Hedging"(Buehler et al., 2019)에서 처음 소개되었다. 이 방법은 고전적 파생상품 가격결정의 해석적 헤징 공식을 뉴럴 네트워크로 대체하여 데이터로부터 직접 헤징을 학습한다.

구조는 의외로 단순하다. 파생상품 포지션—예를 들어 유럽형 콜 옵션—이 있고, 이를 헤징하기 위해 거래할 수 있는 상품들(일반적으로 기초자산, 경우에 따라 유동성이 높은 다른 파생상품)이 있다. 만기 전 각 시점에서 뉴럴 네트워크는 현재 시장 상태—기초자산 가격, 잔여 만기, 현재 포트폴리오 보유량, 그리고 내재변동성 같은 추가 피처—를 관찰하고 헤징 행동을 출력한다: 각 상품을 얼마나 보유할 것인지를 결정한다.

네트워크는 시뮬레이션을 통해 학습된다. 거래 비용, 이산 거래 간격, 점프, 확률적 변동성, 유동성 제약 등 현실적 시장 역학을 반영한 수천 개의 가격 경로를 생성한다. 각 경로에서 네트워크는 단계별로 헤징 전략을 실행한다. 만기 시점에서 헤징된 포트폴리오의 수익과 파생상품의 수익을 비교하여 헤징 오차를 계산한다. 네트워크의 파라미터는 이 헤징 오차의 리스크 측도—단순한 평균제곱오차가 아니라, 조건부 VaR(CVaR)이나 엔트로피 리스크 측도처럼 헤저의 실제 리스크 선호를 반영하는 측도—를 최소화하도록 최적화된다.

이것이 핵심 혁신이다: 딥 헤징은 기초자산 역학에 대해 특정 모델을 가정하지 않는다. 변동성이 일정할 필요도, 수익률이 정규분포를 따를 필요도, 거래가 연속적일 필요도 없다. 직면하는 실제 시장 환경—고전 이론이 가정으로 제거해 버리는 모든 마찰을 포함하여—에서 최적의 헤징 전략을 학습한다.

왜 중요한가: 거래 비용 문제

딥 헤징이 단순한 학술적 호기심 이상인 이유를 이해하려면, 거래 비용 문제를 살펴볼 필요가 있다. 블랙-숄즈 하에서 최적 헤지는 연속적 리밸런싱—매 순간 델타 포지션을 조정하는 것—을 요구한다. 실무에서는 모든 리밸런싱 거래마다 비용이 발생한다: 매수-매도 스프레드, 시장충격, 중개 수수료 등이다.

이는 근본적인 딜레마를 만든다. 너무 자주 리밸런싱하면 거래 비용이 수익을 잠식하고, 너무 드물게 하면 헤징 오차가 커진다. 고전 이론은 이 트레이드오프에 대해 제한적인 지침만 제공하는데, 마찰 없는 블랙-숄즈 세계에서는 이 트레이드오프 자체가 존재하지 않기 때문이다.

실무자들은 다양한 경험적 방법을 개발해 왔다: 고정 시간 간격(일별, 시간별)으로 리밸런싱, 델타가 특정 임계값을 넘을 때 리밸런싱(밴드위드 헤징), 또는 베가 헤징으로 변동성 변화에 대한 민감도를 줄이는 방법 등이다. 이러한 경험적 방법들은 어느 정도 효과가 있지만, 말 그대로 경험칙일 뿐이다. 최적이라는 보장은 없다.

딥 헤징은 이 문제를 자연스럽게 해결한다. 거래 비용이 학습 시뮬레이션에 내장되어 있으므로, 뉴럴 네트워크는 자동으로 헤징 정확도와 거래 비용 간의 균형을 학습한다. 리밸런싱 비용을 감수할 가치가 있는 시점과 더 큰 헤징 오차를 감수하는 것이 나은 시점을 스스로 파악한다. 예를 들어, 손익을 비대칭적으로 처리하는 리밸런싱 규칙이나, 옵션이 등가격 근처일 때 더 적극적으로 헤징하고 깊은 내가격 또는 외가격일 때 덜 적극적으로 헤징하는 전략 등, 사람이 설계하기 어려운 전략을 발견할 수 있다.

블랙-숄즈를 넘어서: 불완전 시장

거래 비용 문제도 중요하지만, 딥 헤징의 가장 심오한 함의는 불완전 시장과 관련이 있다. 모든 파생상품을 기초자산 거래로 완벽히 복제할 수 있는 시장을 완전 시장이라 한다. 완전 시장에서는 모든 파생상품에 하나의 올바른 가격과 하나의 올바른 헤지가 존재한다. 블랙-숄즈 프레임워크는 이 세계에 존재한다.

실제 시장은 불완전하다. 기초 주식만으로 변동성 스왑을 완벽히 헤징할 수 없다. 장기 상품의 유동성이 부족할 때 장기 이색 옵션을 완벽히 헤징할 수 없다. 개별 구성 요소 간 상관관계가 존재하지만 불완전할 때 바스켓 옵션을 완벽히 헤징할 수 없다. KOSPI 200 옵션 시장에서도 이러한 불완전성은 동일하게 나타난다.

불완전 시장에서는 유일한 "올바른" 헤지가 존재하지 않는다. 최적 전략은 헤저의 리스크 선호—잔여 리스크를 얼마나 감수할 수 있는지, 어떤 종류의 리스크를 가장 꺼리는지—에 달려 있다. 딥 헤징은 리스크 측도 선택을 통해 이를 자연스럽게 처리한다. CVaR로 학습하면 테일 리스크—극단 시나리오에서의 대규모 손실—를 줄이는 데 초점을 맞춘 전략을 얻는다. 평균-분산으로 학습하면 평균 헤징 오차를 최소화하는 전략을 얻는다. 동일한 뉴럴 네트워크 아키텍처가 서로 다른 목적 함수로 학습되면, 서로 다른 리스크 성향에 맞춤화된 질적으로 다른 헤징 전략을 생성한다.

이러한 유연성은 고전적 헤징 이론이 제공할 수 없는 것이다. 델타 헤징은 하나의 답만 준다. 딥 헤징은 각기 다른 리스크 선호에 최적화된 답의 집합을 제공한다.

아키텍처와 학습

딥 헤징에 사용되는 뉴럴 네트워크는 일반적으로 순환 아키텍처—LSTM(Long Short-Term Memory) 네트워크 또는 각 시점에 적용되는 단순한 피드포워드 네트워크—이다. 각 단계에서의 입력은 현재 기초자산 가격(또는 로그 수익률), 잔여 만기, 현재 포트폴리오 보유량, 그리고 변동성 곡면에서 파생된 피처 등을 포함한다.

학습은 강화학습 기법을 활용한다: 네트워크는 누적 보상(최종 헤징 손익의 리스크 측도를 최소화)을 최적화하는 정책(상태의 함수로서의 헤징 행동)을 학습한다. 그러나 일반적인 강화학습 문제와 달리, 딥 헤징은 알려진 보상 구조—만기 시 파생상품의 수익—를 활용할 수 있으므로, 일반적인 RL 적용보다 학습이 더 안정적이고 샘플 효율적이다.

중요한 설계 선택은 학습에 사용되는 시뮬레이션 모델이다. 학습 경로는 네트워크가 실무에서 직면할 시장 역학을 충분히 포착할 만큼 현실적이어야 한다. 일반적으로 사용되는 모델은 다음과 같다:

  • 헤스턴 모델: 평균회귀 분산을 갖는 확률적 변동성 모델
  • SABR 모델: 금리 파생상품에서 널리 사용되는 확률적 알파-베타-로 모델
  • 점프-확산 모델: 갑작스러운 가격 변동을 포착
  • GAN 생성 경로: 과거 데이터로 학습된 생성적 적대 신경망을 통해 현실적인 합성 경로 생성

시뮬레이션 모델 선택은 미묘한 형태의 모델 의존성을 도입한다. 딥 헤징은 폐쇄형 공식에서 헤징 전략이 도출되지 않는다는 점에서 모델 프리이지만, 학습 데이터는 여전히 어떤 모델에서 생성된다. 학습 모델이 실제 시장 역학을 제대로 반영하지 못하면, 학습된 전략의 성과가 저하될 수 있다. 이는 활발한 연구 분야로, 최근에는 단일 가정 모델이 아닌 다양한 시장 역학 범위에서 우수한 성과를 보이는 분포적으로 강건한 딥 헤징에 대한 연구가 진행 중이다.

실무 적용

옵션 데스크

가장 즉각적인 적용은 은행 및 마켓메이커의 옵션 데스크이다. 이들 데스크는 다수의 기초자산, 행사가, 만기에 걸친 대규모 복합 옵션 포트폴리오를 보유한다. 고전적 헤징은 상품별로 서로 다른 모델을 사용하여 전체 장부에 걸쳐 그릭스(델타, 감마, 베가, 세타)를 산출하고 관리해야 한다. 딥 헤징은 전체 포트폴리오에 대한 통합 헤징 전략을 학습할 수 있으며, 교차 자산 상관관계, 거래 비용, 데스크의 특정 리스크 한도를 자연스럽게 반영한다.

이색 파생상품

이색 파생상품—배리어 옵션, 아시안 옵션, 오토콜러블—의 경우 고전적 헤징 공식이 존재하지 않거나 심각한 근사를 필요로 한다. 딥 헤징은 폐쇄형 해를 요구하지 않고 시뮬레이션된 수익으로부터 직접 효과적인 전략을 학습할 수 있다.

리스크 관리

헤징을 넘어, 이 프레임워크는 리스크 측정에도 시사점을 갖는다. 딥 헤징 전략 하에서의 헤징 손익 분포는 대부분의 리스크 시스템에서 사용되는 표준 그릭스 기반 근사보다 잔여 리스크에 대한 더 현실적인 그림을 제공한다.

한계와 과제

딥 헤징은 강력하지만, 상당한 실무적 과제가 존재한다.

계산 비용. 딥 헤징 모델 학습에는 수천 개의 가격 경로 시뮬레이션과 이에 대한 뉴럴 네트워크 최적화가 필요하다. 복잡한 포트폴리오의 경우 계산 집약적일 수 있으나, GPU 컴퓨팅의 발전으로 점점 더 실용적이 되고 있다.

해석 가능성. 뉴럴 네트워크의 헤징 결정은 불투명하다. 모델이 특정 시나리오에서 언더헤지를 결정했을 때, 그 이유가 즉시 명확하지 않다. 이러한 해석 가능성 부족은 헤지가 왜 특정 방식으로 구성되었는지 이해하고자 하는 리스크 관리자와 규제 당국에게 불편할 수 있다. 딥 헤징을 위한 설명 가능한 AI에 대한 최근 연구가 이를 해결하려 하고 있지만, 여전히 열린 과제로 남아 있다.

시뮬레이션 충실도. 전략의 품질은 학습 시뮬레이션의 품질에 달려 있다. 시뮬레이션이 실제 시장 역학의 중요한 특성—유동성 고갈, 상관관계 체제 전환, 시장 미시구조 효과—을 포착하지 못하면, 학습된 전략은 가장 중요한 순간에 실패할 수 있다.

규제 수용성. 금융 규제 당국은 블랙박스 모델에 대해 신중하다. 딥 헤징이 백테스트와 시뮬레이션에서 유망한 결과를 보여주고 있지만, 다수 관할권에서 실제 운용을 위한 규제 승인을 획득하는 것은 여전히 장벽으로 남아 있다.

더 큰 그림

딥 헤징은 퀀트 금융의 더 큰 흐름을 대표한다: 모델 기반에서 데이터 기반 접근법으로의 전환. 고전적 퀀트 금융은 우아한 수학적 모델—블랙-숄즈, CAPM, 파마-프렌치 모델—에서 출발하여 최적 전략을 해석적으로 도출했다. 딥 헤징과 관련 머신러닝 접근법은 반대 방향에서 시작한다: 목적을 정의하고, 현실적인 데이터를 제공하며, 알고리즘이 전략을 찾도록 한다.

이것이 고전 모델의 폐기를 의미하지는 않는다. 블랙-숄즈는 호가 관행, 리스크 소통 언어, 그리고 1차 근사로서 여전히 귀중하다. 그러나 실제 마찰이 존재하는 실제 시장에서의 헤징에 있어서는, 데이터 기반 접근법이 점점 더 경쟁력을 갖추고 있다. 문제는 뉴럴 네트워크가 헤징에서 블랙-숄즈를 대체할 것인지가 아니라, 통합이 얼마나 빨리 일어나고 규제 체계가 어떻게 적응할 것인지이다.

개인 투자자에게 직접적 영향은 제한적이다—파생상품 포트폴리오를 직접 거래하는 개인은 드물다. 그러나 간접적 효과는 상당하다. 마켓메이커의 더 나은 헤징은 더 좁은 스프레드와 더 효율적인 KOSPI 옵션 시장 등을 의미한다. 더 정확한 리스크 관리는 더 낮은 시스템 리스크를 뜻한다. 그리고 현실에서 출발한다는 지적 프레임워크—이상화된 가정이 아닌—는 파생상품을 넘어 최적 체결에서 포트폴리오 구축까지 광범위한 적용 가능성을 갖는다.

이 글은 교육 목적으로 작성되었으며, 금융 투자 조언을 구성하지 않습니다. 과거 성과가 미래 결과를 보장하지 않습니다.

관련

이 분석은 Buehler et al. (2019), Quantitative Finance 을(를) 기반으로 QD Research Engine — Quant Decoded의 자동화 리서치 플랫폼 — 에 의해 작성되었으며, 편집팀이 정확성을 검토했습니다. 우리의 방법론 자세히 보기.

참고문헌

교육 목적. 투자 조언 아님.