GARCH 모형: 실전 변동성 예측의 방법론

핵심 요약

GARCH(1,1)은 도입 이후 40년이 지난 오늘날에도 변동성 예측의 핵심 모형으로 자리잡고 있으며, 단 세 개의 모수만으로 조건부 분산 역학의 90% 이상을 포착합니다. EGARCH와 GJR-GARCH 같은 비대칭 확장 모형은 레버리지 효과를 모형화하여 시장 스트레스 기간의 성과를 개선하지만, Hansen과 Lunde(2005)는 330개의 GARCH 변형 모형을 비교한 결과 잘 추정된 GARCH(1,1)을 일관되게 능가하는 모형이 없음을 발견했습니다. 실무적 교훈은 명확합니다: 모형의 간결성이 표본 외 예측에서 복잡성을 종종 능가합니다.

고정 변동성에서 조건부 변동성으로

Robert Engle이 1982년 획기적인 논문을 발표하기 전까지, 금융 계량경제학은 변동성을 상수로 취급했습니다. 포트폴리오 최적화는 전체 표본에서 도출된 단일 분산 추정치를 사용했고, 위험 지표는 안정적 분포를 가정했으며, 옵션은 변동성이 알려진 고정 모수라는 가정 하에 가격이 결정되었습니다. 시장을 몇 개월 이상 관찰한 사람이라면 누구나 이것이 틀렸다는 것을 알고 있었습니다. 변동성은 군집화됩니다: 안정된 기간은 지속되고, 격동의 기간도 지속됩니다. 1987년 10월 대폭락, 1997년 아시아 금융위기, 2008년 글로벌 금융위기 모두 고정 분산 모형으로는 포착할 수 없는 극적인 변동성 군집화를 나타냈습니다.

Engle(1982)은 자기회귀 조건부 이분산성(ARCH) 모형으로 이 관찰을 공식화했습니다. 분산을 고정값으로 취급하는 대신, ARCH 모형은 시점 t에서의 조건부 분산이 과거의 수익률 충격 제곱에 의존하도록 허용합니다. 가장 간단한 ARCH(1) 사양은 다음과 같습니다:

h(t) = omega + alpha * epsilon(t-1)^2

여기서 h(t)는 조건부 분산, omega는 기준 분산 수준, epsilon(t-1)은 전 기간의 수익률 충격, alpha는 어제의 충격이 오늘의 분산 추정에 얼마나 강하게 영향을 미치는지를 결정합니다. alpha가 크면 큰 수익률 충격(양 또는 음)이 다음 기간의 추정 분산을 크게 증가시킵니다. alpha가 작으면 모형은 고정 분산에 가까워집니다.

ARCH 모형은 Engle에게 2003년 노벨 경제학상의 공동 수상을 안겨주었습니다. 그러나 원래의 공식화에는 실무적 한계가 있었습니다: 변동성 군집화의 느린 감쇠를 포착하려면 많은 시차 수익률 충격 제곱(고차 ARCH)이 필요했고, 이는 많은 모수를 추정해야 하며 종종 불안정한 추정치를 산출했습니다.

GARCH(1,1)의 돌파구

Bollerslev(1986)는 일반화 ARCH 모형, 즉 GARCH로 이 간결성 문제를 해결했습니다. 핵심 통찰은 시차 조건부 분산 자체를 예측변수로 포함시킨 것입니다:

h(t) = omega + alpha * epsilon(t-1)^2 + beta * h(t-1)

이 단일 방정식, GARCH(1,1)은 수익률 충격의 즉각적 영향(alpha를 통해)과 과거 변동성의 지속성(beta를 통해)을 모두 포착합니다. 모수 beta는 과거 수익률 충격 제곱의 전체 이력에 대한 지수 평활 가중치로 작용하여, 단 세 개의 모수만으로 장기 지속되는 변동성 군집을 생성합니다.

alpha + beta의 합이 지속성 모수입니다. 이 합이 1에 가까우면 변동성에 대한 충격은 천천히 소멸하며, 비조건부 분산 omega / (1 - alpha - beta)는 커집니다. 합이 정확히 1이면 적분 GARCH(IGARCH) 과정이며, 변동성 충격이 완전히 소멸되지 않습니다. 일별 주식 수익률에 대한 실증적 추정은 일반적으로 alpha + beta를 0.97에서 0.995 사이로 산출하며, 이는 매우 높은 지속성을 나타냅니다.

다음 표는 일별 수익률을 사용한 주요 자산군의 일반적인 GARCH(1,1) 모수 추정치를 보여줍니다:

반감기 열은 변동성 충격이 초기 영향의 절반으로 감쇠하는 데 걸리는 일수를 보여주며, ln(0.5) / ln(alpha + beta)로 계산됩니다. 지속성이 높을수록 충격이 더 오래 반향하며, 이는 리스크 관리 기간과 옵션 가격 결정에 중요합니다.

레버리지 효과: 하락이 변동성을 증폭시키는 이유

GARCH(1,1)이 놓치는 현상 중 하나는 양의 수익률과 음의 수익률에 대한 변동성 반응의 비대칭성입니다. 실증적으로 음의 수익률 충격은 동일 크기의 양의 충격보다 후속 변동성을 더 크게 증가시킵니다. 이것이 레버리지 효과이며, Black(1976)이 처음 문서화했습니다. 그는 주가 하락이 기업의 레버리지 비율을 높여 주식을 더 변동성이 크게 만든다고 가설을 제시했습니다.

두 가지 주요 확장 모형이 이 비대칭성을 다룹니다.

Nelson(1991)은 분산 자체가 아닌 분산의 로그를 모형화하는 지수 GARCH(EGARCH) 모형을 제안했습니다:

ln h(t) = omega + alpha * [|z(t-1)| - E|z(t-1)|] + gamma * z(t-1) + beta * ln h(t-1)

여기서 z(t-1)은 표준화된 잔차입니다. 모수 gamma가 비대칭성을 포착합니다: gamma가 음이면 음의 충격이 양의 충격보다 변동성을 더 크게 증가시킵니다. 이 모형은 로그 척도에서 작동하기 때문에 모수 제약 없이도 조건부 분산이 항상 양수임을 자동으로 보장합니다.

Glosten, Jagannathan, Runkle(1993)은 지시 함수를 추가하는 GJR-GARCH 모형을 제안했습니다:

h(t) = omega + (alpha + gamma * I(t-1)) * epsilon(t-1)^2 + beta * h(t-1)

여기서 I(t-1)은 epsilon(t-1)이 음일 때 1이고 그렇지 않으면 0입니다. 모수 gamma는 음의 충격의 추가 변동성 영향을 포착합니다. S&P 500의 경우, 일반적인 추정치는 gamma를 약 0.10에서 0.15로 제시하며, 이는 음의 2% 수익률이 양의 2% 수익률보다 다음 날의 조건부 분산을 대략 50~75% 더 증가시킨다는 것을 의미합니다.

다음 표는 S&P 500 일별 수익률(1990-2024)에 대한 이러한 사양들의 모형 적합도를 비교합니다:

비대칭 모형(EGARCH, GJR-GARCH, TGARCH)은 정보 기준에서 대칭 GARCH를 일관되게 능가합니다. 두 번째 GARCH 시차를 추가하는 것(GARCH(2,1))은 거의 개선을 제공하지 않으며, 이는 추가 시차보다 레버리지 효과가 더 중요하다는 것을 확인해 줍니다.

실무에서의 모수 추정

GARCH 모수는 일반적으로 최대우도법으로 추정됩니다. 표준화된 잔차가 정규분포를 따른다는 가정 하에, T개 관측치 표본의 로그우도 함수는 다음과 같습니다:

L = -0.5 * sum[ln(h(t)) + epsilon(t)^2 / h(t)]

실무에서 금융 수익률은 정규분포보다 두꺼운 꼬리를 나타내므로, Student-t 분포 또는 일반화 오차 분포(GED)가 일반적으로 사용됩니다. 오차 분포의 선택은 추정된 모수와 꼬리 위험 예측의 품질에 영향을 미칩니다.

안정적인 추정을 위한 몇 가지 실무적 고려사항이 중요합니다. 표본 크기는 안정적인 모수 추정치를 얻기 위해 최소 1,000개의 일별 관측치(대략 4년)가 필요합니다. 최적화 루틴은 가능한 경우 분석적 그래디언트를 사용해야 하며, 결과는 국소 최적을 피하기 위해 여러 초기값에 대해 검증해야 합니다. 표준오차는 Bollerslev와 Wooldridge(1992)의 강건(샌드위치) 추정량을 사용하여 계산해야 하며, 이는 오차 분포가 잘못 지정되더라도 유효합니다.

흔한 함정은 구조적 단절을 고려하지 않고 매우 높은 beta 추정치(0.95 이상)를 해석하는 것입니다. 표본이 근본적인 체제 변화(예: 고인플레이션에서 저인플레이션으로의 전환)를 포함하는 기간에 걸쳐 있으면, GARCH 모형은 결과적인 분산 이동을 극단적 지속성으로 귀인시켜 beta를 과대 추정하고 모형의 예측 정확도를 저하시킵니다.

예측 정확도: 실무에서 무엇이 효과적인가

Hansen과 Lunde(2005)는 GARCH 유형 모형의 가장 포괄적인 비교를 수행하여, IBM 주식 수익률과 DM/USD 환율 수익률의 일별 변동성 예측을 위해 330개의 서로 다른 사양을 평가했습니다. 그들의 발견은 놀라울 정도로 명확했습니다:

환율 데이터의 경우, GARCH(1,1)을 유의하게 능가하는 모형은 없었습니다. 주식 데이터의 경우, 비대칭 모형(EGARCH, GJR-GARCH)이 대칭 GARCH에 비해 통계적으로 유의한 개선을 제공했습니다. 레버리지 효과는 음의 수익률-변동성 상관관계가 더 강한 주식 시장에서 통화 시장보다 더 두드러집니다.

다음 표는 GARCH(1,1) 대비 평균제곱오차(MSE)로 측정한 표본 외 예측 정확도를 요약합니다(1.00으로 정규화):

1.00 미만의 값은 GARCH(1,1)보다 나은 예측 정확도를 나타냅니다. 패턴은 일관적입니다: 비대칭 모형은 주식 변동성 예측을 6~7% 개선하고, 채권에서는 미미한 개선을 제공하며, 통화에서는 거의 의미가 없습니다. 더 복잡한 대칭 모형은 거의 도움이 되지 않습니다.

리스크 관리와 옵션 가격 결정에서의 응용

GARCH 모형은 현대 금융에서 두 가지 주요 실무 기능을 수행합니다.

리스크 관리에서 GARCH 기반 VaR(위험 가치)와 기대 손실(ES) 계산은 현재의 변동성 체제에 조건부로 위험 추정치를 조정합니다. 안정 기간에는 GARCH 기반 VaR이 축소되어 동일한 위험 예산 내에서 더 큰 포지션을 허용합니다. 격동 기간에는 확대되어 자동으로 포지션 규모를 줄입니다. 이 조건부 접근법은 무조건부 방법보다 더 정확한 위험 예측을 산출하며, 특히 Basel III와 같은 규제 프레임워크에서 사용하는 1일 및 10일 기간에서 그러합니다.

옵션 가격 결정에서 GARCH 모형은 이산시간 계량경제 모형화와 연속시간 옵션 평가 사이의 격차를 연결합니다. Duan(1995)은 과거 수익률에서 추정한 GARCH 모수를 위험 중립 측도 하의 옵션 가격 결정에 사용할 수 있는 국소 위험 중립 평가 관계(LRNVR)를 개발했습니다. 핵심 통찰은 GARCH가 포착한 변동성 지속성이 내재 변동성의 기간 구조로 변환된다는 것입니다: 높은 지속성(alpha + beta가 1에 가까움)은 더 평탄한 기간 구조를 생성하고, 낮은 지속성은 더 가파른 기간 구조를 생성합니다. 비대칭 GARCH 모형은 추가적으로 내재 변동성 스큐를 생성하여, 시장이 하방 위험을 더 무겁게 가격에 반영하는 경향을 포착합니다.

한계와 현대적 대안

GARCH 모형은 일반적으로 일별인 단일 빈도에서 작동합니다. 집계 없이는 장중 데이터의 정보 내용을 활용할 수 없으며, 집계는 잠재적으로 가치 있는 고빈도 신호를 폐기합니다. 장중 수익률로 구성된 실현 변동성 측정치는 더 정확한 일별 분산 추정치를 제공하며, 여러 기간에서 동시에 예측하는 HAR(이질적 자기회귀) 모형의 입력으로 사용될 수 있습니다.

GARCH 모형은 조건부 분산 방정식에 대한 모수적 구조를 가정하며, 이는 중앙은행 정책 전환이나 지정학적 충격과 같은 갑작스러운 체제 변화에 충분히 빠르게 적응하지 못할 수 있습니다. 체제 전환 GARCH 모형은 추가 모수와 추정 복잡성의 비용으로 서로 다른 시장 상태에서 다른 모수 집합을 허용하여 이를 해결합니다.

LSTM 신경망과 트리 기반 모형을 포함한 머신러닝 접근법은 GARCH의 선형 분산 방정식이 놓치는 비선형 패턴을 포착하여 변동성 예측에 가능성을 보였습니다. 그러나 이러한 모형은 상당히 더 많은 데이터를 필요로 하고, 과적합에 취약하며, GARCH 모형이 규제 보고와 위험 커뮤니케이션에 유용하게 만드는 해석 가능성이 부족합니다.

이러한 한계에도 불구하고 GARCH는 여러 이유로 표준으로 남아 있습니다: 계산이 빠르고, 이론적 근거가 있으며, 해석이 용이하고, 수십 년의 실증적 증거에 의해 잘 뒷받침됩니다. 리스크 관리와 파생상품 가격 결정의 대부분의 실무 응용에서, 잘 추정된 GARCH(1,1) 또는 GJR-GARCH(1,1)은 적절한 출발점으로 남아 있습니다.

실행 가능한 결론

GARCH 계열 모형은 변동성을 고정 모수에서 동적이고 예측 가능한 양으로 변환시켰습니다. 실무자들에게 증거는 명확한 위계를 지지합니다: 간결성과 견고성을 위해 GARCH(1,1)로 시작하고, 레버리지 효과가 중요한 주식 변동성을 모형화할 때 GJR-GARCH 또는 EGARCH로 업그레이드하며, 추가 모수가 예측을 개선한다는 강력한 표본 외 증거가 없는 한 복잡성 추가(고차, 이색 분포 또는 체제 전환)의 유혹을 피해야 합니다. alpha + beta의 합이 가장 중요한 단일 진단 지표입니다; 0.98 이상의 값은 높은 지속성을 나타내며 변동성 체제 전환이 느릴 것임을 시사하고, 0.95 미만의 값은 더 빠른 평균 회귀와 더 짧은 예측 기간을 나타냅니다.