고유 변동성 퍼즐: 위험한 주식이 수익률이 낮은 이유

논쟁의 핵심: 개별 기업 고유 리스크에 보상이 주어져야 하는가?

수십 년간 자본자산가격결정모형(CAPM)의 핵심 전제 중 하나는 명확하고 직관적이었습니다. 더 많은 체계적 리스크를 부담하는 투자자는 더 높은 수익을 얻어야 하며, 기업 고유(고유변동성) 리스크는 분산투자를 통해 제거할 수 있으므로 어떠한 리스크 프리미엄도 수반하지 않아야 합니다. 그러나 Merton (1987)에 뿌리를 둔 반대 견해에 따르면, 불완전한 정보와 충분히 분산되지 않은 포트폴리오로 인해 고유변동성 리스크도 실질적으로 중요하며 양(+)의 보상이 주어져야 합니다. 이 두 가지 입장은 실증 자산가격결정 분야에서 가장 첨예한 논쟁 중 하나를 구성합니다. 2006년, Ang, Hodrick, Xing, Zhang은 데이터를 통해 이 논쟁에 답을 제시했으나, 그 결과는 어느 쪽도 예상하지 못한 것이었습니다. 고유 변동성이 가장 높은 주식은 더 높은 수익을 올리기는커녕 현저히 낮은 수익을 기록했습니다.

그들의 논문 "The Cross-Section of Volatility and Expected Returns"는 The Journal of Finance에 게재되었으며, 고유변동성이 가장 높은 미국 주식 포트폴리오가 가장 낮은 5분위 대비 월평균 약 1.06% 저조한 성과를 보였다는 사실을 밝혔습니다. 이는 미미한 통계적 잡음이 아니었습니다. Fama-French 팩터, 모멘텀, 유동성 및 기타 알려진 수익률 예측 변수를 통제한 후에도 지속되는 경제적으로 매우 큰 격차였습니다. 이 발견은 CAPM(관계가 없다고 예측)과 Merton의 불완전정보 모형(양의 관계를 예측) 모두에 직접적인 도전을 제기했습니다.

퍼즐의 측정 방법

Ang, Hodrick, Xing, Zhang (2006)은 일별 주식 수익률에 대한 Fama-French 3팩터 회귀분석의 잔차를 이용하여 고유변동성을 추정했습니다. 각 주식에 대해 매월, 전월의 일별 데이터를 사용하여 3팩터 모형을 적합시키고 설명되지 않는 수익률의 표준편차를 산출했습니다. 이 측정치는 시장, 규모, 가치 노출로 설명할 수 없는 주식의 일일 변동 부분을 포착합니다.

이후 주식들은 전월의 고유변동성을 기준으로 5분위 포트폴리오로 분류되었고, 다음 달의 동일가중 수익률이 추적되었습니다. 그 결과는 단조롭게 하락하는 패턴을 보였습니다.

최저 IVOL 5분위와 최고 IVOL 5분위 간의 격차는 규모뿐만 아니라 일관성 면에서도 두드러졌습니다. Fama-French 3팩터 모형, Carhart 4팩터 모형, 그리고 단기 반전, 유동성, 거래량에 대한 추가 통제를 거친 후에도 이 격차는 유지되었습니다. 고IVOL 5분위의 Fama-French 알파는 크게 음(-)의 값을 나타냈습니다.

저자들은 이러한 결과가 초소형주, 페니 주식 또는 극단적 이상치에 의해 좌우되지 않았음을 확인했습니다. 가장 작은 규모 10분위를 제외하거나, 시가총액 가중방식을 적용하거나, 가장 극단적인 관측치를 제거하더라도 핵심 발견은 유지되었습니다. 높은 고유변동성은 이후 낮은 수익률과 관련되어 있었습니다.

국제적 확인

미국 시장만을 대상으로 한 이상현상에 대한 자연스러운 반론은 데이터 마이닝이나 미국 시장 구조의 특수성을 반영할 수 있다는 것입니다. Ang, Hodrick, Xing, Zhang은 23개 선진국 주식 시장으로 분석을 확장한 2009년 후속 논문에서 이 문제를 직접 다루었습니다. 일본과 호주에서부터 영국과 유럽 대륙에 이르기까지, 검토한 모든 지역에서 고유변동성과 이후 수익률 간의 관계는 음(-)의 방향이었습니다. 그 크기는 다양했지만 방향은 일관되었습니다. 저IVOL 주식을 매수하고 고IVOL 주식을 매도하는 글로벌 포트폴리오는 지역에 관계없이 안정적인 양(+)의 수익을 창출했습니다.

이러한 국제적 재현은 미국 특유의 제도적 특성, 데이터 구성의 결함, 또는 표본 기간의 우연에 의존하는 설명에 대한 입증 부담을 크게 높였습니다.

경쟁하는 설명들: 분열된 학계

원래 논문 이후 20년간 이 퍼즐을 설명하려는 풍부하고 때로는 상충되는 문헌이 축적되었습니다. 그 설명들은 크게 세 가지 범주로 나뉩니다.

측정 방법 논쟁

Fu (2009)는 Ang 등이 전향적(기대) 고유변동성의 대리변수로 후향적(실현) 고유변동성을 사용했다고 주장하며 영향력 있는 반론을 제기했습니다. Fu가 변동성 군집현상을 고려하는 EGARCH 모형을 사용하여 기대 IVOL을 추정하자, 음의 관계는 반전되었습니다. 높은 기대 IVOL은 Merton의 이론과 일치하는 방향으로 더 높은 수익률과 연관되었습니다. Fu의 해석에 따르면, Ang 등의 결과는 단기 수익률 반전 효과를 반영하는 것이었습니다. 최근 고유변동성의 급등을 경험한 주식(따라서 높은 실현 IVOL을 가진 주식)은 다음 달에 평균회귀하는 경향이 있기 때문입니다.

Bali와 Cakici (2008)는 다른 방법론적 비판을 제시하며, IVOL 퍼즐이 포트폴리오 구성 방식에 민감하다는 것을 보여주었습니다. 시가총액 가중방식을 적용하면, 특정 하위 표본에서 음의 IVOL-수익률 관계가 약화되거나 사라졌으며, 이는 동일가중방식이 경제적 중요성을 과장하는 소형, 비유동성 주식에 효과가 집중되어 있음을 시사했습니다.

이러한 방법론적 이의는 심각하지만 완전히 결정적이지는 않습니다. Hou와 Loh (2016)는 IVOL 퍼즐에 대해 제안된 12개 이상의 설명을 종합적으로 평가했으며, 어떤 단일 설명도 이상 스프레드의 약 40% 이상을 설명하지 못한다는 것을 발견했습니다. 측정 방법에 대한 비판은 현상의 일부를 설명하지만 전부를 설명하지는 못합니다.

행동적, 구조적 설명

두 번째 부류의 설명은 이 퍼즐을 투자자 행동과 시장 구조에 귀인합니다. 이 중 가장 영향력 있는 것은 Stambaugh, Yu, Yuan (2015)이 제안한 "차익거래 비대칭성"입니다. 그들의 논증은 두 단계로 진행됩니다. 첫째, 고IVOL 주식은 소형이고, 유동성이 낮으며, 차입 비용이 높은 경향이 있어 공매도가 더 어렵고 비용이 많이 듭니다. 둘째, 공매도가 제약될 때 과대평가된 주식은 저평가된 주식보다 더 오래 과대평가 상태를 유지합니다. 저평가된 주식을 매수하는 데에는 이에 상응하는 장벽이 없기 때문입니다.

이는 고IVOL 주식 풀에 과대평가된 종목이 불균형적으로 많이 포함되어 있음을 의미합니다. 이러한 과대평가 주식들은 고IVOL 5분위의 평균 수익률을 끌어내립니다. 음의 IVOL-수익률 관계는 리스크에 대한 보상이 전혀 아닙니다. 이는 시장에서 가장 변동성이 높은 구간에서 교정되지 않은 과대평가의 흔적입니다.

Stambaugh 등은 IVOL 효과를 과대평가 및 저평가 구성요소로 분해하여 이를 검증했습니다. 11개 이상현상 신호를 사용하여 과대평가로 분류된 주식 중에서 높은 IVOL은 낮은 수익률을 강하게 예측했습니다. 저평가된 주식 중에서는 높은 IVOL이 Merton의 이론이 시사하는 바와 정확히 일치하는 방향으로 더 높은 수익률을 예측했습니다. 음의 평균적 관계는 과대평가 효과가 지배적이었기 때문에 발생했습니다.

이 설명은 더 넓은 저변동성 이상현상과 직접적으로 연결됩니다. 저변동성 이상현상은 안정적인 주식이 위험조정 기준으로 변동성이 높은 주식을 능가한다는 것을 보여줍니다. Stambaugh 등의 프레임워크에 따르면, 두 현상은 공통된 뿌리를 공유합니다. 바로 시장이 과대평가를 교정하는 능력과 저평가를 교정하는 능력 간의 비대칭성입니다.

복권형 수요와 투기적 선호

세 번째 연구 흐름은 복권형 수익구조에 대한 투자자 선호의 역할을 강조합니다. 고유변동성이 높은 주식은 양의 왜도를 가진 수익률 분포를 나타내는 경향이 있습니다. 즉, 간헐적으로 극적인 수익을 창출합니다. 행동재무학의 전망이론 및 누적전망이론 문헌에서 기록된 바와 같이, 일부 투자자가 극단적 상승 가능성에 기꺼이 과도한 대가를 지불한다면, 복권형 주식은 지속적으로 내재가치 이상으로 거래될 것입니다. 그 결과로 발생하는 과대평가는 기대수익률을 낮추게 됩니다.

Bali, Cakici, Whitelaw (2011)는 MAX라는 변수를 구성하여 이 경로를 공식화했습니다. MAX는 전월의 최대 일일 수익률로 정의됩니다. 그들은 MAX가 IVOL 퍼즐의 상당 부분을 흡수한다는 것을 보여주었습니다. 높은 IVOL 주식이 낮은 수익을 올린 것은 주로 높은 MAX 값도 함께 가지고 있었기 때문이며, 극단적 수익 주식에 대한 복권형 수요가 과대평가를 유발한 것이었습니다.

Hou와 Loh가 모든 것을 검증했을 때의 발견

Hou와 Loh (2016)는 현재까지 이 퍼즐에 대한 가장 체계적인 해결을 시도했습니다. 그들은 다음에 기반한 설명들을 평가했습니다: (1) 기대 대 실현 IVOL 측정, (2) 수익률 반전, (3) 공매도 제약, (4) MAX/복권형 수요, (5) 시장 미시구조 잡음, (6) 이익 서프라이즈, (7) 레버리지 효과, 그리고 기타 여러 경로입니다.

그들의 결론은 냉정한 것이었습니다. 어떤 단일 설명도 IVOL 효과의 30-40% 이상을 설명하지 못했습니다. 가장 큰 개별 기여를 한 것은 복권형 수요(MAX) 경로와 공매도 제약 경로였습니다. 몇 가지 설명을 결합하면 퍼즐의 약 60-80%를 총괄적으로 설명할 수 있었지만, 설명되지 않는 잔여분이 남아 있었습니다. 그들의 평가에 따르면, 고유변동성 퍼즐은 부분적으로 풀렸지만 완전히 해결되지는 않았습니다.

팩터 기반 투자에 대한 시사점

IVOL 퍼즐은 팩터 포트폴리오를 구성하거나 평가하는 모든 투자자에게 구체적인 시사점을 제공합니다. 첫째, 전통적인 베타 대비 투자(betting-against-beta) 프레임워크를 넘어 저변동성 전략에 대한 추가적 근거를 제공합니다. 고IVOL 주식을 제외하면 경제적 메커니즘과 관계없이 역사적으로 크게 음의 알파를 기록해 온 시장의 일부를 제거할 수 있습니다.

둘째, 이 퍼즐은 다른 팩터들과 중요한 방식으로 상호작용합니다. 고IVOL 주식은 소형이고, 수익성이 낮으며, 높은 투자 비율을 가지는 경향이 있어, Fama-French 5팩터 모형에서 식별된 여러 음의 수익률 특성의 교차점에 위치합니다. 퀄리티, 수익성 또는 보수적 투자 방향으로 틸트하는 투자자는 암묵적으로 고IVOL 주식을 회피하고 있는 것입니다.

셋째, 차익거래 비대칭성 설명은 투자자가 팩터 백테스트 결과를 어떻게 해석해야 하는지에 대한 시사점을 제공합니다. Stambaugh 등이 보여주듯이, 고IVOL 매도 포지션이 팩터 수익의 상당 부분을 차지한다면, 매수 전용 팩터 투자자는 과대평가되고 변동성이 높은 주식을 회피함으로써 얻는 프리미엄의 일부를 체계적으로 놓치고 있는 것입니다. 따라서 IVOL 퍼즐은 더 넓은 교훈을 강화합니다. 이론적 팩터 프리미엄과 실제 구현 가능한 수익 간의 격차는 실재하며 지속적입니다.

논쟁의 현재 위치

Ang, Hodrick, Xing, Zhang이 원래 발견을 발표한 지 20년이 지난 현재, 학계는 부분적 합의에 수렴하고 있습니다. IVOL 퍼즐은 실재하며 견고합니다. 미국 데이터, 국제 데이터, 그리고 다양한 표본 기간에 걸쳐 나타납니다. 어떤 단일 메커니즘으로도 완전히 설명되지 않지만, 차익거래 비대칭성(공매도 제약으로 인해 교정할 수 없는 과대평가), 복권형 수요(투기적 투자자가 왜도가 높은 수익에 과도한 대가를 지불), 그리고 방법론적 미묘함(실현 IVOL과 기대 IVOL의 구분)의 조합이 효과의 대부분을 설명합니다.

진정으로 미해결된 것은 퍼즐의 잔여 부분이 진정한 음의 리스크 프리미엄을 반영하는지 여부입니다. 이는 표준 자산가격결정 이론에 매우 불편한 가능성입니다. 만약 투자자가 고유 리스크를 보유하는 것에 대해 어떤 식으로든 불이익을 받는다면, 체계적 리스크와 분산 가능한 리스크를 구분하는 전체 프레임워크가 수정되어야 할 것입니다. 대부분의 연구자들은 이를 가능성이 낮다고 보지만, 완전히 배제하지는 못하고 있습니다.

실무자에게 있어 운용상의 결론은 이론적 결론보다 명확합니다. 고유변동성이 높은 주식은 평균적으로 좋지 않은 투자였으며, 근본 원인에 대한 학술적 논쟁이 계속되더라도 포트폴리오 구성과 리스크 관리에서 고려할 만큼 충분히 강력한 증거가 존재합니다.

참고문헌