평균회귀 전략: 가격이 되돌아올 때

금융에서 가장 오래된 거래

평균회귀의 직관은 현대 금융 이론보다 수 세기 앞섭니다. 이미 1800년대에 데이비드 리카도는 트레이더들에게 "손실은 짧게 끊고, 이익은 계속 달리게 하라"고 조언했지만, 역추세적 본능 -- 떨어진 것을 사고, 오른 것을 파는 것 -- 은 그보다 훨씬 이전의 상품 시장에서도 기록되어 있습니다. 1637년 튤립 폭락에서 살아남은 네덜란드 트레이더들은 가격이 내재 가치에서 너무 멀리 벗어났음을 인식했기 때문에 그럴 수 있었습니다. 학술 문헌이 이후 공식화한 것은 이 고대의 충동 이면에 있는 통계적 구조입니다: 회귀가 신뢰할 수 있는 조건, 이를 구동하는 메커니즘, 그리고 이론적 수익과 실현 수익을 구분하는 거래 비용입니다.

핵심 요약

평균회귀는 자산 가격, 밸류에이션, 스프레드가 시간이 지남에 따라 장기 평균으로 회귀하는 경험적 경향을 말합니다. 이 개념은 간단해 보이지만, 수익성 있는 평균회귀 전략을 구현하려면 회귀가 발생하는 시간 범위, 이를 감지하는 데 사용되는 통계적 도구, 이론적 수익을 잠식할 수 있는 거래 비용에 세심한 주의가 필요합니다. Poterba와 Summers(1988)에서 Avellaneda와 Lee(2010)에 이르는 학술 문헌은 가격이 언제 왜 되돌아오는지에 대한 풍부한 기반을 제공하지만, 평균회귀가 보편적이거나 보장된 현상이 아님을 경고합니다. 이 글에서는 현대 시장에서 평균회귀 전략을 구축하기 위한 증거, 메커니즘, 실무적 고려사항을 살펴봅니다.

평균회귀란 무엇인가?

평균회귀란 장기 평균에서 벗어난 변수가 이후 기간에 그 평균으로 되돌아가는 경향이 있는 통계적 속성을 말합니다. 금융에서 이 개념은 여러 수준에서 적용됩니다. 개별 주가는 극단적 움직임 이후 되돌아올 수 있습니다. 주가수익비율(P/E)과 같은 밸류에이션 지표는 장기 표준 주위를 오갑니다. 회사채와 국채 간의 수익률 스프레드는 위기 시 확대되었다가 상황이 정상화되면 축소됩니다.

수학적으로 평균회귀의 가장 단순한 모형은 오른스타인-울렌벡(OU) 과정으로, dX(t) = theta * (mu - X(t)) * dt + sigma * dW(t)로 정의되는 연속시간 확률 과정입니다. 여기서 mu는 장기 평균, theta는 회귀 속도(값이 클수록 더 빠르게 복귀), sigma는 변동성, W(t)는 위너 과정입니다. OU 과정은 금리 모형(Vasicek 1977), 상품 가격 결정, 페어 트레이딩 프레임워크에 사용되는 퀀트 금융의 기본 구성 요소입니다.

평균회귀와 정상성을 구별하는 것이 중요합니다. 정상 과정은 시간에 따라 일정한 평균과 분산을 가지는 반면, 평균회귀는 단순히 어떤 중심 값으로 되돌아가는 경향을 의미합니다. 자산 가격 자체는 일반적으로 비정상적(장기간에 걸쳐 상승 추세)이지만, 관련 자산 간의 스프레드, 밸류에이션 비율, 변동성 측정치는 종종 평균회귀 행동을 보입니다.

이 개념은 도박사의 오류와도 다릅니다. 평균회귀는 하락한 주식이 반드시 상승해야 한다는 것을 의미하지 않습니다. 오히려 적정 가치에서의 극단적 이탈이 반전 확률이 통계적으로 높아지는 조건을 만든다는 것을 시사합니다. 이 구별은 미묘하지만 전략 설계에 매우 중요합니다.

장기 시계 증거

장기 평균회귀에 대한 학술적 근거는 Poterba와 Summers(1988)의 획기적인 연구에서 시작됩니다. Journal of Financial Economics에 발표된 이 연구는 1871년부터 1986년까지의 미국 주식 수익률을 조사하고 3년에서 5년 시계에서 유의한 음의 자기상관을 발견했습니다. 쉽게 말하면, 평균 이상의 수익률 기간 뒤에는 평균 이하의 수익률 기간이 따르는 경향이 있었으며, 그 반대도 마찬가지였습니다. 그들의 분산비 검정은 다년 수익률의 분산이 랜덤 워크에서 예상되는 것보다 더 느리게 증가한다는 것을 보여주었는데, 이는 평균회귀 행동의 특징입니다.

Fama와 French(1988)는 같은 해 Journal of Financial Economics에 발표한 연구에서 보완적인 결론에 도달했습니다. 그들은 3년에서 5년 주식 수익률 변동의 25~40%가 초기 배당수익률로 예측 가능하다는 것을 문서화했으며, 이는 가격의 평균회귀 요소와 일치합니다. 배당수익률이 높을 때(배당 대비 가격이 낮을 때), 이후 다년간의 수익률은 평균 이상인 경향이 있었습니다.

그러나 장기 증거에 논란이 없지는 않습니다. Richardson과 Stock(1989)을 포함한 비평가들은 장기 검정이 심각한 소표본 문제를 겪는다고 지적했습니다. 1세기 데이터에서 겹치지 않는 5년 기간은 소수에 불과하므로 통계적 검정력이 제한됩니다. Cochrane(2008)의 더 최근 연구는 예측 가능성 발견이 통계적으로 취약하지만 경제적으로 유의미하며 시변 위험 프리미엄과 일치한다고 주장했습니다.

국제적 증거도 일반적으로 평균회귀 가설을 지지합니다. Balvers, Wu, Gilliland(2000)는 1969년부터 1996년까지 18개 선진국 주식 시장을 조사하고 실질 주가지수에서 통계적으로 유의한 평균회귀를 발견했으며, 반감기는 약 3년에서 3.5년이었습니다. 이는 장기 추세에서의 어떤 이탈의 약 절반이 이 기간 내에 수정된다는 것을 의미합니다.

단기 시계 반전

장기 증거가 수년에 걸쳐 작동하는 반면, 훨씬 더 짧은 시계에서의 평균회귀를 문서화한 별도의, 그리고 아마도 더 실행 가능한 연구 체계가 있습니다. Jegadeesh(1990)는 Journal of Finance에 발표한 영향력 있는 논문에서 월별 주식 수익률이 유의한 음의 자기상관을 보인다는 것을 발견했습니다. 지난 1개월간 성과가 나빴던 주식은 다음 달에 초과 수익을 내는 경향이 있었고, 최근 승자는 저조한 성과를 보이는 경향이 있었습니다.

Lehmann(1990)은 시계를 더욱 단축하여 미국 주식에서 유의한 주간 수익률 반전을 문서화했습니다. 전주의 패자를 매수하고 전주의 승자를 매도하는 포트폴리오는 거래 비용 전 주당 약 1.5%의 경제적으로 큰 수익을 창출했습니다.

핵심 질문은 이러한 단기 반전이 진정한 수익 기회를 나타내는지, 아니면 단순히 유동성 제공에 대한 보상인지입니다. Lo와 MacKinlay(1990)는 단기 반전의 상당 부분이 진정한 기본 가치의 평균회귀가 아니라 매수-매도 호가 바운스와 공통 요인에 대한 지연 조정에 기인할 수 있다고 주장했습니다. Avramov, Chordia, Goyal(2006)은 매수-매도 스프레드와 가격 충격을 포함한 거래 비용을 반영하면 단기 반전 전략의 수익성 대부분이 사라진다는 것을 추가로 입증했으며, 특히 소형주와 유동성이 낮은 주식에서 그러했습니다.

그럼에도 불구하고 최근 연구는 단기 반전 전략의 정교한 구현이 여전히 수익성을 유지할 수 있음을 보여주었습니다. Nagel(2012)은 반전 수익을 유동성 제공 수익과 연결하여, 유동성이 부족한 시장 스트레스 기간에 이러한 수익이 가장 높다는 것을 보여주었습니다. 이 해석은 단기 평균회귀를 공짜 점심이 아니라 격동기에 재고 위험을 감수하는 대가로 프레이밍합니다.

평균회귀 뒤의 메커니즘

가격이 왜 회귀하는지를 이해하는 것은 견고한 전략을 구축하는 데 필수적입니다. 학술 문헌에서 여러 메커니즘이 제안되었으며, 각각 전략 설계에 다른 시사점을 제공합니다.

페어 트레이딩과 통계적 차익거래

페어 트레이딩은 1980년대 중반 모건 스탠리의 Nunzio Tartaglia 퀀트 팀에 의해 처음 체계적으로 개발되었으며, 아마도 평균회귀의 가장 잘 알려진 실무적 응용입니다. 기본 아이디어는 역사적으로 함께 움직여온 두 증권을 식별하고, 가격이 임계값을 넘어 분기할 때까지 기다린 다음, 저성과 종목을 매수하고 초과 성과 종목을 매도하는 것입니다. 두 증권 간의 스프레드가 역사적 표준으로 수렴할 때 수익이 실현됩니다.

Gatev, Goetzmann, Rouwenhorst(2006)는 Review of Financial Studies에 발표한 연구에서 페어 트레이딩에 대한 가장 포괄적인 학술적 분석 중 하나를 제공했습니다. 1962년부터 2002년까지의 미국 주식 데이터를 사용하여, 최소 거리 기반의 단순한 페어 트레이딩 전략(형성 기간 동안 정규화된 가격 계열의 제곱 편차 합이 가장 작은 쌍을 선택)이 1일 거래 지연을 감안한 후 연간 약 11%의 초과 수익률, 약 0.55의 샤프 비율을 생성했다는 것을 발견했습니다.

Avellaneda와 Lee(2010)는 페어 트레이딩 개념을 통계적 차익거래라는 더 넓은 프레임워크로 확장했습니다. Quantitative Finance에 발표된 그들의 접근법은 개별 쌍을 거래하는 대신 주식 수익률을 체계적 요소(섹터 ETF나 주성분으로 설명)와 고유 잔차로 분해했습니다. 그런 다음 고유 잔차를 평균회귀하는 OU 과정으로 모형화하고 이 잔차의 신호를 기반으로 여러 주식을 동시에 거래하는 포트폴리오를 구성했습니다. 1997년부터 2007년까지 미국 주식에 대한 백테스트는 1.0 이상의 연간 샤프 비율을 보여주었으며, 이는 단순한 페어 트레이딩보다 크게 우수한 수준입니다.

그러나 여러 연구가 시간이 지남에 따라 페어 트레이딩의 수익성이 감소하고 있음을 문서화했습니다. Do와 Faff(2010)는 기본적인 Gatev-Goetzmann-Rouwenhorst 페어 트레이딩 전략의 수익이 2002년 이후 실질적으로 감소했음을 보여주었는데, 이는 퀀트 헤지 펀드의 경쟁 증가와 시장 효율성 개선 때문일 가능성이 높습니다. 이러한 수익성 감소는 퀀트 전략의 공통 주제이며, 지속적 혁신의 중요성을 강조합니다.

평균회귀 대 모멘텀

자연스러운 질문은 평균회귀가 최근 승자가 계속 초과 수익을 내고 최근 패자가 계속 저조한 성과를 보이는 경향인 모멘텀과 어떤 관계인지입니다. 그 관계는 단순한 대립보다 더 미묘합니다.

Jegadeesh와 Titman(1993)은 모멘텀이 3~12개월의 중기 시계에서 가장 강하다는 것을 문서화했고, De Bondt와 Thaler(1985)는 3~5년의 장기 시계에서 회귀가 지배적임을 보여주었으며, Jegadeesh(1990)와 Lehmann(1990)은 1주~1개월의 매우 짧은 시계에서 반전을 발견했습니다. 이 패턴은 삼중 체제 구조를 시사합니다.

포트폴리오 구성에 대한 시사점은 모멘텀과 평균회귀 전략이 상호 보완적일 수 있다는 것입니다. 음의 상관관계가 있는 경향이 있으므로(모멘텀은 최근 승자를 매수하고 단기 반전은 이를 매도함), 이를 결합하면 더 안정적인 수익 흐름을 만들 수 있습니다. Asness, Moskowitz, Pedersen(2013)은 여러 자산 클래스에 걸쳐 이 음의 상관관계를 문서화하고 결합 전략이 단독 접근법에 비해 우수한 위험 조정 수익을 제공한다고 주장했습니다.

실무적 구현

평균회귀 전략을 실무에서 구현하려면 이론적 수익성과 실제 손실 사이의 차이를 만들 수 있는 여러 과제를 해결해야 합니다.

첫 번째 과제는 신호 구성입니다. 평균에서의 이탈을 측정하는 방법의 선택이 중요합니다. 단순한 접근법은 롤링 윈도우 기반의 z-점수를 사용합니다(예: 현재 가격에서 60일 이동평균을 빼고 롤링 표준편차로 나눔). 더 정교한 방법은 칼만 필터를 사용하여 평균과 회귀 속도를 동적으로 추정하거나, 공적분 기반 접근법(Engle and Granger 1987)을 사용하여 증권 간의 안정적 장기 관계를 식별합니다. 확장 디키-풀러 검정과 필립스-페론 검정은 스프레드가 정상적인지(평균회귀 거래의 필수 조건) 검정하는 데 일반적으로 사용됩니다.

두 번째 과제는 거래 비용입니다. 평균회귀 전략, 특히 단기 시계의 전략은 빈번하게 거래하는 경향이 있습니다. 모든 거래에는 매수-매도 스프레드, 시장 충격, 수수료, 슬리피지로 인한 비용이 발생합니다. Khandani와 Lo(2007)는 거래 비용의 작은 증가도 고빈도 평균회귀 전략의 수익성을 극적으로 감소시킬 수 있다는 것을 입증했습니다. 성공적인 실무자들은 따라서 스마트 주문 라우팅, 알고리즘 실행, 코로케이션을 포함한 실행 인프라에 많은 투자를 하여 이러한 비용을 최소화합니다.

세 번째 과제는 리스크 관리입니다. 평균회귀 전략은 회귀가 전혀 발생하지 않을 위험을 수반합니다. 역사적 규범을 넘어 확대된 스프레드는 기저의 경제적 관계가 변했다면 계속 확대될 수 있습니다. 이것은 스프레드 분기 위험으로 알려져 있으며, 많은 페어 트레이딩과 통계적 차익거래 전략이 상관관계 붕괴로 심각한 손실을 입은 2007-2008년 금융 위기 때 고통스럽게 예시되었습니다. 포지션 규모 조절, 손절 규칙, 많은 독립적 베팅에 걸친 분산은 필수적 안전장치입니다.

네 번째 과제는 체제 감지입니다. 평균회귀는 횡보하는 안정적 시장에서 잘 작동하지만 추세적이거나 구조적으로 변화하는 환경에서는 처참하게 실패할 수 있습니다. 실무자들은 종종 체제 전환 모형(Hamilton 1989)이나 평균회귀 속도 파라미터의 동적 추정을 사용하여 전략의 공격성을 조정합니다. 추정된 회귀 속도가 임계값 아래로 떨어지면, 포지션 규모를 줄이거나 거래를 완전히 중단하여 자본을 보존할 수 있습니다.

마지막으로, 용량 제약에 주의를 기울여야 합니다. 평균회귀 전략, 특히 주식에서의 전략은 유동성이 낮은 종목을 거래하고 역방향 포지션을 취하는 것을 포함하므로, 가격을 자신에게 불리하게 움직이지 않고 배치할 수 있는 자본에 자연적 한계가 있습니다. Avellaneda와 Lee(2010)는 그들의 통계적 차익거래 수익이 정확히 용량이 가장 제한된 부문인 소형주와 유동성이 낮은 주식에 집중되어 있음을 언급했습니다. 운용자산이 늘어남에 따라 기대 수익은 감소하는 경향이 있으며, 이는 거의 모든 퀀트 전략에 영향을 미치는 알파 감소로 알려진 현상입니다.

시뮬레이션 성과

2005년 1월부터 2025년 12월까지 S&P 500 구성종목에 단순 주식 평균회귀 전략을 적용한 가상의 $100,000 포트폴리오를 고려합니다. 이 전략은 60일 z-점수를 기준으로 주식을 순위 매겨, 하위 십분위(가장 과매도)를 매수하고 상위 십분위(가장 과매수)를 매도하며, 월간 리밸런싱합니다. 각 레그 내 포지션은 동일 가중됩니다.

가정: 월간 리밸런싱, 왕복 거래 비용 20bp, 별도 명시 없는 한 레버리지 없음, S&P 500을 주식 벤치마크로 사용.

이 시뮬레이션에서 몇 가지 패턴이 나타납니다. 전략은 강한 추세 상승장(2013-2016, 2017-2019)에서 벤치마크에 뒤처졌으며, 이는 모멘텀 주도 환경에서 평균회귀가 부적합하다는 학술적 발견과 일치합니다. 2008년 위기 동안 시장 중립 구조가 부분적 보호를 제공하여 벤치마크의 37% 하락 대비 14.8% 손실에 그쳤지만, 상관관계가 급등하고 스프레드가 역사적 범위를 넘어 확대되면서 여전히 손실이 발생했습니다. 2020년 이후 회복기에는 팬데믹으로 인한 가격 이탈이 수익성 있는 회귀 기회를 만들어 상대적 강세를 보였습니다.

이 시뮬레이션은 과거 데이터를 사용하며 실제 거래 결과를 나타내지 않습니다. 실제 구현 시에는 시장 충격, 매수-매도 스프레드, 운영 제약 등 추가 비용이 발생합니다.

증거가 무너질 때

2007년 여름은 현대 시장에서 평균회귀 실패의 가장 극적인 사례를 제공합니다. 2007년 8월 6일부터 10일까지의 한 주 동안, 퀀트 주식 펀드 그룹이 며칠 만에 5~30%의 동시 손실을 경험했습니다. Khandani와 Lo(2011)는 이 "퀀트 지진"을 상세히 기록하며, 손실이 레버리지 주식 시장 중립 포지션의 급격한 청산에서 비롯되었음을 보여주었고, 이 중 다수가 평균회귀 신호에 의존하고 있었습니다. 메커니즘은 강제 디레버리징 연쇄였습니다: 한 대형 펀드(대형 은행의 멀티 전략 데스크로 널리 알려진)가 서브프라임 모기지 익스포저에 대한 마진 콜을 충족하기 위해 주식 포지션을 청산하면서 가격을 일시적으로 펀더멘털 가치에서 밀어냈습니다. 유사한 포지션을 보유한 다른 퀀트 펀드들이 손실을 입어 자체 리스크 한도를 촉발하면서 자기 강화적 하락 나선이 형성되었습니다.

이 에피소드는 평균회귀 전략의 구조적 취약점을 드러냈습니다: 밀집(crowding). 많은 펀드가 유사한 신호로 거래할 때, 그들의 집합적 포지션이 시스템 리스크의 원천이 됩니다. 시장 한 부분의 유동성 충격이 밀집된 전략들의 공유 팩터 익스포저를 통해 전파되어, 모형이 수렴을 예측하는 바로 그 시점에 손실을 유발할 수 있습니다.

2020년 코로나 폭락은 다른 유형의 실패 모드를 보여주었습니다. 2020년 3월, S&P 500이 23거래일 만에 34% 하락하여 기록상 가장 빠른 하락 중 하나였습니다. 주식이 역사적 z-점수 임계값을 돌파하면서 평균회귀 신호는 공격적인 매수 신호를 생성했지만, 가격은 반전하기 전 수 주간 계속 하락했습니다. 일찍 매수한 전략은 회복이 시작되기 전에 심각한 평가 손실을 입었습니다. Nagel과 Zheng(2022)은 이 에피소드를 분석하여, 단기 반전 수익의 핵심 경제적 기능인 유동성 제공이 폭락 초기 단계에서 매수-매도 스프레드가 정상 수준의 배수로 확대되고 시장 심도가 증발하면서 극도로 비용이 높아졌음을 발견했습니다.

2015-2016년 기간은 더 느리지만 동등하게 피해가 큰 실패 모드를 보여줍니다: 체제 변화. 수년간 안정적 공적분을 보여온 에너지 섹터 페어가 셰일 혁명이 경쟁 구도를 재편하면서 영구적으로 붕괴되었습니다. 석유 서비스 페어의 역사적 스프레드 관계에 의존한 트레이더들은 페어를 이루는 기업들 간의 근본적 경제 관계가 영구적으로 변했기 때문에 스프레드가 확대되고 결코 수렴하지 않는 것을 목격했습니다. Israel과 Moskowitz(2013)는 이러한 구조적 단절이 금융 시장의 지속적 특성이며 평균회귀 프레임워크의 축소 불가능한 리스크라고 기록했습니다.

연구 합의가 시사하는 바

학술 문헌은 평균회귀에 관해 여러 점에서 폭넓게 동의합니다. 첫째, 평균회귀 행동은 Poterba와 Summers(1988)에서 Balvers, Wu, Gilliland(2000)를 거쳐 국제 데이터에서 확인된 바와 같이, 다중 시간 범위에서 자산 가격의 진정하고 지속적인 특성입니다. 둘째, Jegadeesh(1990)와 Lehmann(1990)이 기록한 단기 반전 효과는 경제적으로 유의하지만 Nagel(2012)이 입증한 바와 같이 순수한 비효율성이 아닌 유동성 제공에 대한 보상을 주로 나타냅니다.

문헌이 의견을 달리하는 곳은 수익의 원천과 지속 가능성입니다. Gatev, Goetzmann, Rouwenhorst(2006)는 2002년까지 페어 트레이딩의 강한 수익을 보고했지만, Do와 Faff(2010, 2012)는 연구 발표 후 수익성의 유의한 감소를 기록하여, 연구 발표 자체가 경쟁을 가속화했음을 시사합니다. Avellaneda와 Lee(2010)는 더 정교한 통계적 차익거래 방법이 이 잃어버린 수익성의 상당 부분을 회복할 수 있음을 보여주었지만, 그들의 접근법은 대부분의 투자자의 범위를 넘어서는 상당한 인프라와 팩터 모형에 대한 접근을 필요로 했습니다.

Chordia, Goyal, Saretto(2020)가 설명한 성장하는 합의는 현대 시장에서 평균회귀 수익이 우월한 신호 구성보다는 실행 우위 -- 더 낮은 지연시간, 더 나은 데이터, 더 낮은 거래 비용 -- 를 가진 참가자에게 주로 발생한다는 것입니다. 이 발견은 실무적 시사점을 제공합니다: 개인 및 소규모 기관 투자자는 인프라 집약적 사업이 된 단기 통계적 차익거래보다 장기 밸류에이션 기반 평균회귀(다년 시계에서 저평가 시장을 사고 고평가 시장을 파는 것)가 더 접근 가능할 수 있습니다.

실무적 시사점은 평균회귀가 특히 모멘텀 전략의 보완으로서(Asness, Moskowitz, Pedersen 2013) 유효한 포트폴리오 구성 원칙으로 남지만, 구체적 구현은 투자자의 실행 능력, 시간 범위, 용량 제약에 맞게 조정되어야 한다는 것입니다.