Priya Sharma, 행동 금융 및 리스크 애널리스트
검토자 Sam · 최종 검토 2026-04-12

차익거래의 한계: 시장 가격 왜곡이 무기한 지속될 수 있는 이유

2026-04-12 · 16 min

Shleifer와 Vishny의 1997년 논문은 합리적 차익거래자가 가격 왜곡을 신속하게 제거할 것이라는 가정을 뒤집었습니다. 전문 자금운용자가 최근 성과에 따라 유출입하는 외부 자본에 의존하는 메커니즘을 모델링하여, 차익거래 자본이 가격 왜곡이 가장 심한 시점에 오히려 이탈한다는 점을 보여주었습니다. 이 글에서는 LTCM에서 2008년 위기까지의 실제 사례를 통해 이론을 추적하고, 비효율적 시장에서 투자자에게 주는 시사점을 살펴봅니다.

차익거래Market EfficiencyNoise TradersInstitutional Constraints행동재무학Mispricing
출처: Shleifer and Vishny (1997)

개인 투자자를 위한 실용적 활용

역발상 또는 가치 투자 포지션을 평가할 때, 펀더멘털 분석뿐만 아니라 보유 기간 위험도 함께 평가하십시오. 가격 왜곡이 교정되기 전에 악화될 경우 얼마나 오래 포지션을 유지할 수 있습니까? 마진 콜이나 심리적 항복이 최대 기회 시점에서 강제 청산으로 이어지지 않도록 충분히 보수적으로 포지션 규모를 설정하십시오.

편집자 노트

메가캡 기술주에 대한 집중 투자와 레버리지 ETF의 확산으로 2026년 시장 취약성에 대한 의문이 제기되는 가운데, 스트레스 상황에서 차익거래 자본이 어떻게 행동하는지를 설명하는 Shleifer-Vishny 프레임워크의 실무적 관련성이 그 어느 때보다 높습니다.

옳은 트레이드가 손실을 낸 이유

Market inefficiency and arbitrage constraints

1998년 봄, Long-Term Capital Management(LTCM)은 역사상 가장 광범위하게 분산된 수렴 포트폴리오를 보유하고 있었습니다. 국채, 주식 변동성, 스왑 스프레드, 모기지담보증권에 이르기까지 수십 개국에 걸친 포지션을 운용하고 있었습니다. 펀드 운용진에는 전 연방준비제도 부의장과 훗날 노벨 경제학상을 수상하게 되는 두 명의 학자가 포함되어 있었습니다. 트레이드 자체는 교과서적 차익거래였습니다. 저평가된 증권을 매수하고, 고평가된 증권을 매도한 뒤, 가격 차이가 좁혀지기를 기다리는 것이었습니다.

1998년 9월까지 LTCM은 46억 달러의 손실을 기록했습니다. 펀더멘털 분석이 틀렸기 때문이 아니었습니다. 대부분의 수렴 베팅은 결국 올바른 것으로 판명되었습니다. 그러나 가격 괴리가 교정되기 전에 자본이 바닥났습니다. 러시아가 채무불이행을 선언하고 글로벌 시장이 경색되면서, 좁혀져야 할 스프레드가 오히려 전례 없는 수준으로 확대되었습니다. 거래 상대방은 추가 담보를 요구했습니다. 투자자들은 공황 상태에 빠졌습니다. 마진콜에 대응하기 위해 포지션을 청산하는 행위 자체가 가격을 더욱 불리한 방향으로 밀어냈고, 원래 포지션이 활용하고자 했던 가격 괴리를 더 확대시켰습니다.

그로부터 1년 전, Andrei Shleifer와 Robert Vishny는 이러한 사태가 왜 발생할 수 있는지를 정확히 설명하는 논문을 발표했습니다. Journal of Finance에 게재된 1997년 논문 "The Limits of Arbitrage"는 금융경제학의 근본적 가정을 해체했습니다. 무한한 자본과 무한한 인내심을 가진 합리적 차익거래자가 공정가치로부터의 모든 이탈을 신속하게 교정할 것이라는 가정이었습니다. Shleifer와 Vishny는 가격 괴리를 제거할 수 있는 최적의 위치에 있는 사람들이 실제로는 그렇게 하지 못하게 하는 제약 조건하에서 운용하고 있으며, 이러한 제약이 가장 최악의 순간에 가장 강하게 작용한다고 주장했습니다.

효율적 시장 가설과 그 약점

효율적 시장 가설은 설득력 있는 논리 체계에 기반하고 있습니다. 증권이 펀더멘털 가치 이하로 거래되면 차익거래자가 매수할 것입니다. 매수 압력이 가격을 공정가치로 되돌릴 것입니다. 균형 상태에서는 이익 동기가 가격 괴리를 거의 즉시 교정하므로 지속적인 가격 괴리는 존재할 수 없습니다.

Shleifer와 Vishny는 이 논리의 결정적 허점을 포착했습니다. 이 주장은 차익거래자가 제약을 받지 않는다고 가정합니다. 무한한 자본을 투입할 수 있고, 포지션을 무기한 유지할 수 있으며, 외부 평가의 대상이 되지 않는다는 것입니다. 현실에서는 이러한 가정 중 어느 것도 성립하지 않습니다. 실제 금융시장에서 대부분의 차익거래 자본은 전문가, 즉 헤지펀드 매니저, 자기매매 트레이딩 데스크, 전문 펀드 매니저가 관리하며, 이들은 타인의 자금을 운용합니다. 그리고 자금 제공자는 최근 수익률을 기준으로 운용자를 평가합니다.

이 관찰은 한 번 제시되면 자명해 보이지만, 급진적인 함의를 지닙니다.

Shleifer-Vishny 모형: 자본 흐름이 교정을 저해하는 메커니즘

Shleifer-Vishny 프레임워크의 핵심 메커니즘은 세 단계로 설명할 수 있습니다.

첫째, 전문 차익거래자가 가격 괴리를 식별하고 이에 대한 포지션을 구축합니다. 저평가된 증권을 매수하거나, 고평가된 증권을 공매도하거나, 가격 차이가 좁혀지면 수익을 내는 상대가치 트레이드를 구성할 수 있습니다.

둘째, 가격 괴리가 교정되는 대신 일시적으로 악화됩니다. 이는 다양한 원인으로 발생할 수 있습니다. 노이즈 트레이더의 심리 변화, 다른 위기 상황의 투자자에 의한 상관된 매도, 또는 포지션의 펀더멘털 가치와 무관한 거시경제적 충격 등이 그 원인입니다.

셋째, 차익거래자의 투자자가 단기 손실을 관찰합니다. 판단이 틀린 운용자와 시기가 이른 운용자를 구별할 수 없기 때문에 자본을 회수합니다. 차익거래자는 포지션을 축소해야 합니다. 약세장에서 매도하고, 상승한 가격에 공매도를 청산하는 것이며, 이는 정확히 트레이드의 기대수익률이 최대인 시점에 발생합니다.

그 결과가 Shleifer와 Vishny가 성과기반 차익거래라고 명명한 현상입니다. 교정적 트레이딩에 대한 자본 배분이 가격 괴리의 크기에 대한 감소함수가 되는 시스템입니다. 가격 괴리가 심해질수록, 이를 교정하기 위한 자본은 줄어듭니다.

이 메커니즘은 설계가 부실한 펀드의 특이한 현상이 아닙니다. 위임 포트폴리오 관리에서의 근본적인 대리인 문제를 반영합니다. 투자자는 차익거래자 포지션의 질을 완벽하게 관찰할 수 없습니다. 손실을 확인했을 때, 정보 열위에 놓인 투자자의 합리적 대응은 익스포저를 줄이는 것입니다. 개별 투자자 관점에서 손실 후 회수는 신중한 결정입니다. 그러나 이러한 개별적으로 합리적인 결정이 집합적으로는 비합리적 결과를 낳습니다. 교정적 자본이 가장 필요한 순간에 증발하는 것입니다.

노이즈 트레이더 리스크: 증폭기

Shleifer와 Vishny의 모형은 De Long, Shleifer, Summers, Waldmann (1990)의 선행 이론 연구를 토대로 구축되었습니다. 이들은 노이즈 트레이더 리스크의 개념을 공식화했습니다. 이 프레임워크에서 시장에는 두 유형의 참여자가 존재합니다. 펀더멘털에 기반하여 거래하는 합리적 차익거래자와, 심리, 모멘텀 신호, 또는 잘못된 믿음에 따라 거래하는 노이즈 트레이더입니다.

핵심 통찰은 노이즈 트레이더가 효율적 시장에서 단순한 잡음의 원천이 아니라는 것입니다. 이들의 집단적 행동은 차익거래자에게 실질적 위험을 만들어 냅니다. 심리에 의한 매도가 주가를 공정가치 이하로 밀어낸다면, 매수하는 합리적 차익거래자는 가격이 결국 회복되면 수익을 올릴 것입니다. 그러나 "결국"이라는 말이 핵심입니다. 수렴하기 전에 노이즈 트레이더가 더욱 비관적으로 변하여 가격을 더 하락시킬 수 있습니다. 1년의 투자 기간을 가진 차익거래자는 5년 기대수익률이 매우 높더라도, 회복 전에 30%의 손실을 기록하는 포지션을 유지할 여력이 없습니다.

노이즈 트레이더 리스크는 펀더멘털 리스크와 구별됩니다. 고평가된 주식을 공매도하는 차익거래자는 펀더멘털 리스크에 직면합니다. 해당 기업의 실제 가치가 추정보다 높을 수 있기 때문입니다. 노이즈 트레이더 리스크는 펀더멘털 분석이 명확히 옳은 경우에도 작용합니다. 차익거래자가 가치 판단에서 틀릴 위험이 아닙니다. 비합리적 참여자가 가격이 올바른 수준에 도달하기 전에 더욱 잘못된 방향으로 밀어낼 위험입니다.

실증적 증거: 이론에서 시장 관찰로

Shleifer-Vishny 프레임워크는 추상적 우아함이 아니라, 기존 효율적 시장 프레임워크로는 설명할 수 없었던 현실 세계의 현상을 설명하는 능력을 통해 신뢰를 얻었습니다.

Pontiff (1996)는 폐쇄형 펀드를 활용하여 초기 실증적 근거를 제시했습니다. 이러한 펀드는 거래소에서 순자산가치와 빈번하게 괴리되는 가격으로 거래됩니다. 마찰이 없는 시장에서 차익거래자는 할인된 펀드를 매수하고 기초 포트폴리오를 공매도하여 할인율을 영으로 만들 것입니다. Pontiff는 차익거래 비용, 구체적으로 자산 대비 펀드의 고유변동성이 높을수록 폐쇄형 펀드의 할인율이 더 크고 지속적이라는 것을 보여주었습니다. 즉, 차익거래가 어려울수록 가격 괴리가 더 커졌습니다.

Pontiff (2006)는 이 논리를 보다 광범위한 이상현상(anomaly) 문헌으로 확장했습니다. 시장 효율성을 위배하는 것처럼 보이는 예측 가능한 수익 패턴인 주요 수익률 이상현상이 고유변동성이 높은 주식에서 가장 큰 수익을 창출한다는 것을 입증했습니다. 이 발견은 차익거래의 한계 프레임워크의 예측과 정확히 일치합니다. 차익거래가 가장 비용이 크고 위험한 곳에서 가격 괴리가 지속된다는 것입니다. 이상현상 수익률이 가격 괴리가 아닌 위험 보상에 의해 구동된다면, 차익거래가 어려운 증권에 집중될 이유가 없습니다.

Mitchell, Pulvino, Stafford (2002)는 일물일가의 법칙에 대한 특히 두드러진 위반 사례를 기록했습니다. 기술 버블 기간 중 여러 기업의 주가가 비인터넷 자회사의 가치를 음(-)으로 내포하는 수준에서 거래되었습니다. 가장 유명한 사례로, Palm IPO 이후 3Com의 시가총액에서 Palm 지분 가치를 차감하면 3Com의 나머지 사업부 가치가 마이너스 220억 달러로 산출되었습니다. 이는 정교한 모형이 필요한 미묘한 가격 괴리가 아니었습니다. 계산기만 있으면 누구나 확인할 수 있는 산술적 모순이었습니다. 그럼에도 공매도 제약이 차익거래자가 교정에 필요한 포지션을 구축하는 것을 막았기 때문에 수개월간 지속되었습니다.

차익거래 한계 에피소드의 구조

LTCM 붕괴는 Shleifer-Vishny 메커니즘을 압축된 형태로 보여주는 사례이지만, 이 패턴은 여러 에피소드에서 반복되었습니다.

2007-2008년 금융위기 동안 퀀트 주식 헤지펀드도 유사한 역학을 경험했습니다. 2007년 8월, 수십억 달러 규모의 여러 퀀트 펀드가 며칠 사이에 갑작스럽고 상관된 손실을 입었습니다. 손실은 가장 밀집된 팩터 포지션에 집중되었습니다. 한 펀드가 레버리지를 축소하기 시작하자, 매도 압력이 다른 펀드와 공유하는 포지션에 영향을 미쳤고, 이는 업계 전반에 걸친 추가 레버리지 축소를 강제하는 손실을 발생시켰습니다. Liu와 Longstaff (2004)는 교과서적 차익거래 기회조차도 수렴이 일어나기 전에 차익거래자를 파산시킬 만큼 큰 중간 손실을 발생시킬 수 있다는 것을 이론적으로 보여주었습니다.

이 패턴은 에피소드마다 일관된 구조를 보입니다.

외부 충격(러시아 채무불이행, 서브프라임 손실, 팬데믹)이 차익거래 포지션에 초기 손실을 유발합니다. 차익거래 펀드의 투자자가 손실을 관찰하고 자본 환매를 시작합니다. 펀드 매니저가 환매에 대응하기 위해 포지션을 매도하면서 추가 매도 압력이 발생합니다. 매도 압력은 포지션이 활용하고자 했던 바로 그 가격 괴리를 확대합니다. 확대된 가격 괴리는 추가 손실을 발생시키고, 이는 더 많은 환매를 유발합니다.

성과, 자본 흐름, 시장 가격 간의 이 피드백 루프가 Shleifer-Vishny 모형의 핵심 예측입니다. 안정화 세력이어야 할 차익거래를 증폭 세력으로 변환시킵니다.

자금 조달과 레버리지의 역할

원래 Shleifer-Vishny 모형은 투자자-운용자 관계에 초점을 맞추었습니다. 후속 연구는 이들의 통찰을 자금시장 역학과 통합하여 차익거래 제약이 작동하는 방식에 대한 더 풍부한 그림을 제시했습니다.

Gromb과 Vayanos (2010)는 차익거래의 한계에 관한 이론적 문헌을 조사하고 여러 범주의 제약을 식별했습니다. 펀더멘털 리스크(진정한 가치에 대한 불확실성), 노이즈 트레이더 리스크(심리에 의한 가격 변동), 거래비용, 공매도 제약, 자금 유동성 제약(포지션 자금 조달을 위한 차입의 어려움), 그리고 Shleifer와 Vishny가 원래 강조한 대리인 문제 등입니다.

이러한 제약은 비선형적으로 상호작용합니다. 레버리지를 사용하는 펀드는 투자자로부터의 성과기반 자본 리스크와 프라임 브로커로부터의 마진기반 자본 리스크를 동시에 직면합니다. 시장 스트레스 기간에는 두 채널이 동시에 긴축됩니다. 투자자는 과거 성과가 악화되었기 때문에 환매합니다. 브로커는 자산 변동성이 증가했기 때문에 증거금 요건을 높입니다. 펀드는 어느 한 제약만으로는 발생하지 않을 양면 압박에 직면하게 됩니다.

시장 효율성에 대한 함의

차익거래의 한계 프레임워크는 시장이 전적으로 비효율적이라고 주장하지 않습니다. 보다 정확한 진술을 제공합니다. 시장은 자본이 충분하고, 인내심 있으며, 제약이 없는 투자자가 참여하는 정도까지 효율적입니다. 그러한 투자자가 지배적인 시장에서는 가격 괴리가 작고 단기적일 것입니다. 차익거래 자본이 부족하거나, 제약받거나, 변동적인 시장에서는 가격 괴리가 장기간 지속될 수 있습니다.

이 관점은 실증 문헌의 명백한 역설을 해소합니다. 가치, 모멘텀, 다양한 회계 기반 신호를 포함한 많은 이상현상이 수십 년간 기록되어 왔습니다. 엄격한 효율적 시장 가설하에서 이러한 패턴은 발표 후 투자자가 이를 활용할 수 있게 되면 사라져야 합니다. McLean과 Pontiff (2016)는 이상현상 수익률이 발표 후 감소하지만 완전히 사라지지는 않는다는 것을 발견했습니다. 이러한 부분적 감소는 차익거래의 한계와 일관됩니다. 발표는 일부 교정적 자본을 유입시키지만, 이상현상이 가장 집중되어 있는 차익거래가 어려운 시장 부문에서 가격 괴리를 완전히 제거하기에는 충분하지 않습니다.

이 프레임워크는 또한 이상현상 강도의 횡단면적 변이를 설명합니다. 차익거래가 어려운 증권, 즉 유동성이 낮은 소형주, 공매도 차입비용이 높은 주식, 고유변동성이 높아 포지션 유지가 위험한 주식에서 가격 괴리가 더 크고 지속적이어야 합니다. 실증적 증거는 이러한 예측을 대체로 확인해 줍니다.

포트폴리오 구성에 대한 시사점

개인 투자자와 기관 배분자에게 차익거래의 한계 프레임워크는 몇 가지 실용적 교훈을 제공합니다.

첫 번째는 포지션 규모와 투자 기간에 관한 것입니다. 밸류에이션에 대한 올바른 견해도 상당한 중간 손실을 발생시킬 수 있습니다. 포지션 규모는 기대수익률이 아니라, 투자자가 강제 청산 없이 감내할 수 있는 최대 낙폭에 맞추어 조정해야 합니다. 핵심 질문은 트레이드가 성공할 것인가뿐만 아니라, 수익 실현까지의 경로를 생존할 수 있는가입니다.

두 번째는 유동성과 레버리지에 관한 것입니다. Shleifer-Vishny 메커니즘은 레버리지를 사용하면서 비유동적인 투자자에게 가장 파괴적입니다. 가격 괴리가 있는 증권에 대한 완전 자기자본 포지션은 노이즈 트레이더 리스크를 수반하지만 강제 청산 리스크는 수반하지 않습니다. 가격 괴리가 확대될 때 포지션을 축소하도록 강제받는 것이 아니라 오히려 추가할 수 있는 투자자는 구조적 우위를 보유합니다.

세 번째는 팩터 전략 수익의 원천에 관한 것입니다. 많은 팩터 프리미엄이 부분적으로 차익거래의 한계 때문에 지속될 수 있습니다. 예를 들어 가치 프리미엄은 회복하기까지 수년간 저조한 성과를 보일 수 있는 비인기 주식을 매수해야 합니다. 이러한 포지션 유지에 따르는 보유비용, 평판 리스크, 커리어 리스크가 전문 운용자를 억제하여 프리미엄이 지속됩니다. 기부금이나 인내심 있는 개인 투자자처럼 긴 투자 기간과 대리인 문제가 없는 투자자가 이러한 프리미엄을 포착하기에 더 유리한 위치에 있는 것은, 정확히 차익거래의 한계에 덜 직면하기 때문입니다.

미해결 질문

차익거래의 한계 문헌 내에서 몇 가지 미해결 논쟁이 남아 있습니다. 하나는 이상현상 수익률에 대한 위험기반 설명과 가격괴리기반 설명 간의 구별에 관한 것입니다. 차익거래의 한계는 가격 괴리가 왜 지속되는지를 설명하지만, 특정 수익 패턴이 차익거래자가 교정할 수 없는 가격 괴리를 반영하는 것인지, 차익거래자가 부담하는 위험에 대한 정당한 보상을 반영하는 것인지를 실증적으로 판별하기 어려운 경우가 많습니다.

또 다른 질문은 이 프레임워크의 시간에 따른 안정성에 관한 것입니다. 시장이 진화함에 따라, 즉 퀀트 전략에 투입되는 자본이 증가하고, 거래비용이 하락하며, 정보 전파가 빨라짐에 따라 차익거래의 한계가 감소했는지에 대한 것입니다. 증거는 혼재합니다. 일부 이상현상은 약화되었으며, 이는 차익거래 제약의 감소와 일관됩니다. 그러나 새로운 형태의 한계가 등장했습니다. 여러 펀드가 동일한 기회를 활용하는 쏠림 리스크(crowding risk)와 정교한 모형을 요구하면서 모형 자체에 오류가 포함될 수 있는 복잡성 리스크(complexity risk)가 그것입니다.

2020-2021년의 사건, 즉 Robinhood과 같은 플랫폼을 통한 개인 투자자 활동이 공매도 비중이 높은 종목에서 막대한 단기 괴리를 만들어낸 사례는 알고리즘 트레이딩과 풍부한 기관 자본의 시대에서도 노이즈 트레이더 리스크가 여전히 강력한 세력임을 보여주었습니다.

불완전한 시장을 탐색하기 위한 프레임워크

Shleifer와 Vishny는 시장이 비효율적이라는 것을 증명한 것이 아닙니다. 더 유용한 것을 증명했습니다. 비효율성이 지속될 가능성이 가장 높은 구체적 조건을 식별한 것입니다. 차익거래가 비용이 크고, 자본이 제약받으며, 노이즈 트레이더가 활발하고, 가격 교정에 가장 적합한 위치의 주체가 펀더멘털 정확성이 아닌 단기 성과를 기준으로 평가받을 때 가격 괴리는 생존합니다.

투자자에게 실용적 시사점은, 가격 괴리를 식별하는 것이 수익성 있는 트레이딩의 필요조건이지만 충분조건은 아니라는 것입니다. 동등하게 중요한 질문은, 시장이 동의하지 않을 수 있는 기간, 아마도 장기간에 걸쳐 포지션을 유지할 수 있는 자본 구조, 투자 기간, 심리적 회복력을 갖추고 있는지 여부입니다.

Written by Priya Sharma · Reviewed by Sam

이 기사는 인용된 1차 문헌을 기반으로 하며, 정확성과 출처 표기를 위해 편집팀의 검토를 거쳤습니다. 편집 정책.

이 기사의 기여

메가캡 기술주에 대한 집중 투자와 레버리지 ETF의 확산으로 2026년 시장 취약성에 대한 의문이 제기되는 가운데, 스트레스 상황에서 차익거래 자본이 어떻게 행동하는지를 설명하는 Shleifer-Vishny 프레임워크의 실무적 관련성이 그 어느 때보다 높습니다.

증거 평가

  • 5/5Professional arbitrageurs managing external capital face fund withdrawals after short-term losses, which forces them to reduce positions when mispricings are largest
  • 5/5Noise trader risk — the possibility that irrational traders push prices further from fundamentals — creates a genuine risk for arbitrageurs with finite horizons
  • 4/5Closed-end fund discounts widen when arbitrage costs increase, providing direct empirical evidence for limits to arbitrage
  • 4/5Idiosyncratic risk deters arbitrage activity: anomaly returns are concentrated in stocks with high idiosyncratic volatility where arbitrage is most costly

자주 묻는 질문

금융 시장에서 차익거래의 주요 한계는 무엇입니까?
세 가지 주요 한계가 있습니다: (1) 노이즈 트레이더 리스크 — 비합리적 거래자들이 수렴 전에 가격을 펀더멘털에서 더 멀어지게 할 수 있습니다. (2) 성과 기반 자본 배분 — 기회가 가장 클 때 펀드 매니저가 단기 손실로 투자자 자금을 잃습니다. (3) 거래 비용, 공매도 제약, 마진 요건 등의 실행 비용으로 소규모 가격 왜곡 활용이 비경제적입니다.
차익거래 한계 이론은 효율적 시장 가설과 어떤 관련이 있습니까?
효율적 시장 가설은 차익거래자가 모든 가격 왜곡을 신속하게 제거하여 가격을 펀더멘털 가치에 가깝게 유지할 것이라고 가정합니다. 차익거래 한계 이론은 현실의 차익거래자가 자본 위험, 노이즈 트레이더 리스크, 실행 비용 등의 구속적 제약에 직면하여 가격 왜곡을 교정하지 못할 수 있음을 보여줌으로써 이를 반박합니다. 이것이 시장이 완전히 비효율적이라는 의미는 아니지만, 특정 이상 현상과 가격 왜곡이 단순한 효율적 시장 이론이 예측하는 것보다 훨씬 오래 지속될 수 있는 이유를 설명합니다.

교육 목적. 투자 조언 아님.