거래 비용과 슬리피지: 퀀트 전략의 숨겨진 저항

핵심 요점

모든 퀀트 전략에는 두 가지 버전이 존재한다: 백테스트에서 아름다운 성과를 보이는 버전과 실제 시장에서 생존해야 하는 버전이다. 이 두 버전의 차이를 만드는 것이 바로 거래 비용이다. 수수료, 매수-매도 스프레드, 시장 충격, 슬리피지 등의 비용은 매 거래마다 조용히 누적되며, 그 총합은 수익성 있는 전략을 손실 전략으로 바꿀 수 있다. 고회전 전략에서 거래 비용은 부차적 고려사항이 아니라 전략의 생존 가능성을 결정하는 핵심 요소이다. 이러한 비용의 구조, 시장 충격을 지배하는 실증 법칙, 그리고 이를 완화하는 기법을 이해하는 것은 모든 진지한 퀀트 실무자에게 필수적이다.

거래 비용의 해부학

거래 비용은 크게 두 가지 범주로 나눌 수 있다: 직접 관찰 가능하고 계약적인 **명시적 비용(explicit costs)**과 거래 메커니즘 자체에서 발생하여 사후에만 측정 가능한 **암묵적 비용(implicit costs)**이다.

명시적 비용에는 중개 수수료, 거래소 수수료, 규제 부담금, 세금이 포함된다. 미국 주식시장에서 기관 수수료는 지난 20년간 극적으로 하락하여 2000년대 초 주당 약 6센트에서 현재 1-2센트 이하로 떨어졌다. 선물 및 외환의 경우 명목 기준 수수료는 일반적으로 더 낮다. 명시적 비용이 총 거래 비용에서 차지하는 비중은 줄어들고 있지만, 거래 빈도가 높거나 신흥시장 주식이나 옵션과 같이 수수료 구조가 높은 시장에서는 여전히 무시할 수 없다.

암묵적 비용은 규모가 훨씬 크고 관리하기 어렵다. 매수-매도 스프레드, 시장 충격(market impact), 슬리피지(의도한 체결 가격과 실제 체결 가격의 차이), 기회비용(불리한 가격 변동으로 인해 아예 체결하지 못하는 비용)이 여기에 해당한다. 매수-매도 스프레드는 왕복 거래의 최소 비용을 나타내며, 마켓 메이커가 유동성 제공과 역선택 위험 부담에 대한 보상으로 설정한다. 시장 충격, 즉 거래 자체로 인한 가격 변동은 기관 규모 주문에서 지배적인 암묵적 비용이다.

위 표는 핵심적인 사실을 보여준다: 미국 대형주의 경우 인내심 있는 기관 트레이더의 총 편도 비용은 7-10 베이시스 포인트 정도로 낮을 수 있지만, 소형주나 신흥시장 종목은 편도 100 베이시스 포인트를 쉽게 초과할 수 있다. 소형주에서 매월 20%의 회전율로 리밸런싱하는 전략은 연간 500 베이시스 포인트 이상의 마찰 비용을 발생시킬 수 있으며, 이는 대부분 전략의 알파를 제거하기에 충분하다.

시장 충격의 제곱근 법칙

시장 미시구조에서 가장 중요한 실증적 규칙성은 시장 충격의 제곱근 법칙(square-root law)이다. Kyle(1985)이 이론적 기초를 제시하고 Almgren, Thum, Hauptmann, Li(2005)가 정교화하고 실증적으로 검증한 이 법칙에 따르면, 주문 체결의 일시적 가격 충격은 일일 거래량 대비 주문 크기의 제곱근에 대략 비례한다. 형식적으로 표현하면, Delta_P / P = sigma * gamma * sqrt(Q / V)이다. 여기서 sigma는 일일 변동성, gamma는 시장 고유 상수(주식의 경우 일반적으로 0.5-1.0), Q는 주문 수량, V는 평균 일일 거래량이다.

제곱근 스케일링은 심대한 함의를 지닌다. 거래 규모를 두 배로 늘려도 시장 충격은 두 배가 아니라 약 1.41배 증가한다. 역으로, 거래 규모가 줄어도 시장 충격은 선형적으로 감소하지 않는다. 비유동적 종목에서는 적당한 규모의 거래도 의미 있는 충격을 유발할 수 있다. 이 법칙은 자산군, 지역, 시기에 걸쳐 확인되어 실증 금융에서 가장 견고한 발견 중 하나로 자리잡았다.

실제 예시를 들어보자. 일일 거래량의 5%에 해당하는 거래를 일일 변동성 2%인 종목에서 체결해야 한다고 가정하자. gamma = 0.6을 사용하면, 추정 일시적 충격은 0.02 * 0.6 * sqrt(0.05), 즉 약 27 베이시스 포인트이다. 거래가 일일 거래량의 20%를 차지한다면, 충격은 약 54 베이시스 포인트로 상승한다. 선형 스케일링이 예측하는 4배가 아니라 제곱근 관계 덕분에 2배에 불과하다.

고빈도 리밸런싱이 비용을 증폭시키는 이유

많은 퀀트 전략은 빠르게 소멸하는 신호에서 우위를 도출하며, 빈번한 포트폴리오 리밸런싱을 필요로 한다. 모멘텀 신호, 통계적 차익거래, 단기 평균 회귀 전략은 일별 또는 일중 거래를 요구하는 경우가 많다. 빈번한 리밸런싱은 더 많은 신호를 포착하지만, 매 거래 주기마다 비용도 발생한다.

전략의 연간 총비용은 다음과 같이 근사할 수 있다: C_annual = 2 * c * T * turnover_per_rebalance. 여기서 c는 편도 거래 비용, T는 연간 리밸런싱 횟수, turnover_per_rebalance는 각 이벤트에서 거래되는 포트폴리오 비율이다. 계수 2는 모든 포지션 변경에 매수와 매도가 모두 필요하기 때문이다. 일별 리밸런싱, 5% 일일 회전율, 편도 20 베이시스 포인트 비용의 전략이라면, 연환산 비용은 2 * 0.0020 * 252 * 0.05 = 5.04%이다. 이 비용을 전략의 총 알파에서 차감해야 순성과를 결정할 수 있다.

Frazzini, Israel, Moskowitz(2018)는 AQR의 독점 데이터를 활용하여 이 트레이드오프를 광범위하게 연구했으며, 가치, 모멘텀, 퀄리티 등 잘 알려진 팩터 전략의 최적 회전율은 순진한 신호 추종 접근법이 시사하는 것보다 상당히 낮다는 것을 발견했다.

슬리피지: 이론과 실행 사이의 간극

슬리피지는 전략이 거래를 신호하는 가격과 실제로 체결되는 가격 사이의 차이를 구체적으로 가리킨다. 주문 라우팅 및 체결 지연, 신호 생성과 주문 배치 사이의 불리한 가격 변동, 잔여 수량을 더 나쁜 가격에 체결하도록 강제하는 부분 체결, 시장 참여자가 대형 주문을 감지하고 선행매매(front-run)할 때 발생하는 정보 유출 등 여러 원인에서 발생한다.

백테스트에서 슬리피지는 빈번히 과소평가되거나 완전히 무시된다. 많은 백테스트는 종가, 시가, 또는 매수-매도 스프레드의 중간값에서 체결한다고 가정하는데, 이 중 어느 것도 기관 규모 주문에서는 현실적으로 달성 가능하지 않다. 백테스트 수익률과 실전 수익률 사이의 격차, 흔히 "백테스트-라이브 헤어컷"이라 불리는 이 차이의 주요 동인은 슬리피지와 시장 충격의 부적절한 모델링이다. 업계 실무자들은 일반적으로 실전 샤프 비율이 백테스트 대비 30-50% 낮으며, 거래 비용이 성과 저하의 지배적 원인이라고 보고한다.

실질적 비용 완화 기법

퀀트 실무자들은 거래 비용의 부담을 줄이기 위한 다양한 기법을 개발해 왔다. 이는 크게 실행 최적화, 포트폴리오 구성 제약, 용량 분석으로 분류할 수 있다.

알고리즘 실행 전략인 VWAP(거래량 가중 평균 가격)과 TWAP(시간 가중 평균 가격)은 대형 주문을 거래일에 걸쳐 분배되는 소규모 자식 주문으로 분할한다. VWAP 알고리즘은 종목의 거래량 프로파일에 맞추어 자연적 거래량이 높은 기간에 더 많은 주식을 체결하고, 조용한 기간에는 적게 체결한다. TWAP 알고리즘은 시간 구간에 걸쳐 균등하게 분배한다. 두 접근법 모두 집중된 유동성 수요를 피함으로써 시장 충격을 줄이지만, 타이밍 리스크(체결 구간 동안 주가가 불리하게 움직일 위험)를 도입한다. Almgren과 Chriss(2001)는 시장 충격과 타이밍 리스크 사이의 최적 트레이드오프를 공식화하여, 최적 체결 일정이 트레이더의 위험 회피도와 거래의 긴급성에 따라 달라짐을 보여주었다.

포트폴리오 회전율 제약은 전략이 리밸런싱 기간당 수행할 수 있는 거래량을 제한한다. 이론적 최적 포트폴리오로 완전히 리밸런싱하는 대신, 리밸런싱의 이익이 추정 거래 비용을 초과하는 범위에서만 거래한다. 포지션 편차가 임계값을 초과할 때만 조정하는 이 "무거래 구간(no-trade zone)" 접근법은 총 알파의 최소한의 손실로 회전율을 40-60% 줄일 수 있다.

**용량 분석(capacity analysis)**은 거래 비용이 알파를 수용 불가능한 수준으로 잠식하기 전에 전략이 지원할 수 있는 최대 운용 자산(AUM)을 추정한다. 시장 충격이 주문 크기의 제곱근에 비례하기 때문에 전략 용량은 알파와 선형적으로 비례하지 않는다. 유동적 대형주를 거래하는 전략은 수십억 달러의 용량을 가질 수 있지만, 마이크로캡이나 프론티어 시장 종목에 집중하는 전략은 수천만 달러에서 용량 제약에 직면할 수 있다.

결론: 비용을 1순위 고려사항으로

퀀트 투자의 역사는 시뮬레이션에서는 수익성이 있어 보였지만 설계자들이 거래 비용을 부차적으로 취급하여 실전에서 실패한 전략들로 가득하다. 실증적 증거는 명확하다: 대부분의 체계적 전략에서 거래 비용은 반올림 오차가 아니라 수익성의 1차적 결정 요인이다. 책임 있는 전략 개발은 대상 유니버스의 실제 유동성에 맞춰 보정된 현실적 비용 모델로 시작하고, 설계 단계부터 실행 최적화를 통합하며, 백테스트와 실현 성과 사이의 격차를 지속적으로 모니터링한다. 이 검증을 통과하는 전략은 정직하게 수익을 벌어들인다. 그렇지 못한 전략은 애초에 진정으로 수익성이 있었던 적이 없다.