규칙과 데이터가 주문을 내는 시장 — 알고리즘 매매·HFT·대체데이터, 그리고 플래시 크래시

알고리즘 매매는 사람이 아니라 컴퓨터 프로그램이 미리 정해 둔 규칙에 따라 자동으로 주문을 내는 방식입니다. 규칙은 이동평균이나 RSI 같은 기술적 지표일 수도 있고, 평균회귀·차익거래 같은 통계 모델일 수도 있습니다. 시장 상황이 규칙과 맞아떨어지면 프로그램이 스스로 매수와 매도를 실행합니다.

일반적인 과정은 네 단계를 거칩니다. 먼저 어떤 조건에서 사고팔지 규칙을 정합니다. 다음으로 그 규칙을 프로그램으로 옮깁니다. 그다음 과거 데이터로 성과와 낙폭, 정확도를 검증하는 백테스트를 합니다. 마지막으로 시장을 실시간 감시하며 조건이 충족되면 자동으로 주문을 냅니다.

감정을 배제하고 일관되게 실행한다는 점이 사람 매매와의 가장 큰 차이입니다. 대량 주문을 시장 충격 없이 나눠 체결하는 VWAP·TWAP 같은 체결 알고리즘도 이 갈래에 속합니다.

다만 자동화는 고유한 위험을 함께 안습니다. 첫째는 과적합입니다. 과거 데이터에만 딱 맞춘 규칙은 실제 미래에서 무너지기 쉽습니다. 둘째는 시스템·연결 오류입니다. 버그나 네트워크 장애가 순식간에 큰 손실을 부릅니다. 셋째가 가장 본질적인데, 규칙이 잘못돼도 프로그램은 감정 없이 계속 실행한다는 점입니다. 사람이라면 멈췄을 상황에서 손실이 그대로 쌓입니다. 알고리즘은 규칙을 빠르고 일관되게 실행할 뿐, 규칙 자체가 옳은지는 보장하지 않습니다.

고빈도매매(High-Frequency Trading, HFT)는 알고리즘 매매의 한 형태로, 초고속 회선과 컴퓨터로 1,000분의 1초인 밀리초, 100만분의 1초인 마이크로초 단위에 엄청난 수의 주문을 냅니다.

핵심은 속도 경쟁입니다. 거래소에 물리적으로 더 가까운 곳에 서버를 두는 코로케이션, 더 빠른 데이터 회선의 확보로 남보다 먼저 반응합니다. 한 번의 매매로 버는 이익은 아주 작지만 이를 초당 수없이 반복해 수익을 쌓습니다.

시장에서의 비중은 출처마다 추정이 다릅니다. 최근 미국 주식 거래량의 대략 절반 안팎이 HFT로 분류되며, 2009년경에는 60%대까지 추정되기도 했고 이후 약 50% 수준으로 낮아졌다는 자료가 많습니다. 정의와 집계 방식에 따라 크게 달라지는 추정치이므로, 정확히 몇 퍼센트인지보다 거래의 큰 몫을 차지하는 참여자라고 이해하는 편이 안전합니다.

평가는 엇갈립니다. 마켓메이킹을 통해 호가 스프레드를 좁히고 유동성을 공급해 거래 비용을 낮춘다는 주장이 있고, 속도 우위를 이용해 다른 주문 앞에 끼어들거나 순식간의 폭락을 키운다는 비판도 있습니다.

장기·분산 투자자에게 중요한 점은 따로 있습니다. HFT의 경쟁은 밀리초 단위의 세계이고, 몇 년을 보고 꾸준히 사 모으는 투자의 성패는 그 속도전과 거의 무관합니다.

2010년 5월 6일 오후, 다우존스 산업평균지수가 몇 분 만에 약 1,000포인트, 당시 기준 약 9% 급락했습니다. 30분도 안 되는 사이 약 1조 달러의 시가총액이 사라졌습니다. 그런데 지수는 곧바로 대부분을 되돌려 약 한 시간 안에 상당 부분 회복했습니다. 뚜렷한 악재 뉴스 없이 순식간에 폭락과 반등이 일어난 전례 없는 사건이었습니다.

초기에는 한 트레이더의 오타성 대량 주문이 원인으로 지목됐습니다. 이후 미국 증권거래위원회와 상품선물거래위원회의 공동 조사에서는 한 대형 매도 주문을 처리하던 알고리즘이 방아쇠가 됐고, 여기에 초단타매매 프로그램들이 서로 사고팔며 변동성을 증폭시킨 것으로 결론이 났습니다. 사람이 아니라 프로그램들이 밀리초 단위로 반응하면서 유동성이 순식간에 말라 버린 것입니다.

이 사건 이후 거래소들은 비정상 체결을 취소하고, 개별 종목의 급변동 시 거래를 잠시 멈추는 서킷브레이커와 변동성 완화장치를 강화했습니다.

앞의 두 번째 질문으로 돌아가 봅시다. 이런 사건은 하루가 지나면 데이터에 어떻게 남을까요. 우리 사이트가 보유한 일별 가격 데이터로 직접 계산해 보면 답이 꽤 뚜렷합니다.

S&P 500을 추종하는 ETF인 SPY의 2010년 5월 6일 조정 기준 저가는 78.684로, 전날 종가 87.542 대비 -10.12%였습니다. 그런데 같은 날 종가는 84.635로 마감해 전날 대비 -3.32%에 그쳤습니다. 장중에 벌어진 10% 낙폭 중 3분의 2가 종가에는 남지 않은 것입니다.

더 흥미로운 것은 그해 전체와의 비교입니다. 2010년 한 해 동안 이 ETF의 종가 기준 하루 최대 하락은 5월 6일이 아니라 5월 20일의 -3.78%였습니다. 일별 종가만 놓고 보면 플래시 크래시가 있었던 날은 그해 세 번째로 나쁜 날에 불과합니다.

한 걸음 물러나면 그림이 또 달라집니다. 2010년 한 해 동안 이 ETF가 기록한 고점 대비 최대 하락률은 15.70%(4월 23일 고점 → 7월 2일 저점)였고, 그 고점을 다시 넘은 것은 11월 4일로 저점에서 4.1개월이 지난 뒤였습니다. 그해 전체 수익률은 +15.1%였습니다.

여기서 두 가지를 함께 읽어야 합니다. 하나는 일별 종가 데이터가 장중의 극단을 지운다는 사실입니다. 우리 계산기를 포함해 종가 기반으로 만든 모든 통계에는 이 한계가 있습니다. 다른 하나는 그럼에도 진짜 손실은 다른 곳에 있었다는 사실입니다. 몇 분짜리 -10%가 아니라, 봄부터 여름까지 이어진 -15.70%와 넉 달의 회복 기간이 실제로 계좌에 남은 시간이었습니다.

속도로 이기기 어렵다면 정보로 이기려는 시도가 나옵니다. 대체데이터(alternative data)는 재무제표나 경제지표 같은 전통적 자료가 아닌 비전통적 데이터를 투자 판단에 활용하는 것을 말합니다.

위성영상, 신용카드 결제 내역, 위치·유동인구 데이터, 앱 사용량, 웹 트래픽, 소셜미디어 감성 등이 대표적입니다. 대형마트 주차장 위성사진으로 방문객 추세를 읽거나, 카드 결제 데이터로 특정 기업의 매출 흐름을 공식 실적 발표 전에 가늠하려는 식입니다. 카드 결제 데이터는 기업 단위 소비를 직접 관측할 수 있어 특히 유용하다고 평가되고, 위성 데이터는 공장 가동·소매 방문·농산물 작황·해운 물동량을 위에서 내려다봅니다. 주로 헤지펀드·자산운용사·사모펀드 같은 기관투자자가 씁니다.

시장 규모 추정은 출처별 편차가 큽니다. 2016년 10억 달러 미만에서 2023년경 60~70억 달러 수준으로 커졌고, 2030년대까지 수백억에서 1,000억 달러 이상으로 전망하는 보고서들도 있습니다. 연평균 성장률 추정치도 28%에서 54%까지 벌어집니다.

한계는 분명합니다. 특정 지역·계층에 치우친 데이터는 잘못된 결론을 낳고, 개인정보나 미공개 중요정보에 해당하면 법적 문제가 됩니다. 과거 데이터에 맞춰 규칙을 짜 맞추면 미래엔 안 맞습니다. 무엇보다 좋은 데이터는 비싸고, 많은 이가 쓰기 시작하면 우위가 사라집니다. 데이터가 많다는 것이 수익이 보장된다는 뜻으로 이어지지 않습니다.

알고리즘도, 속도도, 대체데이터도 결국 같은 전제 위에 서 있습니다. 규칙이 옳고 데이터가 대표성이 있으며 우위가 남아 있다는 전제입니다. 셋 중 하나만 무너져도 자동화는 손실을 더 빠르고 일관되게 만들어 냅니다.

장기 투자자에게 실용적인 시사점은 두 가지입니다.

첫째, 주문 유형의 성격을 이해해야 합니다. 시장가 주문이나 손절 주문은 유동성이 사라진 순간에 최악의 가격으로 체결될 수 있습니다. 플래시 크래시 당시 일부 종목은 극단적으로 낮은 가격에 체결됐다가 나중에 거래가 취소되기도 했습니다.

둘째, 급변동 자체를 예측하려 하기보다 급변동에서 강제로 팔리지 않을 구조를 갖추는 편이 현실적입니다. 감내 가능한 비중과 여유 자금이 그 구조입니다. 제도가 보완됐지만 유사한 순간 급변동은 그 뒤에도 여러 번 관찰됐고, 알고리즘 매매가 시장의 큰 비중을 차지하는 한 완전히 사라지기는 어렵습니다.

이 글은 특정 매매 전략이나 프로그램, 데이터 상품을 추천하지 않습니다.