확률을 잘못 세는 여섯 가지 방식 — 도박사의 오류부터 복권형 선호까지

도박사의 오류(Gambler’s Fallacy)는 서로 독립적인 사건에서 '한동안 덜 나온 결과가 이제 나올 차례'라고 믿는 착각입니다. 몬테카를로 오류라고도 부릅니다.

앞면이 다섯 번 연속 나왔어도 다음 던지기에서 앞면이 나올 확률은 여전히 정확히 절반입니다. 각 시행이 독립이기 때문입니다. 그런데 사람의 직관은 '균형이 맞아야 한다'며 반대 결과를 기대합니다.

가장 유명한 사례는 1913년 8월 18일 모나코 몬테카를로 카지노에서 일어났습니다. 룰렛에서 공이 26번 연속으로 검은색에 떨어졌습니다. 검은색이 이어지는 동안 도박사들은 '이제 빨간색 차례'라며 점점 더 큰 돈을 빨간색에 걸었고, 검은색이 계속되면서 수백만 프랑을 잃었습니다.

단일 제로 룰렛에서 26연속이 나올 확률은 대략 1억 3,682만분의 1로 극히 희박합니다. 하지만 이미 25번 검은색이 나왔다고 해서 다음이 빨간색일 확률이 올라가지는 않습니다. 희박한 것은 '26연속이라는 전체 사건'이지 '지금부터 한 번'이 아닙니다. 이 구분이 도박사의 오류의 핵심입니다.

투자에서는 '3일 연속 빠졌으니 내일은 오르겠지', '이번 달 손실이니 다음 달은 회복될 차례' 같은 생각으로 나타납니다. 시장의 하루하루 등락이 동전 던지기처럼 완전히 독립은 아니지만, 단기 움직임을 '차례'로 예측할 근거는 약합니다.

방향이 정반대인 착각도 있습니다. 뜨거운 손 오류는 무작위에 가까운 과정에서 연속 성공이 나오면 '흐름을 탔으니 계속 성공할 것'이라고 믿는 것입니다.

출발점은 1985년 길로비치·발론·트버스키의 농구 슛 연구입니다. 이들은 선수들의 슛 기록에서 '연속 성공 뒤 성공률이 더 높다'는 증거를 찾지 못했고, 뜨거운 손은 사람들이 무작위 연속을 오해한 착각이라고 결론지었습니다.

그런데 40년 가까이 지나 반전이 있었습니다. 2018~2019년 경제학자 밀러와 산주르호가 원래 분석에 미묘한 통계적 편향이 있음을 밝혔습니다. 짧은 시퀀스에서 '성공 뒤 성공 빈도'를 세는 방식 자체가 값을 낮추는 편의를 갖고 있었던 것입니다. 이 편향을 교정해 원래 데이터를 다시 분석하자 오히려 뜨거운 손의 흔적이 나타났고, 25명 선수 중 19명이 3연속 성공 뒤 성공률이 더 높았다고 보고됐습니다.

이 이야기의 교훈은 두 겹입니다. 사람은 무작위에서 패턴을 과하게 읽지만, 동시에 통계 방법이 잘못되면 있는 효과도 못 볼 수 있습니다. 어느 쪽도 '연속을 미래 확신의 근거로 삼아라'는 뜻은 아닙니다.

농구공에는 손끝 컨디션이라는 물리적 연속성이 있을 수 있지만, 투자 수익률에는 그런 근거가 훨씬 약합니다. 지난 몇 년 잘한 상품이 '흐름을 탔으니 계속 잘할 것'이라고 단정하기 어려운 이유입니다.

대표성 휴리스틱은 어떤 대상이 특정 범주의 전형적인 모습과 얼마나 닮았는가로 그 범주에 속할 확률을 판단하는 지름길입니다. 트버스키와 카너먼이 밝힌 개념으로, 이 과정에서 사람들은 훨씬 중요한 기저율을 자주 무시합니다.

가장 유명한 예가 1983년의 '린다 문제'입니다. '린다는 31세, 솔직하고 똑똑하며 대학에서 철학을 전공했고 차별과 사회정의에 깊은 관심을 가졌다'는 설명을 준 뒤 물었습니다. 린다는 (A) 은행원이다, (B) 은행원이면서 페미니스트 운동가다 중 어느 쪽이 더 그럴듯한가?

참가자의 약 85%가 (B)를 골랐습니다. 그러나 (B)는 (A)의 부분집합이므로 확률이 더 높을 수 없습니다. 조건을 하나 더 붙이면 확률은 반드시 낮아집니다. 설명이 '페미니스트다움'과 닮아 보인다는 이유로 확률을 오판한 것이고, 이를 결합오류라고 부릅니다.

투자에서는 '제2의 애플', '이번 차트는 2020년과 판박이' 같은 표현이 전형적인 대표성 함정입니다. 성공 기업의 이야기와 닮았다고 해서 성공 확률이 높아지지는 않습니다. 크게 성공하는 기업이 원래 극소수라는 기저율을 빼놓은 판단이기 때문입니다.

가용성 휴리스틱은 어떤 일이 얼마나 자주 일어나는지를 판단할 때 '그 사례가 얼마나 쉽게 떠오르는가'로 대신 판단하는 지름길입니다. 트버스키와 카너먼이 1970년대에 정리했습니다. 생생하거나 감정을 자극하거나 언론에 자주 노출된 사건일수록 실제보다 흔하고 위험하다고 느끼게 됩니다.

폭락 뉴스가 연일 헤드라인을 차지하면 실제 확률과 무관하게 '또 폭락할 것 같은' 공포가 커집니다. 반대로 누군가 크게 벌었다는 이야기가 주변에 돌면, 그런 성공이 드문데도 '나도 될 것 같은' 착각이 커집니다. 언론은 평범한 상승보다 극적인 사건을 크게 다루므로, 뉴스만 보면 시장이 실제보다 위태롭거나 뜨겁게 보입니다.

여기에 기억의 구조가 겹칩니다. 여러 정보를 순서대로 접하면 처음과 끝에 있던 것을 중간보다 잘 기억하는데, 이를 계열위치효과라고 합니다. 처음 것을 잘 기억하는 것이 초두 효과, 마지막 것을 잘 기억하는 것이 최신 효과입니다.

최신 효과가 강하면 방금 본 마지막 뉴스나 가장 나중의 수익률이 과도하게 크게 다가와 장기 흐름을 덮어버립니다. 초두 효과가 강하면 어떤 대상에 대해 처음 형성된 인상이 이후 나쁜 정보가 나와도 잘 바뀌지 않습니다. 발표자가 중요한 메시지를 앞뒤에 배치한다는 사실을 알면, 중간에 묻힌 위험 정보를 일부러 찾아 읽게 됩니다.

복권형 선호는 당첨 확률은 아주 낮지만 성공하면 크게 버는 대상에 유독 끌리는 심리입니다. 주식에서는 이런 종목을 복권형 주식이라 부릅니다.

뿌리는 전망 이론의 확률 가중입니다. 사람은 아주 낮은 확률, 예컨대 0.1% 같은 값을 실제보다 훨씬 크게 느낍니다. 그래서 '거의 안 되는' 일을 '어쩌면 될 수도 있는' 일로 과대평가합니다.

실제 결과는 기대와 반대였습니다. 알록 쿠마르의 2009년 연구 '누가 주식시장에서 도박을 하는가'는 개인투자자들이 복권형 주식을 선호했지만 이런 종목이 평균적으로 부진했고, 그 손실이 저소득 투자자에게 특히 집중됐다고 보고했습니다. 발리·차키치·화이트로의 2011년 연구는 더 구체적입니다. 지난 한 달간 하루 최대 상승폭이 컸던 '가장 복권 같은' 종목들이 그렇지 않은 종목보다 이후 수익률이 낮았고, 그 차이가 월 1%를 넘었습니다.

이유는 단순합니다. 많은 사람이 대박을 기대하며 몰려들면 가격이 이미 비싸게 매겨집니다. 그리고 복권이 그렇듯 소수의 큰 성공 뒤에는 눈에 잘 안 띄는 다수의 실패가 있습니다. 성공 사례만 회자되고 조용히 사라진 종목은 기억되지 않으니, 실제보다 성공 확률이 높아 보이는 착시가 겹칩니다.

확률을 잘못 세는 습관이 실제로 얼마짜리인지는 가격 데이터에 남습니다. 여기서는 두 자산을 예로 들되, 사라거나 팔라는 뜻이 아니라 복권형 자산의 낙폭이 어떤 모양인지를 보기 위한 것입니다.

도지코인의 최대 낙폭은 -92.3% 입니다. 고점은 2021-05-07, 저점은 2022-06-18 이었습니다. 이 최대 낙폭 -92.26%를 본전으로 되돌리려면 +1,191.7%가 필요합니다. 열두 배가 넘게 올라야 제자리라는 뜻입니다. 그리고 우리 데이터가 끝나는 2026-09-01 까지 이 자산은 이전 고점을 다시 넘지 못했습니다.

혁신 기술주를 모아 담는 ARKK 도 비슷한 모양입니다. 최대 낙폭 -80.9%, 고점 2021-02-12, 저점 2022-12-28 입니다. 최대 낙폭 -80.91%를 본전으로 되돌리려면 +423.9%가 필요하고, 이전 고점 아래에 머문 최장 구간은 1,391거래일, 약 5.5년입니다. 이 자산 역시 2026-08-31 까지 이전 고점을 회복하지 못했습니다.

여기서 거래일은 시장이 열린 날만 센 값입니다. 한 해를 약 252거래일로 잡고 나눠야 달력 연수로 옮길 수 있습니다.

대박 확률을 실제보다 크게 느끼는 편향은 이 두 줄의 숫자를 잘 보지 못하게 만듭니다. 오를 때의 배수는 기억에 남지만, 본전까지 필요한 배수는 직접 계산해 보기 전까지 감이 오지 않습니다.

이 글은 어떤 종목을 사라거나 사지 말라고 말하지 않습니다. 두 자산을 예로 든 것은 낙폭과 회복이 어떤 모양일 수 있는지를 실제 숫자로 보여주기 위해서이며, 그 자산들의 앞날에 대한 판단이 아닙니다.

패턴 인식 자체도 나쁜 능력이 아닙니다. 문제는 무작위한 데이터에서 억지로 패턴을 찾아내고, 겉모습의 유사성만으로 미래를 확신할 때입니다. 이 사이트도 미래 가격을 예측하지 않습니다. 참고로 이 사이트는 글쓴이가 직접 운영합니다.

확률을 다루는 법에서 가장 실용적인 방어선은 하나입니다. 어떤 대상이 유독 끌린다면 그 이유가 '기대되는 큰 수익' 때문인지 스스로 물어보고, 그 자산이 과거에 얼마나 깊게 빠졌으며 회복에 얼마나 걸렸는지를 먼저 확인하는 것입니다.