2012년 8월 1일 수요일 아침 9시 30분, 미국 뉴욕 증권거래소(NYSE)의 개장 벨이 경쾌하게 울리며 활기차게 주식 시장의 문이 열렸습니다. 당시 미국 주식 전체 거래량의 무려 17%를 홀로 처리하며 시장 조성자(Market Maker)로서 절대적인 권력을 휘두르던 초고빈도 매매(HFT, High-Frequency Trading)의 절대 강자, '나이트 캐피털 그룹(Knight Capital Group)' 역시 새로운 아침을 맞이했습니다.
그들은 전날 밤, 거래소의 새로운 소매 유동성 프로그램(RLP)에 대응하기 위해 자신들이 자체 개발한 혁신적인 트레이딩 알고리즘 'SMARS' 시스템에 새로운 소프트웨어 코드를 전격적으로 업데이트했습니다. 나이트 캐피털의 경영진은 인간의 뇌와 손가락으로는 도저히 범접할 수 없는 슈퍼컴퓨터의 경이로운 연산 속도와 치밀한 알고리즘이 알아서 시장의 미세한 호가 차이를 파고들어 엄청난 수익을 긁어모아 줄 것이라 굳게 믿어 의심치 않았습니다. 하지만 장이 열리고 불과 수십 초 만에, 그 맹목적인 믿음은 끔찍한 비명과 절망으로 뒤바뀌었습니다.
(2012년 7월 말. 월스트리트 최대의 트레이딩 기업 '나이트 캐피털'의 어두운 서버실. 피곤에 찌든 개발자가 새로운 주식 거래 코드를 8대의 서버 중 1대를 빼먹고 대충 덮어쓰기 한다.)
"아함... 피곤해. 8개 서버에 새로운 트레이딩 코드 업데이트 끝. 하나 누락된 것 같기도 한데 뭐 옛날 코드니까 괜찮겠지. 퇴근!"
(8월 1일 아침 9시 30분. 뉴욕 증시가 개장하자, CEO가 자랑스럽게 슈퍼컴퓨터 모니터들을 가리키며 쾌재를 부른다.)
"하하! 인간 트레이더의 시대는 끝났다! 우리의 초고속 AI 알고리즘이 1초에 수만 번씩 완벽하게 돈을 복사해 줄 거다!"
(개장 직후 불과 1분 만에, 컴퓨터 모니터에 빨간 경고창이 미친 듯이 뜨며 알고리즘이 통제 불능 상태에 빠진다.)
"(시스템 알림) 삐비빅!! 치명적 오류 발생! 낡은 좀비 코드 활성화! 최고가 풀매수! 최저가 즉시 풀매도! 초당 수천 번 반복!!"
(트레이딩 룸의 모니터에 찍히는 천문학적인 손실액을 보고 CEO가 사색이 되어 개발자의 멱살을 잡고 절규한다.)
"이 미친놈아!! 코드를 어떻게 짠 거야!! 1분에 우리 돈이 100억 원씩 허공에 증발하고 있잖아!! 당장 기계 멈춰!!"
(개발자가 패닉에 빠져 땀을 뻘뻘 흘리며 키보드를 두드리지만, 멈추는 비상 정지 버튼(킬 스위치)조차 없어서 속수무책이다.)
"으아아악! 8번 서버에 업데이트 누락으로 9년 전 '좀비 코드'가 살아났어요! 근데 이 폭주를 강제로 멈출 '킬 스위치'를 안 만들었습니다!!"
(10시 15분. 결국 물리적으로 서버 전원 플러그를 모두 뽑아 기계를 멈췄지만 이미 늦었다. '-4억 4천만 달러'라는 파산 영수증 앞에 CEO가 주저앉는다.)
"고작... 고작 45분 지났는데... 17년간 번 돈 5,000억 원이 다 타버렸다고...? 회사가 끝났다..."
"기술적 오만함이 빚어낸 인류 금융 역사상 가장 빠르고 파괴적인 파산, 이른바 '역사상 가장 비싼 버그(Bug)' 사태죠."
"사태의 원흉은 해커가 아닙니다. 귀찮다고 삭제하지 않고 9년간 방치해 둔 쓰레기 코드, 이른바 '기술적 부채(Technical Debt)'가 터져버린 비극이죠."
"행동경제학의 '자동화 편향(Automation Bias)'. 완벽한 컴퓨터가 무조건 인간보다 나을 것이라 맹신하며 스스로의 통제권과 이성을 완전히 꺼버린 겁니다."
"명심하세요. 코딩의 신들이 모인 월가조차 에러 한 번에 5천억을 찢어발겼습니다. '상식'이 없는 기계에게 리스크 관리를 외주 주는 순간, 당신의 계좌도 한순간에 삭제될 것입니다."
📖 실화 비하인드 스토리 해설 (Expert Column)
사건의 끔찍한 발단은 매우 어설프고 기초적인 엔지니어링 실수, 즉 개발자의 치명적인 '휴먼 에러(Human Error)'에서 시작되었습니다. 전날 밤, 나이트 캐피털의 소프트웨어 엔지니어는 8대의 핵심 메인 서버에 새로운 코드를 배포하는 과정에서, 단 1대의 서버에 코드를 복사하는 것을 깜빡 누락해 버리는 엄청난 실수를 저질렀습니다. 문제는 그 업데이트가 누락된 구형 서버 안에, 무려 9년 전인 2003년에 이미 사용 목적을 다하여 영구적으로 폐기 처분했어야 마땅한 낡은 테스트용 옛날 코드, 이른바 '파워 페그(Power Peg)'라는 이름의 '좀비 코드(Dead Code)'가 완전히 삭제되지 않은 채 시스템 내부에 방치되어 있었다는 사실입니다. 파워 페그 코드는 원래 자동 매매 시스템이 멈추지 않고 잘 작동하는지 그 한계치까지 밀어붙여 보기 위해 "시장의 주식 가격이 얼마든 상관없이 묻지도 따지지도 말고 무조건 최대한 빠르게 매수하고 다시 매도하라"는 극단적인 테스트용 명령어를 품고 있었습니다. 개발자들은 이 위험한 코드를 완전히 삭제하는 것이 귀찮다는 이유로 그저 스위치만 꺼둔 채(비활성화) 무려 9년을 묵혀 두었던 것입니다. 이것이 바로 행동경제학과 소프트웨어 공학에서 가장 끔찍하게 경고하는 '기술적 부채(Technical Debt)'의 폭발이었습니다. 8월 1일 아침, 업데이트가 누락된 서버와 다른 서버들이 엉키면서 스위치가 잘못 눌렸고, 죽어있던 파워 페그 코드가 시스템 내부에 강제로 활성화되어 버린 것입니다.
오전 9시 30분 장이 열리자마자, 나이트 캐피털의 알고리즘은 완전히 통제 불능의 좀비 로봇으로 돌변했습니다. 이 프로그램은 무려 148개의 개별 주식 종목에 대해 인간의 뇌로는 인지조차 불가능한 1초당 수천 번의 속도로 무자비한 거래 주문을 시장에 토해내기 시작했습니다. 문제는 이 망가진 알고리즘이 주식 투자의 절대적인 대전제를 정확히 정반대로 수행하고 있었다는 점입니다. 이 컴퓨터는 시장에 나와 있는 '가장 비싼 가격(최고가)의 주식을 풀매수'한 다음, 주식이 계좌에 들어오자마자 단 0.001초 만에 '가장 싼 가격(최저가)에 전량 헐값 매도'하는 완벽한 자본주의적 자해 행위를 1초에 수천 번씩 무한 반복했습니다. 즉, 거래가 성사될 때마다 무조건 나이트 캐피털의 막대한 현금이 허공에서 불타 없어지는 최악의 깡통 차기 짓거리를 세계 최고 성능의 슈퍼컴퓨터가 가장 빠르고 완벽하게 수행한 것입니다. 월스트리트의 다른 헤지펀드들과 개인 투자자들은 하늘에서 미친 듯이 현금을 뿌려대는 이 정체불명의 호구 알고리즘 덕분에 환호성을 지르며 물량을 떠넘기고 엄청난 횡재를 누렸습니다.
나이트 캐피털의 경영진과 트레이더들은 시스템에 쏟아지는 시뻘건 에러 로그와 비정상적인 천문학적 손실 알람을 보고 혼비백산했지만, 도대체 8대의 서버 중 어떤 서버의 어떤 코드가 이 미친 발작을 일으키고 있는지 원인을 단번에 파악하지 못해 우왕좌왕했습니다. 더 끔찍한 사실은, 그들이 컴퓨터 시스템을 맹신한 나머지 오작동 발생 시 즉각적으로 전체 거래를 강제 차단할 수 있는 물리적인 비상 정지 버튼, 이른바 '킬 스위치(Kill Switch)'조차 시스템에 제대로 설계해 두지 않았다는 점입니다. 이들이 원인을 찾지 못해 결국 서버실의 전원 케이블을 물리적으로 다 뽑아버리며 시스템을 완전히 강제로 셧다운시키는 데까지 걸린 시간은 정확히 45분이었습니다. 하지만 초고빈도 매매의 세계에서 45분은 그야말로 영겁의 시간이었습니다. 기계가 멈춘 오전 10시 15분, 이 미친 깡통 로봇이 45분 동안 토해낸 거래량은 자그마치 4억 주에 달했고, 이 '비싸게 사서 싸게 파는' 기행으로 인해 회사가 입은 최종 확정 손실액은 무려 4억 4천만 달러(당시 환율 기준 한화 약 5,000억 원 이상)로 집계되었습니다. 17년 동안 수백 명의 엘리트들이 피땀 흘려 쌓아 올린 누적 수익금 전체가 고작 45분 만에 한 줌의 재로 타버린 셈이었습니다. 17년간 월스트리트의 지배자로 군림했던 이 거대한 금융 제국은 단 한 줄의 코드 누락과 45분의 오류 때문에 회사의 순자산이 모조리 날아가 버렸고, 그날 즉시 지급 불능 파산 상태에 빠졌다가 결국 경쟁사인 겟코(Getco)에 헐값으로 강제 인수합병당하는 치욕적인 결말을 맞이했습니다.
이 서늘하고도 영화 같은 IT 금융 대참사가 현대 자본주의 시장을 살아가는 투자자들과 기술 맹신주의자들에게 던지는 행동경제학적 팩트 폭격은 살벌할 정도로 명확하고 잔혹합니다. 심리학에서는 인간이 자신이 온전히 이해하지 못하는 고도의 컴퓨터 시스템이나 인공지능(AI)이 도출해 내는 결괏값을 인간의 주관적 판단보다 항상 우월하고 완벽할 것이라고 맹목적으로 신뢰하는 현상을 '자동화 편향(Automation Bias)'이라고 정의합니다. 오늘날 수많은 개인 투자자들과 펀드 매니저들은 화려한 수익률 백테스팅을 앞세운 'AI 자동 매매 프로그램'이나 '로보어드바이저'에 자신의 피 같은 전 재산을 가볍게 맡기며 달콤한 불로소득의 꿈을 꿉니다. 그들은 복잡한 수학 공식과 알고리즘으로 무장한 컴퓨터가 감정에 휘둘리는 나약한 인간보다 훨씬 더 이성적이고 안전하게 돈을 벌어줄 것이라고 굳게 믿습니다.
하지만 반드시 명심하십시오. 당신이 철석같이 믿고 있는 그 완벽해 보이는 컴퓨터 알고리즘 역시 결국 어젯밤 야근에 찌들고 커피에 취해 실수투성이인 불완전한 '인간'이 코딩하고 타이핑한 결과물에 불과합니다. 인간의 교차 검증과 이성적인 통제라는 브레이크가 제거된 상태에서, 기계의 맹목적인 연산 속도는 치명적인 에러가 발생했을 때 당신의 손실을 우주 끝까지 기하급수적으로 키우는 가장 무서운 파멸의 무기가 됩니다. "비싸게 사서 싸게 파는 짓은 파산으로 가는 미친 짓이다"라는 초등학생 수준의 상식조차 컴퓨터는 코드로 정확하게 입력되지 않는 한 스스로 절대 깨닫지 못합니다. 월스트리트 최고의 천재 박사들이 천문학적인 돈을 쏟아부어 만든 슈퍼컴퓨터조차 인간의 귀찮음 한 번에 45분 만에 5,000억 원을 찢어발겨 버리는 자폭 로봇으로 돌변했습니다. 하물며 당신의 스마트폰에 깔려 있는 조잡한 자동 매매 프로그램이 기득권의 냉혹한 카지노에서 언제나 당신의 돈을 지켜줄 수 있다고 맹신하십니까? 완벽한 시스템이란 애초에 존재하지 않으며, 투자 시장에서 당신의 자산을 지켜주는 유일하고도 가장 강력한 안전벨트는 기계에 대한 맹신이 아니라, 언제든 플러그를 뽑아버릴 수 있는 '인간 스스로의 냉철한 의심과 리스크 관리 능력'뿐이라는 사실을 이 사건은 피눈물로 경고하고 있습니다.
