2023년 11월 등장한 챗GPT는 대중적으론 상당한 충격이었다. 인간과 문답이 가능한 인공지능은 센세이션을 일으키기에 충분했다. 오픈AI가 챗GPT에 이어 Dall-E라는 이미지 생성 인공지능을 선보이자 대중적 관심은 더 커졌다. 텍스트와 이미지를 스스로 생성하는 AI는 대중적으론 SF영화에서나 보던 것이었다.

정작 오픈AI가 챗GPT를 선보였을 때 가장 덤덤했던 사람들이 있었다. 구글 등에서 수년 이상 인공지능을 연구했던 AI 전문가들이었다. 챗GPT의 기술적 원리인 트랜스포머 모델을 개발한 당사자들이었다. 전문가들에게 챗GPT는 익숙한 기술이었다.

단어와 단어의 상관 관계를 따져서 다음에 이어지기에 적합한 최적의 단어를 찾아내는 초거대언어모델은 실리콘밸리 인공지능 산업계에선 상식적 기술이었다. 일부 인공지능 전문가들이 샘 올트만과 오픈AI가 진정 이뤄낸 건 인공지능 기술의 진보가 아니라 인공지능 기술의 대중화라고 말하는 것도 그래서다. 인공지능 응용의 시대를 연 것이다.

그런데 실리콘밸리 인공지능 전문가들보다 오히려 한발 먼저 인공지능을 응용한 산업이 있다. 바로 금융투자다. 초거대언어모델 이전에 초거대금융모델이 있었던 것이다. 그 시작은 르네상스 테크놀로지의 창업자 짐 사이먼스였다. 정작 짐 사이먼스는 자신을 금융인이라고 생각하지 않았다. 펀드 매니저라고 여기지도 않았다. 짐 사이먼스는 스스로를 수학자로 생각했다.

실제로 짐 사이먼스는 천재적 수학자였다. 20세에 MIT 수학과를 조기 졸업했다. 25세 때인 1963년 하버드 대학교 수학과 교수가 됐다. 그런데 1년 만에 대학교수 자리를 그만두고 미국 국가안보국에 들어갔다. 대학교수 자리가 재미가 없다는 게 이유였다.

천재 수학자 짐 사이먼스한텐 아무도 풀지 못하는 문제가 필요했다. 짐 사이먼스가 선택한 NSA 산하 국방분석연구소는 흥미로운 문제들 투성이였다.

동료 수학자 영입해 투자모델 개발

짐 사이먼스는 NSA에서 유령 사냥 작전을 수행했다. 암호 해독 부서에서 무수한 소음 속에서 유의미한 신호를 찾아내는 데이터 분석 알고리즘을 개발하는 일이었다.

국방분석연구소에서 짐 사이먼스는 중요한 2가지 경험을 한다. 하나는 1960년대에는 낯설었던 IBM컴퓨터로 빅데이터를 분석해봤던 것이다. 인간의 두뇌로는 연산이 불가능한 빅데이터도 컴퓨터로는 처리가 가능하다는 사실을 일찍 깨달은 것이다.

빅데이터는 생성AI의 핵심 요소다. 빅데이터가 있어야 머신러닝이 가능하다. 짐 사이먼스는 컴퓨터를 활용하면 인간이 연산하는 것이 불가능한 규모의 빅데이터도 얼마든지 처리 가능하다는 걸 깨달은 소수의 선각자였다.

또 다른 하나는 주식 시장처럼 온갖 가격 소음이 어우러지는 시장에서도 일정한 패턴을 찾아낼 수 있을 것이라는 아이디어였다. 카오스 속에서도 질서가 있다는 얘기였다. 이때부터 짐 사이먼스는 인간을 대신할 기계 트레이더를 만들겠다는 꿈을 꾸게 됐다. 투자하는 인공지능을 꿈꾸기 시작했던 것이다.

짐 사이먼스는 결국 1978년 41세 때 뉴욕주립대 교수 자리를 버리고 투자 회사를 설립한다. 두 번째로 교수직을 버린 것이었다. 무질서한 가격 변동 속에서 유의미한 패턴을 찾아낼 수 있다는 짐 사이먼스의 비전은 당시엔 그만큼 생소한 개념이었다. 초거대언어모델인 GPT-4의 매개변수는 1750억개 이상이다. 매개변수는 AI가 연산 과정에서 다루는 무수한 변수들을 말한다. 1750억개의 변수를 고려한다는 것은 당시로선 상상하기 어려운 일이었다.

짐 사이먼스는 컴퓨팅 파워가 아직 충분히 성장하지 못했던 1980년대부터 이미 이것이 다가올 미래라는 걸 알고 있었던 것이다.

이렇게 컴퓨터를 활용한 이른바 퀀트 투자가 상식이 된 2020년대에도 퀀트 투자의 수학적 기술적 모델을 모두 이해하는 사람은 극소수에 불과하다. 그러니 초창기인 1980년대에는 말할 것도 없었다. 당시만 해도 짐 사이먼스도 자신이 10년 동안이나 답을 찾아서 헤매야 할 줄은 몰랐다. 혼돈 속에서 질서를 찾아내는 데는 그만큼 충분한 시간이 필요했다.

짐 사이먼스는 국방분석연구소 암호해독팀 동료와 뉴욕주립대 수학과 동료들을 끌어들였다. 레너드 바움과 제임스 엑스였다. 모두가 쟁쟁한 천재들이었다. 우선 외환 거래 시장에서 유의미한 패턴을 찾아내는 투자 모델을 만들었다. 모델은 과학적이었다.

다만 수학자들은 투자에 대해선 문외한이었다. 레너드 바움은 수학 모델 개발에는 천재적이었다. 정작 자신이 만든 알고리즘을 투자에 어떻게 적용할지는 몰랐다. 제임스 엑스는 컴퓨터 트레이딩 프로그램을 만드는데 열심이었다. 다만 자신의 기술적 이론에 대한 프라이드가 엄청났다. 10년 만에 완성된 새로운 헤지펀드의 이름을 메달리온이라고 지었을 정도였다. 제임스 엑스가 수학 학회에서 받은 메달을 기념한 이름이었다. 제임스 엑스도 결국 수학자였다.

메달리온 펀드 실패원인 분석

짐 사이먼스와 제임스 엑스가 세운 가설은 시장 가격에 영향을 주는 뉴스와 가격 변동 중에서도 단기 신호에 집중한다는 것이었다. 장기적 신호는 다른 신호들 때문에 희석될 수 있었다. 단기 신호는 비교적 정확하게 포착할 수 있다고 봤다. 정확한 접근이었다. 그런데도 메달리온 펀드는 1988년 출시 첫 해에 25%의 손실률을 기록하고 말았다. 짐 사이먼스 입장에선 교수직까지 때려치우고 10년을 매달린 메달리온이 1년 만에 망할 판이었던 셈이다.

짐 사이먼스는 메달리온 펀드의 모델에 어떤 문제가 있는지를 파악하려고 애썼다. 반면 제임스 엑스는 자신의 모델에는 오류가 없다고 주장했다. 짐 사이먼스는 비즈니스적 접근을 했지만 제임스 엑스는 학문적 자존심을 앞세운 것이다. 제임스 엑스는 무조건 버티면 오른다고 주장했다. 짐 사이먼스한텐 손실을 감수할 시간이 없었다.

그래서 짐 사이먼스는 메달리온 펀드의 분석을 얼윈 벌캄프와 함께 했다. 벌캄프 역시 짐 사이먼스처럼 퀀트 투자 알고리즘 개발에 집중하고 있었다. 1986년 자신의 회사인 악스콤을 설립했다. 벌캄프의 아이디어는 메달리온 펀드의 알고리즘이 좀 더 초단기 전략을 써야 한다는 것이었다. 기간이 짧을수록 패턴 예측이 정확할 가능성이 높아지는 것이었다.

짐 사이먼스는 벌캄프의 의견에 따라 투자 종목 보유 기간을 1주일에서 1시간으로 줄였다. 대신 충분한 수익을 내기 위해 보유 기간이 짧은 대신 큰 레버리지를 썼다. 짧고 크게 먹는 투자 전략이었다. 결과는 대성공이었다.

초단기 투자 전략으로 재가동된 메달리온 펀드는 수익률 56%를 찍는다. 정작 얼윈 벌캄프는 수익이 좀 나자마자 메달리온 펀드에서 돈을 빼서 떠나버린다. 얼윈 벌캄프도 개발자였지 투자자는 아니었던 것이다. 손실 이후 수익이 나면 장을 떠나는 전형적인 초보 투자자의 실수를 저질렀던 것이다.

모든 천재 수학자가 모두 천재 투자자일 수는 없는 법이다. 그렇게 홀로 남은 짐 사이먼스는 그 뒤로 10년 동안 메달리온 펀드의 알고리즘을 고도화하는데 집중한다.

짐 사이먼스는 군대 시절의 경험을 르네상스 테크놀로지의 조직 문화에 적용했다. 모든 걸 숫자와 통계로 결정하는 르네상스 테크놀로지만의 의사 결정 구조를 완성했다. 컴퓨터 알고리즘으로 초단기 투자를 하는 르네상스 테크놀로지의 제1 원칙은 컴퓨터의 결정을 절대 무시하지 않는다는 것이다. 인간의 육감과 기계의 분석은 다를 수 있다. 그 다름이 르네상스 테크놀로지의 기회다. 르네상스 테크놀로지는 회사 행사의 자리 배치까지도 인공지능 알고리즘의 결정에 따르는 것으로 유명하다.

그렇지만 르네상스 테크놀로지의 최우선 원칙은 따로 있었다. 경쟁이 아니라 협업을 선택한 것이다. 월스트리트는 트레이더들의 실적을 높이기 위해 경쟁을 시킨다. 내부 실적 경쟁이 회사의 경쟁력을 높인다고 보기 때문이다. 결국 회사는 정보 공유를 하지 않는 사일로로 변한다. 반면 르네상스 테크놀로지는 개개인의 실적으로 성과를 측정하고 보상을 하지 않는다. 협업을 통해 새로운 알고리즘을 찾아내면 수년 동안 해당 알고리즘으로 수익을 누적하고 그걸 나중에 분배한다.

르네상스 테크놀로지의 구성원 대부분은 퀀트 트레이더들이 아니라 퀀트 알고리즘을 만드는 수학자나 통계학자 같은 과학자들이기 때문이다. 짐 사이먼스는 르네상스 테크놀로지의 테크놀로지를 업그레이드하기 위해 수학자 연구집단의 문화를 이식했다.

수학은 머리 속에 든 아이디어를 공유해야 발전할 수 있는 사고 실험 학문이다. 공유하고 협업해야 발전한다. 르네상스 테크놀로지도 마찬가지다. 대신 르네상스 테크놀로지의 보상 구조는 다소 군대식에 가깝다.

협업·군대식 규율 섞은 기업문화

일단 르네상스 테크놀로지에 입사하면 다른 금융사로의 이직이 불가능하다. 동시에 급여의 4분의 1은 의무적으로 메달리온 펀드에 투자된다. 일견 노예 계약처럼 보이지만 실제로는 보상이 엄청나다. 메달리온 펀드는 가입 자체가 특권이기 때문이다.

르네상스 테크놀로지가 위치한 뉴욕 인근 롱아일랜드엔 직원들을 위한 고급 맨션과 최고 학교들이 세워졌다. 수학자의 협업 문화와 군대식 규율을 혼합한 것이 르네상스 테크놀로지의 기업 문화다.

대신 한 가지만 지키면 된다. 르네상스 테크놀로지의 투자 비밀은 조금 과장하면 무덤까지 가져가야만 한다. 그래서 르네상스 테크놀로지의 퀀트 알고리즘에 관해선 외부에 유출된 것이 거의 없다. 분명한 건 시장에서 발견된 여러 패턴들 중 하나 이상의 것을 믹스 앤 매치해서 투자 전략으로 활용한다는 것이다.

가격 변동을 일으키는 패턴들은 미세한 것들이 많을 수 있다. 그런 미세한 변수들을 칵테일해서 이익을 극대화하는 것이다. 르네상스 테크놀로지가 공개한 변수 중 하나는 날씨다. 날씨는 증시에 영향을 미친다. 그 정도는 미미하지만 말이다.

르네상스 테크놀로지가 퀀트 알고리즘을 기업 비밀로 만든 건 경쟁자를 우려해서만은 아니다. 퀀트 투자의 전제 조건은 시장의 움직임이 합리적이라는 것이다. 누군가는 질적 분석을 통해 투자를 하고 있어야 퀀트 투자가 그런 움직임의 패턴을 찾아내서 추종하는 것이다.

쉽게 말해 퀀트 투자는 나는 생각하지 않고 남의 생각을 초스피드로 모방하는 것에 가깝다고까지 할 수 있다. 그런데 누군가 르네상스 테크놀로지의 투자 패턴을 모방하면 이런 패턴이 깨진다. 모방의 모방의 모방을 거듭하는 시장이 만들어내는 추세는 혼돈일 뿐이다.

그래서 르네상스 테크놀로지의 알고리즘은 소수의 투자자들에게만 개방돼 있다. 메달리온 펀드는 이제는 돈이 있어도 가입이 거의 안 된다. 1993년부터 신규 투자를 거의 중단했고 2000년대 이후엔 거의 직원 위주가 됐기 때문이다. 메달리온 펀드가 퀀트 펀드의 유니콘이라고 불리는 이유다.

다른 르네상스 테크놀로지 펀드들의 수수료도 엄청나게 높다. 고정수수료가 5%고 성과수수료는 44%에 달한다. 그런데도 다들 돈을 맡기려고 난리다. 워런 버핏처럼 가치 투자를 하는 것도, 조지 소로스처럼 승부사 투자를 하는 것도 누군가처럼 내부자 정보를 기대하는 것도 어려워지고 있기 때문이다.

이미 시장이 내가 아는 것과 내가 모르는 것까지 모든 걸 선반영하는 시대다. 그렇다면 시장의 변화에 그때그때 빠르게 반응하는 것이 해법일 수 있다. 그 빠르기가 인공지능을 이용한 전광석화라면 시장을 이길 가능성이 높아진다. 리액션이야말로 AI 시대에 걸맞는 투자 방식이다.

금융위기 때 수익률 150% 상회

르네상스 테크놀로지와 짐 사이먼스한테는 숫자로 설명되지 않는 것은 아무것도 중요하지 않다. 그래서 르네상스 테크놀로지는 경제 위기 때 더 빛을 발한다.

인간이 패닉에 휩쓸릴 때 기계는 숫자에만 집중하기 때문이다. 2008년 금융위기 때 르네상스 테크놀로지의 수익률은 무려 152%에 달했다. 인간은 대재난에 벌어지면 왜 이런 일이 벌어졌는지부터 찾는다. 이해한다는 것은 공포를 누그러뜨리는 방법이기 때문이다. 그렇지만 1 더하기 1이 2인데는 이유가 없다. 수학은 이유를 찾는 학문이 아니다. 원리를 찾는 학문이다. 짐 사이먼스는 수학적 접근을 인간 욕망의 도가니탕인 투자 시장을 분석하는데 활용했다.

짐 사이먼스 르네상스 테크놀로지 창업자는 2010년 은퇴했다. 후임자는 IBM연구소 출신의 AI과학자들이었다. 피터 브라운과 로버트 머서였다. 둘은 IBM에서 AI 언어 번역 프로그램을 개발했다. 단순한 번역 프로그램이 아니었다. 핵심 원리가 챗GPT와 동일했다. 어텐션 모델을 기반으로 했던 것이다.

짐 사이먼스가 운영자산만 1000억달러에 이르는 헤지펀드 르네상스 테크놀로지의 차기 리더로 IBM에서 초거대언어모델을 연구한 인공지능 전문가를 선택한 이유가 있었다. 투자에서 성공하려면 기업 가치나 원자재의 가치를 질적으로 이해할 필요가 없다는 걸 알고 있었다. 단지 특정 주가 상승 다음에 다시 상승할 가능성이 있는지 없는지를 양적으로 분석하기만 하면 됐다.

짐 사이먼스와 르네상스 테크놀로지는 1988년부터 그렇게 투자 시장에서 천문학적인 돈을 벌었다. 30년 동안 르네상스 테크놀로지의 연평균 수익률은 66%를 기록했다. 같은 기간 S&P 수익률의 1000배였다. 줄여서 퀀트 투자라고 불리는 양적 투자의 본질은 사실 챗GPT와 다르지 않았다. 짐 사이먼스는 2010년 은퇴할 때 연봉이 3조3000억원에 달했다. 월스트리트 헤지펀드 매니저 중 1등이었다. 정작 짐 사이먼스는 자신을 펀드 매니저라고 여기지 않았다. 수학자로 생각했다. 은퇴 이후에도 수학자로서 후학 양성에 매진했다.

짐 사이먼스는 초거대금융모델을 만들어냈다. 자연어를 다루는 초거대언어모델 역시 단어와 단어 사이에 이유가 필요 없다. 자연에는 이유가 없다. 시장에도 이유가 없다. 돈에는 사연은 있지만 이유는 없다. 짐 사이먼스는 초거대금융모델의 샘 올트만이다.

- 신기주 지식정보플랫폼 ‘카운트’(Count) 대표