금융가와 정보기관에선 왜 수학 천재를 찾을까?

누군가 돈 버는 방법을 수학 공식으로 밝혀낸다면 어떨까? 종자돈 얼마를 가지고 어디에 투자해서 얼마동안을 기다리면 확실하게 얼마의 이윤이 생기며 절대 예외 없이 언제나 100% 들어맞는다면 말이다. 미국 금융계의 중심가인 월스트리트에서는 바로 이런 희망(?)을 품고 해마다 수많은 수학자들을 채용하고 있다. 영화 <굿 윌 헌팅>의 주인공인 수학 천재가 금융 회사에서 러브콜을 받는 이유도 바로 그 때문이다. 이들의 목표는 주식 시장의 변동을 최대한 정확하게 예측하는 것. 주가의 변동에 영향을 주는 온갖 변수들을 낱낱이 분석해서 그 종합적인 결과를 예측 가능한 공식으로 나타낼 수 있다면, 투자자들에게는 그야말로 황금을 만드는 마이다스의 손처럼 여겨질 터이다. 하지만 주식 시장, 아니 더 넓게 보아서 경제 사정을 정확하게 예측하기란 너무나 어렵다.경제는 정치, 외교, 문화 등등 사회의 모든 분야로부터 시시각각 민감하게 영향을 받아 종잡을 수 없이 꿈틀거리기 때문이다. 

그럼에도 불구하고 수학자는 논리적 분석력과 정보 분석 훈련을 기반으로 금융계에서 두각을 나타내고 있다. 금융상품의 현재가치가 미래에 금리·환율·주식에 따라 어떻게 변화할 지, 그래서 이것을 지금 얼마에 사야 가장 적정한 투자가 될 지를 당장에 계산해내는 데 정통수학이 강점을 발휘하고 있는 것이다. 

특히 수학자들의 금융계 진출은 ‘한 달 뒤 금리가 얼마 오르면… `1년 뒤 환율이 일정수치 이하로 떨어지면… 등처럼 갈수록 복잡해지는 조건(옵션)들이 붙은 갖가지 파생상품들이 생겨나면서 더욱 두드러졌는데 이는 수학이 세상의 불확실성을 계산수식으로 예측 가능하게 하기 때문이다. 이와 관련 수학자들은 각종 파생상품을 개발해내는 등 국제금융시장에서 엄청난 영향력을 발휘하고 있는데 `퓨처 `스왑 등 각종 금융파생상품 개발에 수학자가 깊이 개입해 있다는 사실은 이미 널리 알려진 이야기이다. 

이밖에 금융파생상품 중 `옵션거래에 기본이 되는 `블랙-숄즈 공식은 97년 노벨 경제학상을 받은 수학자 숄즈가 만들었는데 이는 파생상품의 정상가격이 어떻게 결정될 수 있는지를 수학적으로 보여줌으로써 이제껏 경험과 직관에만 의존하던 판단기준을 보다 객관적이고 과학적으로 만들었고 파생상품의 발행자에게 따르는 위험을 분석해 이에 대한 보호책을 제시했다. 

한편 <굿 윌 헌팅>의 주인공을 부르는 곳은 또 있다. 바로 국방부나 정보기관. 이들은 경기 예측이 아니라 복잡한 암호 때문에 수학자들을 필요로 한다. 그렇다면 암호를 만드는 데 수학이 어떻게 이용된다는 것일까? 

현대의 정보기관에서는 암호 체계를 구축하는데 고도의 수학적 원리들을 차용한다. 그리고 그 원리의 핵심에는 소수(prime number), 즉 1과 그 자신만으로 나누어지는 자연수가 자리 잡고 있다. 소수는 무한히 존재하지만 특별히 그 순열(2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31...)을 밝히는 수학법칙이 아직 발견되지 않았기 때문에, 세계 각국에서는 가능한 한 큰 소수를 발견하기 위해 슈퍼컴퓨터를 밤낮으로 돌리며 거대 소수를 찾고 있다. 암호를 거대한 소수만의 곱으로 만들어버리면, 그 암호를 풀기 위해서 무척 오랜 시간이 소요되기 때문이다. 게다가 단순히 소수만의 곱이 아니라 소수를 알아야만 풀 수 있는 복잡한 함수나 고차방정식으로 암호를 만들면 더 해독하기가 힘들어진다. 수학자들은 바로 이런 암호를 가능한 한 빨리 풀 수 있는 방법을 연구하는 것이다.어떤 수가 소수인지 아닌지 판정하려면 소인수분해를 해 봐야 하는데, 컴퓨터도 백만 자리수 정도가 넘어가면 벽에 부딪치고 만다. 그래서 그 이상의 소수를 발견하기 위해선 특수한 수학적 기법을 이용해 컴퓨터로 확인 절차를 거치게 된다. 

1978년에 18세의 두 학생이 미국 캘리포니아 주립대 전산실에서 그 당시로서는 가장 큰 소수를 발견했다. 그 수는 2의 21701제곱-1이었다. 즉, 2를 21701번 제곱한 다음에 1을 빼는 것이다. 이처럼 2의 n제곱-1이라는 형태의 수를 메르센 수라고 하는데, 메르센 수는 소수인지 아닌지 판정하는 수학적 기법이 있기 때문에 그 뒤로 컴퓨터로 발견해 낸 소수들은 대부분 메르센 수가 된다. 

당시 그 학생들은 소수를 발견하기 위해 사이버 174라는 모델의 컴퓨터를 350시간 가량이나 돌렸다고 한다. 

1985년에는 미국 텍사스 주의 셰브론 지구과학연구소에서 크레이 XMP 컴퓨터를 써서 2의 216901제곱-1이 소수라는 사실을 알아냈다. 이때는 컴퓨터 작동시간이 3시간이 걸렸다. 

다시 1989년엔 암달(Amdahl) 1200E 메인프레임 컴퓨터를 이용한 팀이 더 큰 소수를 발견했다. 그 수는 2의 216193제곱에다 391,581을 곱한 뒤 거기서 1을 뺀 수이다. 이 수의 소수 확인을 위해 컴퓨터가 돌아간 시간은 33분. 

2005년 9월 현재까지 밝혀진 가장 큰 소수는 2의 25964951제곱-1이며, 2005년 2월 18일에 마틴 노웍이란 사람이 발견했다. 이 수는 42번째로 발견된 메르센 수이다. 

사실 슈퍼컴퓨터들의 거대 소수 찾기 경쟁은 물론 제조업체에겐 좋은 광고가 된다는 효과도 있지만, 그 배후에 숨은 이유는 앞에서도 언급했듯이 오늘날 암호학의 근간이 되는 수학이론이 거대 소수를 이용하기 때문이다. 그래서 미국의 국가안전국(NSA)을 비롯한 여러 기관들이 소수 연구에 막대한 비용을 투자하는 것이다. 만약 소수를 생성하거나 발견하는 어떤 수학적 법칙이 발견된다면, 그것은 수학계뿐만 아니라 정보과학에도 일대 혁명이 일어날 것이기 때문이다. 

결국 <굿 윌 헌팅>의 주인공과 같은 수학 천재들은 그 탁월한 독창적 통찰력으로 경제 현상과 같은 복잡한 계(system)에서 정확한 현상 예측 기법을 밝혀낸다거나 소수 생성의 원리 같은 수학적 난제들을 해결할 수 있지 않을까 하는 기대를 받는 것이다. 혼돈이론이나 카오스이론, 또 카타스트로피이론 등등도 따지고 보면 이런 예측 방식을 연구하는 과정에서 나온 확률적 기법이라 할 수 있다. 아인슈타인이 규명해 낸 상대성이론이 마치 마술이나 판타지처럼 기존의 물리법칙을 뛰어넘는 오묘한 모습을 지니고 있듯이, 이런 수학적 대발견도 우리가 전혀 상상하지 못했던 획기적인 내용을 담고 있을지도 모른다. 그런 한계를 뛰어넘는 새로운 발상이 과연 21세기에는 등장하게 될까? (글 : 박상준 ? 과학칼럼니스트)

(출처 : KISTI의 과학향기)