저는 큰 틀에서 ‘확률론’을 연구합니다. 주사위를 던졌을 때 어떤 숫자가 나올지와 같은 단순한 확률은 직관적으로 알 수 있기 때문에 더 연구할 필요가 없습니다. 하지만 현대사회에서 풀고자 하는 확률문제는 주로 ‘굉장히 복잡한 상황에서 각각의 요소가 무작위로 움직일 때 그 요소들이 모인 전체는 어떻게 움직일까?’에 대한 것입니다. 공기의 흐름을 생각해 보세요. 각각의 공기 입자는 무작위로 움직입니다. 우리는 입자 하나하나의 움직임은 모르지만, 공기 전체의 흐름은 알 수 있습니다. 물을 이루는 분자 각각의 움직임 역시 알 수 없지만 물 전체가 어떻게 움직이는지는 알 수 있어요. 이처럼 전체를 이루는 각각의 요소들이 갖는 무작위 효과가 모여서 어떻게 움직이는지 찾아내는 연구를 수행하고 있습니다. 단순한 예를 들었지만, 실제로 금융이나 인공지능과 같은 현대 첨단산업에서 나타나는 복잡한 현상들 중에 이러한 속성을 가지는 것이 많습니다. 저는 궁극적으로 이러한 복잡한 현상들을 이해하는 틀을 마련하기 위해 노력하고 있고, 최근 들어서 하고 있는 것은 앞서 설명한 것과 같은 복잡한 상황에서 나타나는 여러 현상 중 낮은 온도의 물리계나 딥러닝 알고리즘 등에서 나타나고 있는 메타안정성이라는 것에 대한 연구입니다.

메타안정성은 어떤 시스템에 안정된 상태가 여러 개 있는 경우에 나타납니다. 가장 대표적으로는 수리물리학에서 저온 상태의 모형이 나타내는 현상으로 이해할 수 있어요. 예를 들어 물의 어는점은 0℃이지만 물을 빠른 속도로 냉각시키면 물의 상태를 액체로 유지하면서 그 온도가 0℃보다 낮게 할 수 있습니다. 0℃ 미만에서도 안정적인 액체 상태를 유지하는 거죠. 하지만 이 온도에서는 다른 안정된 상태인 얼음 상태가 있지요. 이처럼 두 개의 안정 상태가 있으면 메타안정성이 나타납니다. 메타안정성이 보이는 대표적인 현상은 하나의 안정된 상태에서 급격히 다른 안정된 상태로 전이되는 현상입니다. 앞선 물의 예의 경우 과냉각된 액체에 아주 작은 자극을 주어도 급격히 더 안정된 상태인 얼음이 됩니다. 이처럼 과냉각된 물이 얼음으로 넘어가는 현상을 메타안정성으로 설명할 수 있어요. 이런 메타안정성은 물리, 화학, 전기전자 분야를 망라해 두루 나타나는 현상으로 확률론 분야 연구에서 상당히 중요한 문제입니다. 1920~30년대부터 이런 현상을 수학적으로 이해하려는 노력이 시작되었고, 최근 딥러닝 분야에서 사용하는 최적화 알고리즘의 성능개선과 관련하여서도 이 메타안정성이 중요한 역할을 하고 있습니다.

메타안정성을 확률론의 관점에서 정량적으로 정확하게 이해하기 위해 1980년대부터 많은 이론이 정립되었습니다. 특히 가장 성공적이었던 것은 2000년대 초반 개발된 잠재이론적 접근법이라는 것입니다. 이 방법은 모델에 시간 가역성이 있는 경우만 분석이 가능하다는 한계가 있습니다. 시간 가역성이라는 개념을 설명드리기 위해 당구대를 생각할 수 있습니다. 당구대 위 당구공의 이동 모습을 비디오로 녹화해서 거꾸로 돌려 보아도 공들의 움직임이 자연스러워 보입니다. 이처럼 거꾸로 돌려도 물리적으로 이상하지 않은 경우를 시간 가역성이 있다고 합니다. 하지만 물리계에는 그렇지 않은 비가역적 경우가 훨씬 많습니다. 또한 메타안정성이란 확률과정이 여러 개의 안정 상태를 가지기 때문에 나타나는 현상으로, 그 발생 원인이 시간 가역성과는 아무런 관계가 없습니다. 따라서 메타안정성을 나타내는 여러 수리물리학의 모델들을 이해하고 설명하기 위해서는 시간 가역성이 없는 확률과정의 메타안정성을 설명하는 새로운 방법론이 필요했습니다. 제가 하는 연구는 그런 방법론을 개발하는 것입니다.

본 연구의 궁극적인 목표는 확률과정의 메타안정성을 정량적으로 이해하는 새로운 기틀을 수립하고, 이를 토대로 확률론과 수리물리학에서 중요한 여러 모델의 메타안정성을 정량적으로 분석하는 것입니다. 앞서 설명한 것처럼 물리계에는 가역성이 있는 경우도 있지만, 시간을 돌릴 수 없는 비가역적 현상이 훨씬 많고 보편적입니다. 예를 들어 ‘작은 노이즈가 있는 동역학계’의 경우 단순하고 직관적인 문제임에도 불구하고 정량적인 메타안정성 연구는 수십 년간 난제로 남아 있습니다. 이 과제의 연구는 크게 새로운 메타안정성 연구 방법론을 수립, 다양한 수리물리학 시스템으로의 응용을 목표로 하여 앞에서와 같은 다양한 난제들을 해결하는 것입니다. 이를 위해 해당 과제를 통해 기존에 복잡한 파편들로 존재하던 여러 개념을 창의적으로 재해석하고 조합하여 새로운 방법을 만들었는데, 이 결과가 좋은 성과로 이어져 2020 젊은과학자상과 서울대 자연과학대학 연구상 수상으로 연결되었습니다.

기존의 연구는 확률의 범주 안에 있는 도구들을 활용하여 메타안정성을 설명했습니다. 가역성이 있는 경우 잘 적용이 되었고요. 이후 많은 수학자가 비가역적 현상까지 이해하고자 노력해왔지만 성과는 거의 없었습니다. 저는 다른 연구자들이 사용하지 않았던 도구인 확률의 세계 밖에 있는 편미분방정식에서 쓰이는 이론과 방법 등을 확률의 메타안정성과 결부해 비가역적 현상을 설명하는 새로운 방법론을 찾았습니다.

많은 어려움이 있었습니다. 어려움 중에는 예상했던 것도 있고, 그렇지 못한 것도 있는데 대부분 예상했던 어려움이었습니다. 생각했던 것보다 훨씬 더 어려웠을 뿐이죠.(웃음) 식상한 대답이지만 차분하게 열심히 최선을 다하는 것 외에는 어려움을 돌파할 방법은 없습니다. 공동연구자들과 문제 해결의 방안을 모색하되 저는 그 과정에서 제 삶이 문제 자체에 너무 함몰되지 않도록 노력합니다. 이런 어려움을 만나면 이를 해결하기 위해 어쩌면 몇 달, 아니면 몇 년을 싸워야 하는 장기전이 기다리고 있습니다. 장기전에서 가장 중요한 것은 전투실력이 아니라 보급이지요. 연구가 중간에 막히면 잠도 안 오고, 밤샘 연구를 하게 되는 경우도 많은데요. 저는 새벽까지 연구를 하면 생활과 건강의 균형이 깨지기 쉽기에 아침부터 저녁까지 규칙인 연구 시간을 유지하려고 노력해 왔습니다. 정신적인 보급이 부족하지 않도록 노력하는 것입니다. 또 지금은 코로나19 상황으로 여의치 않지만, 이전에는 집과 학교, 때론 카페로 연구 장소를 옮기며 연구 환경을 환기하기도 했습니다.

딥러닝의 복잡한 원리를 아주 단순화하면 어떤 목적함수의 최솟값을 찾는 것으로 생각할 수 있습니다. 하지만 이 목적함수는 굉장히 복잡하기 때문에, 최솟값을 찾는 알고리즘이 여러 문제를 보일 수 있는데요. 바로 이 문제가 메타안정성과 연결됩니다. 따라서 이 메타안정성을 잘 이해하면 알고리즘의 속도와 관련된 수학적 이해를 깊게 할 수 있어요. 더 빠르거나 정확한 알고리즘을 찾을 수 있어 최솟값을 찾을 수 있다는 기대가 있습니다. 특히 최근 제 연구를 통해 메타안정성을 발현하는 데 소요되는 시간이 비가역적인 경우가 가역적인 것보다 빠름을 알았기 때문에 이런 기대를 실현시킬 가능성은 많이 커졌습니다. 이처럼 비가역적인 경우의 메타안정성 현상이 더 빠르게 나타난다는 것은 물리학에서 이미 예측됐지만, 수학적으로 증명되고 그 원리가 이해된 것은 최근 연구들을 통해서입니다.

통계역학 분야 연구자들과 교류가 많은 편이에요. 시각차는 있지만 서로의 연구에 자극을 주죠. 또 물리학자들의 직관은 연구에 굉장히 도움이 됩니다. 앞서 딥러닝 관련 이야기도 했는데요. 최근 이 분야의 연구자들과 함께 딥러닝에 비가역적 알고리즘을 도입하는 방법과 이를 실제 데이터에 적용하는 것에 대한 논의도 다양하게 진행하고 있습니다. 관련하여 서울대학교 산업수학센터(한국연구재단 ERC)의 플랫폼의 많은 도움을 받고 있습니다.

저만의 경쟁력이라고 하기는 그렇지만, 수학자로서 공부를 많이 하려고 노력한다는 점을 저의 장점으로 생각하고 싶습니다. 수학은 굉장히 정적인 학문일 것 같지만 사실 제 연구주제와 관련한 분야만 해도 새로운 논문이 많이 나와 따라가기 벅찹니다. 그럼에도 제 분야에만 좁게 갇혀 살지 않도록 한 분기에 한 주제씩 제 인접 분야를 공부하며 외연을 넓히고 시각을 넓히고자 노력하고 있습니다. 제 연구주제와 너무 가깝지도 멀지도 않은 인접 분야의 방법론을 보면 제가 관심 있는 것들에 대해 식견을 넓힐 수 있습니다. 메타안정성 연구도 기존의 확률 영역의 도구가 아닌 인접 분야의 방법론을 접목하며 문제 해결의 아이디어를 얻을 수 있었습니다.

도태되지 않고 흐름을 선도하는 수학자가 되고 싶습니다. 수학은 발전 속도가 굉장히 빠릅니다. 제가 박사 학위를 하던 2014~2015년, 당시 기술로는 평생 연구해도 풀리지 않을 것이라 여겨졌던 문제들도 불과 4년 후 해결된 것을 보았습니다. 예전의 연구개발 시스템은 연구자들이 도서관에서 일일이 참고 논문을 찾고 검토하고 연구했지만, 정보화의 발전에 따라 이제는 자신의 연구실에서 전 세계 논문을 검색하고 세계 각국의 공동연구진들과 다양한 정보를 나누고 협업할 수 있게 됐습니다. 선진국들의 연구에 대한 지원도 훨씬 강력해졌고요. 이 같은 연구개발 환경 변화에 따라 발전 속도가 빨라진 것 같습니다. 이 흐름에서 뒤처지지 않고 흐름을 선도하는 수학자가 되고자 노력합니다.

단기적으로는 메타안정성과 관련해 가장 큰 문제인 동역학계의 난제를 해결하고 싶습니다. 하지만 궁극적으로 도전하고 싶은 것은 메타안정성뿐만 아니라 다양한 측면에서 상호작용하는 입자들의 시스템이나 자기 시스템 등 확률론과 수리물리학을 연결하는 중요한 모델들을 종합적으로 더 잘 이해할 수 있게 되는 것이 목표입니다.

우리나라의 수학이 빠른 속도로 발전하여 세계 최강국들과 어깨를 나란히 할 수 있게 된 것은 세계적 수준의 연구비 지원이 큰 역할을 했다고 생각합니다. 또한, 예전에 일각에서 지적되었던 연구자들의 행정의무와 관련된 여러 문제점 역시 연구자들의 목소리를 반영해 많은 개선이 진행되고 있다는 것을 느껴 긍정적으로 생각하고 있습니다. 그럼에도 기회가 흔치 않으니 한 가지 개선되었으면 하는 점을 당부드릴까 합니다. 올해부터 모든 연구자가 연구노트를 쓰도록 법제화가 되었습니다. 실험이 있는 경우와 달리 순수 수학자들이나 인문학자들의 연구는 노트에 적시하기 힘든 무형의 사유와 토론이 연구 활동의 주가 되는 날이 대부분입니다. 또한 대부분의 날들이 성공으로 가기 위한 실패한 날들입니다. 이런 무형의 실패에 해당하는 대부분의 연구 내용들을 노트에 적시하는 것은 의미도 없을뿐더러 불필요하고 소모적인 일입니다. 또한 이들 학문의 경우 추후 실험노트와 같이 엄밀하게 데이터의 내용이나 해당 내용을 도출한 시점 등을 증빙해야 할 일도 없습니다. 이처럼 수학과 인문학 분야는 학문의 특성을 고려하여 다른 방식으로 연구노트가 대체될 수 있으면 좋을 것 같습니다.