양자역학도 기계학습으로 정복

세상에 존재하는 모든 물질, 즉 스마트폰 배터리부터 항암제 분자까지 그 성질을 완벽하게 알아내려면 딱 하나의 공식만 풀면 된다. 바로 양자역학의 최종 보스인 '슈뢰딩거 방정식(Schrödinger Equation)'이다. 이 방정식을 완벽하게 풀 수만 있다면 실험실에서 비커에 화학 약품을 섞어볼 필요 없이, 컴퓨터 모니터 앞에서 세상에 없는 꿈의 신소재(상온 초전도체 등)를 마음대로 설계해 낼 수 있다. 하지만 물리학의 끔찍한 비극은, 전자가 2개 이상 모이는 순간 전자들끼리 밀어내는 기괴한 상호작용 때문에 방정식이 미친 듯이 복잡해져서, 21세기의 최첨단 슈퍼컴퓨터를 100년 동안 돌려도 거대 분자의 방정식을 풀 수 없다는 것이다. 절망에 빠진 물리학자들 앞에 최근 구원자가 등장했다. 바로 챗GPT를 탄생시킨 '인공지능 딥러닝(기계학습)'이다. AI가 도무지 풀리지 않던 양자역학의 철벽을 어떻게 허물어버리고 있는지 놀라운 과학의 융합을 살펴보자.

차원의 저주와 양자역학의 한계

전자가 하나인 수소 원자의 슈뢰딩거 방정식은 종이와 펜만으로도 정답을 낼 수 있다. 하지만 물 분자(H2O)만 되어도 전자가 10개로 늘어난다. 전자가 늘어날 때마다 우주의 모든 공간(X, Y, Z축)에서 10개의 전자가 서로 어떻게 얽혀서 춤을 추고 있는지 파동함수로 다 계산해야 하는데, 전자가 10개면 30차원의 수학 공간이 필요하다. 분자가 조금만 더 커져서 전자가 100개가 되면, 슈퍼컴퓨터의 램(메모리)에 우주의 모든 원자 수보다 더 많은 숫자를 집어넣어야 하는 '차원의 저주(Curse of Dimensionality)'에 빠져버린다. 그래서 기존의 화학자들은 억지로 공식을 뭉뚱그려서 대충 근사치(밀도범함수이론, DFT)만 때려 맞히며 연구를 해왔는데, 그 오차가 너무 커서 신소재를 예측하기엔 턱없이 부족했다.

인공지능, 정답의 패턴을 훔치다

여기서 기계학습(Machine Learning)이 등판한다. 인공지능은 공식을 곧이곧대로 어렵게 미분하고 적분하며 풀지 않는다. 과학자들은 전자가 몇 개 없는 작은 분자들의 '정답(완벽하게 푼 파동함수)' 수만 개를 인공지능 신경망에 먹이로 던져주었다. 인공지능은 그 수만 개의 정답 데이터를 미친 듯이 학습하며, "아하! 원자핵의 위치가 이러면 전자 구름은 대충 이런 모양으로 생기는구나!"라는 숨겨진 '패턴(통계적 규칙)'을 스스로 깨우치게 된다. 알파고가 수만 판의 기보를 보고 직관적으로 다음 돌을 놓을 위치를 찍어내듯, AI는 거대한 분자를 던져주면 복잡한 방정식을 건너뛰고 전자 구름의 모양과 에너지를 순식간에 '유추(추론)'해 낸다.

페르미넷(FermiNet), 구글 딥마인드의 충격

2020년, 구글 딥마인드가 발표한 인공지능 모델 '페르미넷(FermiNet)'은 물리학계를 충격에 빠뜨렸다. 페르미넷은 전자들이 서로 절대로 같은 방에 들어가지 않으려는 양자역학의 까다로운 규칙(파울리 배타원리)을 인공 신경망의 뼈대에 아예 내장시켜 버렸다. 이 AI에게 탄소와 질소가 얽힌 복잡한 분자를 던져주었더니, 슈퍼컴퓨터가 몇 달을 낑낑대며 계산해야 할 미친 듯이 정밀한 양자역학적 에너지 상태를 단 며칠 만에, 그것도 기존 방식보다 수백 배 정확하게 찍어냈다. 방정식의 수학적 지옥을 인공지능의 통계적 직관으로 완벽하게 우회해 버린 것이다.

실험실 없는 화학의 르네상스

양자역학과 기계학습이 융합되면서 신소재 개발의 속도는 폭발적으로 빨라지고 있다. 과거에는 배터리의 용량을 늘리기 위해 수천 가지 화학 물질을 사람이 일일이 섞어보고 폭발시켜 보며 실험(시행착오)을 해야 했다. 이제는 인공지능이 양자역학을 바탕으로 수백만 개의 분자 구조를 컴퓨터 모니터 속에서 빛의 속도로 결합해 보고, "이 구조로 만들면 에너지가 가장 높고 안전합니다"라고 콕 집어 정답을 알려준다. 실험실의 지독한 화학약품 냄새 대신, 그래픽 카드(GPU)가 내뿜는 뜨거운 열기가 새로운 신약을 만들어내는 화학의 르네상스가 시작된 것이다. ![디지털 청사진 위에 떠 있는, 최대 에너지를 유지하도록 AI 알고리즘에 의해 완벽하게 설계된 미세하게 빛나는 신소재 분자](https://image.pollinations.