2024년 노벨 물리학상: 기계에 인간의 지능을 불어넣은 두 거장의 혁신
올해에도 어김없이 노벨상의 시즌이 돌아왔습니다. 2024년 노벨 물리학상은 프린스턴 대학교의 존 홉필드(John J. Hopfield) 교수와 토론토 대학교의 제프리 힌튼(Geoffrey Hinton) 교수에게 돌아갔습니다. 공식 발표에 따르면, 이들의 업적은 다음과 같습니다:
The Nobel Prize in Physics 2024 was awarded to John J. Hopfield and Geoffrey E. Hinton for foundational discoveries and inventions that enable machine learning with artificial neural networks.
(인공 신경망을 이용한 기계 학습을 가능하게 한 기초적인 발견과 발명에 대해 2024년 노벨 물리학상은 존 홉필드와 제프리 힌튼에게 수여되었습니다.)
이번 노벨 물리학상은 우리에게 너무나 친숙한 동시에 우리의 일상생활을 획기적으로 바꾸어 놓은 인공지능(AI)에 대한 연구 주제가 선정 되었습니다. 그런데 물리학보다는 컴퓨터 과학에 더 가깝게 느껴지는 인공 지능 연구가 어떻게 노벨 물리학상의 주제가 될 수 있었을까요?
존 홉필드: “홉필드 네트워크 – 인간의 기억을 기계에 구현하다”
존 홉필드 교수의 가장 중요한 업적 중 하나는 1980년대에 제안된 "홉필드 네트워크"입니다. 이 신경망 모델은 뇌가 기억을 저장하고 불러오는 방식을 이해하는 데 도움을 주었을 뿐 아니라, 기계도 인간의 뇌처럼 기억을 저장하고 연상할 수 있는 방식을 제시했습니다.
예를 들어, 우리는 친구의 이름을 완전히 기억하지 못하더라도 일부 단서만으로 그 이름을 떠올릴 수 있습니다. 홉필드 네트워크는 이러한 연상 기억을 기계에 적용한 모델로, 기억된 패턴 중 일부만 입력해도 전체 패턴을 다시 불러올 수 있는 기능을 갖추고 있습니다. 이는 컴퓨터가 처음부터 끝까지 정보를 검색해야 기억을 확인할 수 있는 기존 방식과는 차별화된 방식입니다.
기억을 관장하는 우리의 뇌는 수많은 뉴런들이 복잡하게 연결된 구조로 이루어져 있습니다. 각 뉴런은 ‘켜짐’과 ‘꺼짐’이라는 두 가지 상태를 가지며, 이 뉴런들은 서로 상호작용을 통해 정보를 처리하고 기억을 저장합니다. 이 상호작용의 결과로 뉴런들 간의 네트워크는 에너지를 최소화하는 방향으로 변화하며, 결국 안정된 상태에 도달하게 됩니다. 이 안정된 상태가 바로 우리가 기억하는 정보입니다.
홉필드 네트워크는 이러한 뉴런들의 상호작용을 통계물리학에서 자주 사용되는 "이징 모델(Ising model)"과 유사하게 설명합니다. 이징 모델에서 입자들은 스핀(spin)이라고 불리는 ‘업’과 ‘다운’이라는 두 가지 상태를 가지며, 입자들 간의 상호작용을 통해 전체 시스템은 에너지를 최소화하는 방향으로 움직입니다. 이를 에너지 최소화 원리라 부릅니다.
이와 마찬가지로, 홉필드 네트워크에서도 뉴런들은 상호작용을 통해 시스템의 에너지를 최소화하는 방향으로 움직이며, 안정된 상태에 도달하게 됩니다. 이 과정은 물리학에서 다루는 에너지 최소화 원리와 매우 유사합니다. 이 에너지 최소화는 뉴런들이 기억을 저장하고 불러오는 방식과도 연결되며, 뇌의 복잡한 정보 처리 과정이 물리학적 개념으로 설명될 수 있음을 보여줍니다.
따라서, 홉필드 네트워크는 통계역학과 신경과학을 잇는 중요한 연결고리를 제공하며, 물리학적 원리가 뇌의 기억 저장 및 회상 과정에 어떻게 적용될 수 있는지를 잘 보여주는 중요한 업적이라 할 수 있습니다.
제프리 힌튼: “역전파 알고리즘과 딥러닝의 혁명”
제프리 힌튼 교수는 인공지능, 특히 딥러닝 분야의 선구자로, 그 중에서도 역전파(backpropagation) 알고리즘을 발전시킨 것으로 유명합니다. 역전파라는 개념은 신경망이 데이터를 학습하고, 그 과정에서 스스로를 개선하는 핵심적인 메커니즘입니다.
예를 들어, 아이가 공을 던지는 법을 배울 때 처음에는 공을 정확하게 던지지 못하지만, 계속 시도하면서 어떻게 더 잘 던질 수 있을지를 배웁니다. 이 과정에서 아이는 결과를 보고 어떤 동작이 효과적이었는지 스스로 학습하게 되죠. 신경망도 마찬가지로, 처음에는 정확한 출력을 내지 못하지만, 역전파를 통해 결과와 실제 정답 사이의 차이를 계산하고 그 차이를 줄이는 방향으로 학습을 이어갑니다.
역전파는 신경망이 오류를 줄이면서 점점 더 정확한 출력을 생성하도록 돕는 알고리즘입니다. 입력 데이터를 신경망에 통과시킨 후 결과와 정답 사이의 차이를 계산하여, 그 차이가 각 뉴런에 미치는 영향을 분석합니다. 이를 바탕으로 신경망의 가중치를 업데이트해 더 정확한 예측을 할 수 있도록 학습을 계속합니다.
힌튼의 역전파 알고리즘 역시 물리학의 에너지 최소화 원리와 깊은 관련이 있습니다. 신경망은 학습 과정에서 예측과 실제 값 사이의 오류를 계산하고, 이를 줄이기 위해 가중치를 조정합니다. 이는 물리 시스템이 에너지를 줄여 안정된 상태에 도달하는 방식과 유사합니다. 물리학에서 시스템이 최저 에너지 상태를 찾아가는 것처럼, 신경망도 반복 학습을 통해 오류를 점점 줄이며 최적의 예측에 도달합니다. (이러한 사고 방식은 물리학자들이 문제를 풀 때 자주 사용하는 사고 방식이기도 합니다.)
노벨 물리학상의 새로운 지평
올해 노벨 물리학상은 “물리학 이론을 기반으로 인간의 뇌와 기계 학습을 설명하는 새로운 메커니즘 제시”에 초점을 맞춘 듯합니다. 이는 “자연 현상에 대한 새로운 발견”에 대한 공로로 주어졌던 기존의 노벨 물리학상의 주제들과는 다소 다른 성격을 갖고 있는 것 같습니다.
그럼에도 불구하고, 궁극적인 노벨상의 취지가 “인류에게 이로운 공헌을 한 사람들에게 주어지는 상”이라는 것을 고려할 때, 이번 수상은 그 의미를 잘 반영하고 있다고 생각합니다. 또한, 인공지능은 물리학과 천문학 연구에서도 현재 활발히 활용되고 있어, 인간이 수행하기 어려운 복잡한 분류 작업들을 신속하고 효율적으로 해결함으로써 연구의 질을 크게 향상시키고 있습니다.
컴퓨터가 도입되기 전에 물리학자들은 손 계산에 의존할 수밖에 없었습니다. 하지만 컴퓨터의 발전으로 복잡한 수치 계산과 다양한 상황에 대한 시뮬레이션이 가능해지면서, 물리학자들은 자연 현상을 더욱 정밀하게 기술할 수 있게 되었습니다. 현재 발전하고 있는 인공지능의 기술과 그러한 기술들이 다양한 연구에서 활용되는 것을 보면, 물리학 연구가 인공지능 기술로 인해 또 한 번의 도약 단계에 접어드는 것 같습니다.
앞으로 인공지능이 물리학 연구에 얼마나 깊은 영향을 미칠지는 예측하기 어렵습니다. 그렇지만, 분명한 것은 인공지능과 관련된 기술들이 이미 연구의 핵심 도구 중 하나로 자리 잡았다는 사실입니다. 결국, 인공지능에 대한 기술은 인류가 쌓아 온 지식의 경계를 한 층 더 확장하는 데에도 중요한 역할을 할 것입니다. 노벨상 위원회는 우리가 이러한 또 한 번의 지식 혁명과 마주하고 있음을 다시금 일깨워주고 있습니다.