home [특별기고] 알파고, 인공지능, 그리고 수학

[특별기고] 알파고, 인공지능, 그리고 수학

전세계를 놀라게 했던 알파고와 이세돌 9단과의 대결이 있은 지 어느덧 한 달여의 시간이 흘렀다. 그사이 정부는 인공지능 기술 육성을 위해 정부 예산 1조원 민간 예산 2조 5000억의 연구비를 5년간 투자하기로 하고 또한 ‘지능정보기술 연구소’도 설립하기로 하는 등 국내에서의 인공지능에 대한 관심이 매우 뜨겁다. 본고에서는 알파고의 기술적인 내용을 재확인해보고, 인공지능 연구의 현주소를 살펴보고, 인공지능 연구에서 수학이 어떻게 활용되는지 간략히 소개해보고자 한다.

알파고 

딥블루가 인간 체스 챔피언을 제압할 수 있었던 것은 컴퓨터의 막강한 계산력에 기초한 수읽기 능력 때문이었다. 하지만 바둑은 체스에 비해 경우의 수가 압도적으로 많아 단순 수읽기가 불가능하였고 인공지능이 바둑을 정복하는 것은 요원한 일로 여겨졌었다.

구글 딥마인드는 딥러닝과 강화학습 기법을 활용하여 기계가 고전 아타리 게임을 정복한 것으로 유명해졌다. 대표적인 예로 벽돌깨기 게임을 4시간 정도 수행한 후 구석에 터널을 뚫어서 공이 벽돌과 천정 사이를 오가며 벽돌을 깨는 전략을 스스로 터득한 것을 들 수 있다. 여기서 놀라운 점은 게임의 규칙이나 전략에 대해서 사전에 아무런 정보도 제공받지 않고 기계가 스스로 게임을 반복하면서 상(벽돌을 깨면 점수가 올라간다)과 벌(공을 놓치면 생명이 줄어든다)을 받으며 강화학습을 수행해 게임을 공략하는 방법을 스스로 터득했다는 것이다.

벽돌깨기 게임이 강화학습으로 정복되는 것을 생각해보면, 알파고의 위력을 어느 정도 예상해 볼 수 있다. 기보를 학습하는 것은 어디까지나 출발선에 불과한 것이고, 기보 학습에서 시작하여 알파고 간의 끊임없는 대국을 통해 스스로의 능력을 강화할 수 있다는 것이 알파고의 무서운 점이다. 아마추어의 기보를 학습하면 아마추어의 수준에 머무는 것이 아니라 이를 출발점으로 시작해서 프로 9단과 인간계 바둑의 한계를 돌파할 수 있는 것이 알파고의 위력인 것이다.

알파고는 인간의 직관에 해당하는 패턴 인식 능력을 통해 수읽기에서 경우의 수를 매우 효과적으로 줄이는 데 성공한다. 기보 학습과 강화 학습을 통해서 정책망이라는 것을 학습하는데 이 정책망은 영상과 같은 패턴을 인식하는 깊은 신경망을 사용하여 구현되며 바둑판의 패턴을 인식하여 지금 둘 수 있는 좋은 수들의 확률값들을 제시한다. 그래서 가장 확률이 높은 서너가지의 착점에 대해서만 그 다음 수의 가지를 만들어서 경우의 수를 매우 줄여서 수읽기를 수행한다. 현재의 형세가 누구에게 유리한가를 판단하는 가치망도 깊은 신경망의 패턴 인식 능력을 사용하여 구현되며 알파고 간의 수많은 대국을 통해 현재 형세로부터 승률을 판단하는 가치망이 계속 정교해진다. 정책망과 가치망을 활용한 수읽기는 결국 미래에 가장 승률이 높은 가장 유리한 형세로 가려면 지금 정책망이 제시하는 수들 중에서 무엇을 선택해야 하는지를 결정할 수 있게 해준다.

지나고 보니, 인공지능의 체스 정복 이후 바둑 정복에 긴 시간이 걸린 것은 딥러닝이 출현하는 데 시간이 걸렸기 때문이며, 딥러닝과 강화학습으로 아타리 게임이 정복되었을 때, 바둑의 정복이 이미 코 앞에 와 있었다는 생각이 든다.

딥러닝과 인공지능의 현주소

그 동안 딥러닝이 가장 큰 성과를 거둔 문제로는 음성 인식과 영상 인식을 들 수 있고, 최근에는 자연어 처리와 이해에서 많은 발전이 이루어지고 있다. 특히 영상 인식을 위한 신경망과 자연어 처리를 위한 언어 모델을 함께 사용하면서 영상의 내용을 묘사하는 자연어 문장을 생성하는 기술이 개발되었고, 아직 초보적이긴 하지만 영상에 대한 자연어 질문이 주어졌을 때, 질문과 영상을 이해해서 적절한 답변을 생성하는 문제에서도 중요한 결과들이 나오고 있다.

이와 같이 향후에는 자연어와 여러 센서 데이터를 융합해서 학습과 추론을 수행하는 연구에서 큰 발전이 있을 것으로 보인다. 이제 인공지능은 자연어 문장을 기호 수준에서만 처리하는 것이 아니라 기호와 함께 센서 데이터에 내포된 내용 혹은 이미지를 통합적으로 학습하고 추론할 수 있게 되어 보다 일반적인 인공지능의 새로운 가능성이 열리고 있다. 사람이 말을 하고 들을 때 머리 속에 어떤 이미지가 그려지는데, 이제 기계도 자연어라는 기호와 데이터에 내포된 이미지를 연결지어 생각할 수 있게 된 것이다.

인공지능에서 수학의 활용

딥러닝, 기계학습, 인공지능 연구는 응용 수학이라고 할 만큼 수학이 매우 광범위하게 활용되고 있다. 딥러닝에서의 학습은 훈련 데이터가 제시하는 연습 문제를 잘 해결하는 방향으로 시냅스 연결 강도를 변경하면서 이루어지는데, 이때 시냅스 연결 강도를 어떻게 변경해야 할지를 다변수 함수의 편미분을 사용하여 구하게 된다. 또한 기계학습 전반에 걸쳐서 확률 이론이 광범위하게 활용되고 다양한 종류의 최적화 문제가 등장하며 최적화 알고리즘의 수렴성 증명이나 수렴 속도 분석에 다양한 부등식과 해석학적 아이디어가 많이 활용된다.

특히 최근에 수학자들 또한 딥러닝과 인공지능 연구에 관심을 갖고 있어서 수학자와 공학자 사이의 협력 연구의 가능성도 높아지고 있다. 딥러닝과 기계학습 그리고 인공지능 연구 전반에 걸쳐서 수학자가 기여할 수 있는 영역이 많이 있을 것으로 보이며, 카이스트를 포함하여 국내외에서 수학자들이 인공지능 연구에 기여할 수 있는 기회가 더욱 확대되길 기대하며 본고를 마치고자 한다.

전기 및 전자공학부 김준모 교수

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다

This site uses Akismet to reduce spam. Learn how your comment data is processed.