"수학자 역할 변할 수도"

인공지능(AI)이 수학자들도 풀기 어려운 수학 난제를 해결하는 정확도와 속도가 나날이 높아지고 있어 전 세계 수학자들이 경악하고 있다. 게티이미지뱅크 제공

인공지능(AI)이 수학자들도 풀기 어려운 수학 난제를 해결하는 속도가 빨라지고 정확도가 높아지고 있어 전 세계 수학자들이 경악하고 있다. 수학자가 AI에 단순히 질문을 던지고 AI와 상호작용해 새로운 수학적 진리를 발견하는 방식으로 수학 연구 방식이 급변할 수 있다는 관측까지 나온다. 

6일(현지시간) 과학매체 '사이언티픽 어메리칸'에 따르면 5월 중순 전 세계 수학자 30명이 미국 대규모 언어모델(LLM) 비영리 연구기관 '에포크 AI(Epoch AI)'의 지원으로 비공개로 모여 'o4-미니(o4-mini)'가 풀 수 없는 수학문제를 고안하는 프로젝트를 진행했다. 그 결과 o4-미니가 적지 않은 문제들을 빠르게 해결했으며 비공개로 모인 수학자들은 AI의 발전 속도에 경이로움을 느꼈다. o4-미니는 오픈AI가 지난 4월 출시한 AI 추론 모델이다. 

오픈AI는 o4-미니의 성능을 테스트하기 위해 앞서 지난 4월 에포크 AI에 프론티어매스(FrontierMath) 테스트를 의뢰했다. 일류 수학자들이 고안한 약 300여개의 수학 문제로 구성된 프론티어매스 테스트는 AI 성능을 판단할 수 있는 벤치마크다. o4-미니는 문제의 약 20%를 풀었다. 지금껏 프론티어매스 테스트에서 AI가 기록한 가장 높은 정답률은 2% 미만이었다. 

에포크 AI는 새로운 프로젝트를 시작했다. 세계 각국에서 수학자 30명을 모아 o4-미니가 풀 수 없는 수학문제를 고안하는 프로젝트다. 프로젝트에 참가한 수학자들은 보안이 강화된 메시지 앱을 통해 서로 연락했다. 공개된 곳에서 문제와 의견을 주고 받으면 내용을 AI가 학습할 수 있기 때문이다. 

에포크 AI는 o4-미니가 못 푸는 문제 하나당 7500달러(1023만원)의 상금을 걸었다. 참가자들은 온라인에서 문제를 만들다가 5월 중순 이틀간 대면 모임을 진행했다. 6명씩 5개 그룹으로 나뉘어 문제를 만드는 경쟁을 했다. 

그 결과 수학자들은 큰 좌절을 느꼈다고 밝혔다. 프로젝트에 참여하는 켄 오노 미국 버지니아대 교수는 "수학자들이 수론에서 박사급도 쉽게 풀지 못해 미해결 문제로 보이는 난제를 고안했다"며 "문제를 해결하는 o4-미니의 모습에 너무 놀랐다"고 말했다. o4-미니는 적지 않은 난제를 척척 해결했다. 

o4-미니는 10분 동안 문제를 풀어냈다. o4-미니는 처음 2분 동안 해당 분야의 관련 문헌을 찾고 숙달하는 데 시간을 보냈다. 그런 다음 화면에 학습을 위해 더 간단한 '장난감' 버전의 문제를 먼저 풀어보고 싶다고 했다. 간단한 문제를 학습한 뒤 더 어려운 문제를 풀 준비가 되었다고 했다. 그로부터 5분 후 o4-미니는 정확하면서도 재치 있는 해답을 제시했다. 

오노 교수는 "o4-미니는 마지막에 '도출한 숫자는 내가 계산한 것이기 때문에 인용은 필요없다'고 말했다"며 "결국 수학자들이 o4-미니가 풀 수 없는 10가지 문제를 찾아내는 데 성공했지만 수학자들은 AI가 지난 1년 동안 얼마나 성능이 높아졌는지에 대해 경이로움을 느꼈다"고 밝혔다. 

사이언티픽 아메리칸에 따르면 에포크 AI의 프로젝트가 끝난 뒤 수학자들은 '수학자의 미래'가 어떻게 될지에 대해 토론했다. 토론에서 최고의 수학자들조차 풀 수 없는 문제를 풀 수 있을 정도로 AI의 수준이 높아진다면 수학자의 역할이 급격히 변화할 것이라는 의견이 나왔다.

예를 들어 수학자들은 단순히 AI에 질문을 던지고 상호작용해 새로운 수학적 진리를 발견하는 데 도움을 받는 방향으로 전환될 수 있는 것이다. 마치 교수가 대학원생과 상호작용하는 것과 비슷하다. 

오노 교수는 "고등 교육에서 창의력을 키우는 것이 미래 세대를 위해 수학을 지속하는 데 핵심적인 역할을 할 것이라고 예측한다"며 "어떤 면에서는 AI가 이미 세계 최고의 대학원생 대부분을 능가하고 있다"고 말했다. 
 

[이채린 기자 rini113@donga.com]

Copyright © 동아사이언스. 무단전재 및 재배포 금지.