中 출신 왕훙, 악명 높은 ‘가케야 추측’ 해결… “논문 검증 땐 필즈상 수상감”
1917년 日 수학자가 제기한 문제… 함수-기하학 등 수학지식 활용해
3차원에서의 최소 면적 조건 증명
휴대전화 등 통신 기술에 쓰이는 ‘푸리에 변환’ 연구 실마리도 풀려
아시아 첫 ‘女수학자 필즈상’ 기대

중국의 30대 수학자가 풀기 매우 까다로워 악명이 높은 수학 난제 ‘가케야 추측’을 해결해 학계의 이례적인 관심을 끌고 있다. 수학계는 “필즈상 수상감”이라고 평가했다. ‘수학 노벨상’으로 불리는 필즈상은 40세 미만의 수학자를 대상으로 4년마다 주어지는 상이다.

중국 출신 왕훙 미국 뉴욕대 쿠런트 수학연구소 교수(사진)와 조슈아 잘 캐나다 브리티시컬럼비아대 교수가 가케야 추측을 3차원에서 해결한 결과를 지난달 25일(현지 시간) ‘아카이브’에 공개했다. 아카이브는 논문 사전 공개 사이트로 아직 동료들의 정식 평가를 거친 논문은 아니다.

가케야 추측은 일본 수학자 가케야 소이치가 1917년 제기한 문제에서 비롯됐다. 가케야는 길이가 1인 무한히 얇은 ‘바늘’을 모든 방향을 가리키게 돌린 후 원래 위치로 돌아오게 할 때 바늘이 지나는 최소 면적은 얼마인지 구하는 문제를 제기했다. 이 문제는 가케야가 일본 수학자인 점에 착안해 ‘좁은 공간에서 갑자기 공격을 받은 사무라이가 창을 한 바퀴 돌려서 공격할 때 필요한 최소 넓이는 얼마인가’라는 문제로 바뀌어 소개되기도 한다.

예를 들어 2차원에서 바늘의 중심을 고정해 놓고 한 바퀴 빙그르 돌리면 바늘의 자취를 따라 원이 그려진다. 원의 넓이가 바늘이 지나는 면적이다. 가케야는 여기서 면적을 더 줄이는 방법을 제안했다. 원의 중심이 작은 원을 그리도록 바늘을 돌리면 오목삼각형이 그려진다. 오목삼각형은 원보다 넓이가 작다. 바늘을 앞뒤로 계속해서 흔들면서 돌리면 넓이는 더욱 작아진다. 주차장에서 차를 앞뒤로 이동시키면서 좁은 주차공간에 주차하는 것과 같은 원리다.

가케야가 문제를 제기한 지 2년 뒤인 1919년 러시아-영국 수학자 아브람 베시코비치는 바늘을 한 바퀴 돌릴 때 바늘이 지나는 최소 면적값이 0이라는 것을 증명했다. 수학적으로 극한값을 증명한 것이다. 문제에서 바늘은 무한히 얇다고 가정하고 있기 때문에 얇게 만들어 모든 방향을 가리키며 돌리더라도 바늘이 지나는 면적값은 0이라는 의미다.

이후 수학자들은 바늘이 모든 방향을 가리키지만 바늘이 지나는 면적값이 0인 바늘의 집합을 ‘가케야 세트’라고 이름 붙이고 가케야 세트는 바늘이 움직이는 차원이 1차원, 2차원, 3차원처럼 정수로 딱 떨어지는 차원에서만 존재한다고 추측했다. 이것이 바로 가케야 추측이다. 수학에서는 1.5, 2.5 등 직관적으로 생각하기 어려운 차원을 상상한다.

가케야 추측은 1차원과 2차원에서 차근차근 해결됐다. 문제는 3차원이었다. 문제는 간단하지만 해결은 쉽지 않았다. 현존 최고 수학자로 꼽히는 필즈상 수상자인 테런스 타오 미국 로스앤젤레스 캘리포니아대(UCLA) 교수는 2005년 가케야 추측의 반례가 모순됐다는 점을 증명하는 방식으로 문제에 도전해 결과를 냈다. 하지만 모든 반례를 증명하지 못해 가케야 추측을 해결하지는 못했다. 그 대신 타오 교수는 2014년 자신의 블로그에 어떤 방식으로 문제에 도전했는지 자세히 설명하며 다른 수학자들에게 같은 방식으로 도전해 보라고 독려했다.

왕 교수와 잘 교수는 타오 교수의 방법을 이어받아 모든 반례의 특성을 증명하고, 다양한 범위의 함수 성질을 다루는 ‘다중 스케일 해석학’과 겹치는 도형의 성질을 연구하는 ‘접속 기하학’을 활용해 가케야 추측을 완전히 해결했다. 이들의 연구 결과에 대해 오세욱 고등과학원 허준이수학난제연구소 CMC 펠로는 “일반적으로 가케야 추측을 해결하는 데 사용하지 않는 수학 지식을 이용해 결과를 냈다는 점에서 좋은 평가를 받고 있다”고 말했다.

3차원 가케야 추측은 수학의 한 분야인 ‘조화해석학’의 주요 난제들을 관통하는 해결책을 쥐고 있다고 알려져 있다. 조화해석학은 함수와 그 함수의 ‘푸리에 변환’의 성질을 파악하고 연구하는 학문이다. 시간이나 공간에 대한 함수를 시간 또는 공간 주파수 성분으로 분해하는 대표적인 신호 처리 방법인 푸리에 변환은 휴대전화, 롱텀에볼루션(LTE), 영상 이미지 압축, 의료기기 등에 쓰인다.

가케야 추측을 풀면 푸리에 변환에 대한 이해가 넓어지는 셈이라 수학계는 왕 교수와 잘 교수의 결과를 높이 평가하고 있다. 네츠 카츠 미국 라이스대 교수는 “1세기에 한 번 나올 만한 결과”라고 말했다.

현재 논문은 검증 과정을 거치고 있다. 결과가 확실해지면 이들이 필즈상을 수상할 수 있다는 이야기까지 수학계에서 나오고 있다. 특히 왕 교수는 여성 수학자라 필즈상을 받으면 아시아 최초로 필즈상을 받은 여성 수학자가 된다. 왕 교수는 2007년 16세의 나이로 중국 베이징대에 입학했다.

이채린 동아사이언스 기자 rini113@donga.com

Copyright © 동아일보. 무단전재 및 재배포 금지.