챗GPT 개발사 오픈AI가 인공지능(AI) 기술을 활용해 80년간 미해결 상태였던 수학 난제를 풀어냈다고 20일(현지시간) 발표했다. 이번 성과는 수학의 특정 분야에 중심적인 주요 미해결 문제가 AI에 의해 자율적으로 해결된 첫 사례로, 수학 및 AI 커뮤니티에 중요한 이정표를 세웠다.

헝가리 출신의 저명한 수학자 폴 에르되시(Paul Erdős, 1913-1996)는 1946년 '평면 단위 거리 문제'(planar unit distance problem)를 제시했다. 이는 평면 위에 n개의 점을 찍을 때, 단위거리만큼 떨어져 있는 점들의 쌍을 최대 몇 개(ν(n)) 만들 수 있는지를 묻는 것으로, '이산 기하학' 분야의 핵심 난제로 꼽혔다. 에르되시는 n이 충분히 클 경우 ν(n)이 n의 1차 함수보다 약간 빠르게 증가하며, 정사각형 격자 형태가 최적의 해답일 것이라는 추측을 내놓았다.

오픈AI의 대규모 언어 모델(LLM)은 이달 7일께 에르되시의 추측이 틀렸다는 결론을 도출했다. AI는 기존의 2차원 평면 격자가 아닌 고차원의 복잡한 대칭 격자를 구성한 뒤 이를 2차원 평면으로 투사하는 방식으로 새로운 구성군을 발견하며 한계치를 돌파했다. 오픈AI 소속 수학자 메탑 사우니(Mehtaab Sawhney)와 마크 셀키(Mark Sellke) 등은 AI가 내놓은 풀이를 검증하고 정리하여 18쪽 분량의 논문으로 공개했다. 이 논문에는 AI에 입력한 프롬프트와 AI가 출력한 원본 풀이도 포함되었다.

필즈 메달 수상자인 티머시 가워스 케임브리지대 교수는 이번 성과를 '매우 잘 알려진 미해결 수학 문제를 해결한 매우 명확한 첫 사례'로 평가했다. 수학계 전문가들은 AI의 '지치지 않는 인내심'이 인간이라면 포기했을 법한 고차원 구성 과정을 끝까지 파고들어 결과를 냈다고 분석했다. 실제로 프린스턴대 윌 사윈 교수는 AI 증명의 후속 연구를 통해 상수 δ 값을 구하는 등 인간 수학자들의 지속적인 역할이 강조되고 있다.