AI 모델, 고난도 수학 문제 해결에 획기적인 진전

지난 주말, 소프트웨어 엔지니어이자 전직 정량 분석 연구원, 스타트업 창업자인 닐 소마니(Neel Somani)는 OpenAI의 새로운 모델이 가진 수학적 능력을 평가하던 중 놀라운 결과를 발견했다. ChatGPT에 문제를 입력하고 15분간 처리하도록 기다린 뒤 확인해 보니, 완벽한 해답이 나와 있었다. 그는 증명을 검토하고 ‘하모닉(Harmonic)’이라는 도구를 이용해 검증한 결과, 모든 것이 정확했다.

"저는 대규모 언어 모델이 언제 미해결 수학 문제를 효과적으로 해결할 수 있는지, 그리고 여전히 어려움을 겪는 부분은 어디인지 파악하기 위한 기준을 세우고 싶었습니다."라고 소마니는 설명했다. 예상치 못한 발견은 최신 모델이 가능성의 경계를 한 단계 더 넓혔다는 점이었다.

ChatGPT의 추론 과정은 특히 인상적이었는데, 랑드르의 공식, 베르트랑의 가정, 다윗의 별 정리와 같은 수학적 원리들을 매끄럽게 적용했다. 이 모델은 결국 하버드 대학의 수학자 노암 엘키스가 관련 문제에 대한 우아한 해법을 제시했던 2013년 Math Overflow 게시물을 인용했다. 그러나 ChatGPT의 최종 증명은 엘키스의 연구와 핵심적인 측면에서 달랐으며, 전설적인 수학자 폴 에르되스가 처음 제기한 문제의 변형에 대해 더 포괄적인 해결책을 제시했다. 에르되스가 수집한 방대한 미해결 문제 목록은 AI 능력을 검증하는 시험대가 되어 왔다.

기계 지능을 회의적으로 보는 이들에게 이 결과는 놀라운 일이며, 이는 단발성 사례가 아닙니다. AI 도구는 하모닉(Harmonic)의 아리스토텔레스(Aristotle)와 같은 형식화에 중점을 둔 대규모 언어 모델(LLM)부터 오픈AI(OpenAI)의 딥 리서치(deep research)와 같은 문헌 검토 시스템에 이르기까지 수학 분야에서 널리 보급되었습니다. 소마니가 "일화적으로 볼 때 이전 버전보다 수학적 추론 능력이 더 뛰어나다"고 언급한 GPT-5.2의 출시 이후, 해결된 문제의 수가 크게 증가하면서 대규모 언어 모델이 인류의 지식 경계를 확장할 수 있는 능력에 대한 새로운 의문이 제기되고 있다.

소마니는 헝가리 수학자가 제시한 1,000개가 넘는 추측들로 구성된 '에르도스 문제'를 조사하고 있었다. 주제와 난이도가 매우 다양한 이 문제들은 AI 기반 수학적 탐구의 주요 대상이 되었다. 지난 11월, '알파에볼브(AlphaEvolve)'라는 제미니(Gemini) 기반 모델이 최초의 자율적 해법을 제시했으나, 최근 소마니와 다른 연구자들은 GPT-5.2가 고등 수학 분야에서 탁월한 역량을 보여준다는 사실을 확인했다.

크리스마스 이후, 에르되시 문제 웹사이트에서 15개의 문제가 '미해결'에서 '해결됨'으로 업데이트되었으며, 그중 11개의 해결 과정에는 AI 모델의 기여가 명시적으로 기재되어 있다.

저명한 수학자 테렌스 타오(Terence Tao)는 자신의 GitHub 페이지에서 이러한 진전에 대해 보다 상세한 관점을 제시하며, AI 모델이 상당한 자율적 기여를 한 8개의 별도 문제와, 기존 연구를 파악하고 이를 바탕으로 진전을 이룬 6개의 사례를 언급했다. 완전한 자율적 AI 수학적 추론은 여전히 먼 목표이지만, 대규모 모델들이 중요한 역할을 하기 시작하고 있음은 분명하다.

Disrupt 2026 대기자 명단에 등록하세요

Disrupt 2026 대기자 명단에 등록하여 얼리버드 티켓이 출시될 때 가장 먼저 구매할 수 있는 기회를 확보하세요. 지난 Disrupt 행사에서는 Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla 등 다양한 분야의 리더들이 무대에 올랐습니다. 이들은 여러분의 성장을 가속화하고 경쟁력을 강화하기 위해 마련된 200개 이상의 세션을 이끄는 250명 이상의 업계 전문가 중 일부입니다. 또한, 모든 산업 분야에서 혁신을 주도하는 수백 개의 스타트업과 교류할 수 있습니다.

Disrupt 2026 대기자 명단에 등록하세요

Disrupt 2026 대기자 명단에 등록하여 얼리버드 티켓 판매 시 우선 구매 기회를 확보하세요. 지난 Disrupt 행사에서는 Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla 등 업계 리더들이 무대에 올랐습니다. 이들은 여러분의 성장을 가속화하고 경쟁력을 강화하기 위해 마련된 200개 이상의 세션을 이끄는 250명 이상의 업계 전문가 중 일부입니다. 또한, 모든 산업 분야에서 혁신을 주도하는 수백 개의 스타트업과 교류할 수 있습니다.

마스토돈(Mastodon)에서 타오(Tao)는 AI 시스템의 확장성 덕분에 이러한 시스템이 "잘 알려지지 않은 에르되스(Erdős) 문제들의 '롱테일(long tail)'을 해결하는 데 특히 적합하며, 사실 이들 중 상당수는 간단한 해결책을 가지고 있다"고 제안했습니다.

타오는 "결과적으로, 이러한 접근하기 쉬운 에르되스 문제 중 상당수는 이제 인간 중심 또는 하이브리드 방식보다 순수 AI 기반 방법을 통해 해결될 가능성이 더 높아졌다"고 덧붙였습니다.

또 다른 요인은 최근의 형식화(formalization)로의 전환입니다. 형식화란 수학적 추론을 검증하고 확장하기 쉽게 만드는 상세한 과정을 말합니다. 형식화 자체가 반드시 AI나 컴퓨터를 필요로 하는 것은 아니지만, 새로운 세대의 자동화 도구가 워크플로를 크게 간소화했습니다. 2013년 마이크로소프트 리서치에서 개발된 오픈소스 '증명 보조 도구'인 Lean은 증명을 형식화하는 데 있어 해당 분야에서 널리 채택되었다. Harmonic의 Aristotle과 같은 AI 도구들은 이제 이러한 형식화 작업의 상당 부분을 자동화할 것으로 기대된다.

하모닉의 창립자 투도르 아힘에게 있어, 에르되스 문제가 갑자기 많이 해결되었다는 사실보다 더 중요한 것은 저명한 수학자들이 이러한 도구를 진지하게 받아들이기 시작했다는 점이다. 아힘은 "저는 수학 및 컴퓨터 과학 교수들이 [AI 도구]를 사용하고 있다는 사실에 더 관심이 있습니다"라고 말했다. "이들은 지켜야 할 명성이 있는 사람들이기 때문에, 그들이 아리스토텔레스나 ChatGPT를 사용한다고 확인해 준다면, 그것은 의미 있는 검증입니다."