AI 이슈 2026.05.21

OpenAI가 에르되시 문제를 깼다: 벤치마크가 아니라 논문급 발견이 된 이유

OpenAI가 에르되시 문제를 깼다: 벤치마크가 아니라 논문급 발견이 된 이유

핵심 요약

OpenAI가 2026년 5월 20일 공개한 이번 발표의 핵심은 “AI가 어려운 수학 문제를 잘 풀었다”가 아니다. 더 정확히는 내부 범용 reasoning 모델이 폴 에르되시가 1946년에 제기한 평면 unit distance 문제의 오래된 추측을 반례로 깨고, 그 결과가 외부 수학자들의 검토와 companion remarks까지 붙은 공개 proof 형태로 나왔다는 점이다.

문제는 간단하게 말할 수 있다. 평면 위에 점 n개를 놓을 때, 정확히 거리 1인 점쌍을 최대 몇 개나 만들 수 있을까. 수학자들은 오래전부터 정사각 격자류의 구성이 사실상 최선일 것이라고 믿어 왔다. OpenAI의 모델은 이 믿음과 반대로, 무한히 많은 n에 대해 n^(1+δ)개 이상의 unit-distance 쌍을 만드는 구성을 제시했다. 여기서 δ는 0보다 큰 고정 상수다.

상단 대표 이미지 출처: OpenAI가 공개한 proof PDF Planar Point Sets with Many Unit Distances. 공식 논문 스크린샷이며, 글의 주제와 검증 맥락을 보여주는 자료다.

이 글에서 중요한 선을 먼저 그어야 한다. 이번 결과는 평면 unit distance 문제의 정확한 최종 답을 모두 구했다는 뜻은 아니다. 기존에 널리 믿어진 n^(1+o(1)) 상한 추측을 반례로 무너뜨렸다는 뜻이다. 여전히 알려진 일반 상한은 Spencer, Szemerédi, Trotter의 O(n^(4/3)) 계열이고, 정확한 성장률은 남아 있다. 하지만 “80년 가까이 중심 문제로 남아 있던 추측을 범용 모델이 독자적으로 깼다”는 점만으로도 충분히 큰 사건이다.

왜 이번에는 다르게 봐야 하나

OpenAI의 수학 성과를 볼 때는 조심할 이유가 있다. TechCrunch가 짚었듯이, 과거 OpenAI 임원이 “GPT-5가 미해결 에르되시 문제 10개를 풀었다”고 했다가, 실제로는 이미 문헌에 있던 해법을 찾아낸 것으로 드러난 일이 있었다. 그래서 이번 발표는 “또 과장인가?”라는 질문을 피할 수 없다.

이번 건이 다른 지점은 검증 패키지다. OpenAI는 공식 글과 함께 proof PDF, 외부 수학자들이 쓴 companion remarks, 그리고 모델의 chain-of-thought를 줄인 문서를 공개했다. companion remarks의 저자 목록에는 Noga Alon, Thomas F. Bloom, W. T. Gowers, Will Sawin, Arul Shankar, Jacob Tsimerman, Melanie Matchett Wood 등이 들어 있다. 이들은 결과의 배경과 의미를 설명하는 동시에, AI가 낸 proof를 사람이 소화하고 단순화한 버전을 제공했다.

proof PDF도 중요한 단서를 준다. OpenAI는 이 문제가 “completely automated fashion”으로 풀렸다고 설명하지만, 곧바로 그 뒤에 사람이 한 일을 분명히 적었다. 내부 모델이 문제 설명을 받고 해법을 냈고, AI grading pipeline이 높은 신뢰도를 표시한 뒤, 내부 연구자와 수학자가 검토했으며, 이후 외부 수학자들에게 초안이 전달됐다. 최종 manuscript는 사람이 편집한 해설본이고 참고문헌, 재구성, 추가 설명이 붙었다.

즉 “AI가 논문을 던졌고 모두가 그대로 믿었다”가 아니다. 더 현실적인 그림은 “AI가 핵심 수학 아이디어와 proof skeleton을 만들었고, 인간 수학자들이 그것을 검증 가능한 논문 언어로 정리했다”에 가깝다. 하지만 이 정도만 해도 기존 벤치마크와는 질적으로 다르다. 벤치마크는 정답이 이미 있는 시험지다. 이번 결과는 전문가들이 실제 연구 문제로 다루던 추측의 반례를 만들었다.

unit distance 문제가 왜 어려웠나

unit distance 문제는 설명이 너무 쉬워서 오히려 난도가 가려진다. 점 n개를 찍고, 거리 1인 점쌍을 많이 만들면 된다. 직선 위에 n개를 나란히 놓으면 n-1개 정도가 나온다. 정사각 격자에 놓으면 대략 2n개 수준이 된다. 에르되시는 1946년 논문에서 더 영리한 격자류 구성을 통해 n^(1+C/log log n) 꼴의 하한을 만들었고, 동시에 이 정도가 본질적으로 한계일 것이라고 추측했다.

이 추측이 매력적이었던 이유는 직관과 잘 맞았기 때문이다. 평면에서 한 점 주변의 거리 1 후보는 원 위에 놓인다. 두 원은 많아야 두 점에서 만난다. 그래서 unit-distance graph에는 강한 제약이 생긴다. 실제로 일반 상한은 1984년 Spencer, Szemerédi, Trotter의 O(n^(4/3))가 오래 버텨 왔다. 하한은 거의 격자적 사고 안에 머물렀고, 많은 수학자들이 “격자가 본질적으로 최선”이라는 방향으로 생각했다.

OpenAI 모델의 반례가 흥미로운 이유는 출발점이 전혀 다른 곳으로 이동했다는 데 있다. 공식 글은 새 proof가 대수적 수론의 아이디어를 기하 문제에 끌어왔다고 설명한다. proof PDF와 companion remarks를 보면 핵심 도구로 infinite class field tower, Golod-Shafarevich theory, CM field, bounded root discriminant 같은 개념이 등장한다. 단순히 더 복잡한 격자를 그린 것이 아니라, 수론에서 만든 고차원 구조를 평면 점집합 문제에 투영한 셈이다.

수학을 전공하지 않은 독자에게는 이렇게 이해하면 된다. 기존 접근은 “평면에서 점을 어떻게 잘 배열할까”에 가까웠다. 이번 접근은 “수론이 제공하는 큰 대칭 구조 안에서 거리 1 후보를 많이 만들고, 그 구조를 평면으로 가져오면 어떨까”에 가깝다. 수학자들이 놀란 지점도 바로 이 연결이다. 정답이 계산량으로만 나온 것이 아니라, 서로 멀어 보이던 분야를 연결해 새로운 반례를 만든 것이다.

AI 성과의 진짜 의미

이 결과가 AI 업계에 중요한 이유는 모델명이 아니라 작업 방식이다. OpenAI는 이번 proof가 특정 수학 문제 풀이 시스템, 특화 proof search, unit distance 전용 scaffold에서 나온 것이 아니라고 밝혔다. 새로운 범용 reasoning 모델을 에르되시 문제 모음에 평가하는 과정에서 이 문제가 해결됐다는 설명이다.

이 대목은 제품 홍보 문장처럼 들릴 수 있지만, 연구 자동화 관점에서는 매우 크다. 지금까지 수학 AI의 대표 성공 사례는 대체로 세 갈래였다. 첫째, Olympiad 문제처럼 답이 있는 고난도 시험을 푸는 모델. 둘째, Lean 같은 theorem prover와 연결해 이미 형식화된 목표를 증명하는 시스템. 셋째, 사람이 세운 conjecture나 proof 전략을 보조하는 도구. 이번 발표가 맞다면 범용 모델이 “어느 방향을 의심해야 하는가”까지 스스로 잡아낸 사례가 된다.

특히 모델의 방향 선택이 중요하다. companion remarks는 모델이 널리 믿어진 상한을 증명하려 하기보다 반례 구성을 시도하는 쪽으로 많은 사고를 썼다는 점을 언급한다. 이건 단순 계산 실력이 아니다. 연구에서는 가끔 “모두가 맞다고 믿는 명제”를 증명하는 것보다, 그 믿음이 틀렸을 가능성을 파는 쪽이 더 중요하다. AI가 그런 탐색을 했다는 주장은 앞으로 과학 연구용 모델을 평가하는 기준을 바꿀 수 있다.

물론 여기서도 과장은 피해야 한다. OpenAI는 모델명을 공개하지 않았고, 이 모델을 ChatGPT 사용자가 바로 쓸 수 있는 것도 아니다. proof도 최종적으로 사람의 검토와 편집을 거쳤다. 따라서 “이제 수학자는 필요 없다”가 아니라 “AI가 연구 후보를 만들고, 사람이 그 가치를 판정하는 흐름이 훨씬 현실적으로 다가왔다”가 더 정확한 결론이다.

수학자에게도 새 질문이 생겼다

이번 결과는 AI 쪽만의 승리가 아니다. 수학적으로도 새 질문을 만든다. OpenAI 공식 글은 원래 AI proof가 δ의 명시값을 주지 않았지만, Princeton의 Will Sawin이 후속 refinement에서 δ=0.014를 취할 수 있음을 보였다고 설명한다. 이 작은 숫자는 일반 독자에게는 사소해 보일 수 있다. 하지만 추측의 형태가 n^(1+o(1))였다는 점을 생각하면, 어떤 고정 양수 δ라도 존재한다는 사실이 게임을 바꾼다.

앞으로의 질문은 세 갈래다. 첫째, δ를 얼마나 키울 수 있는가. 둘째, 이 수론 기반 방법이 unit distance 문제의 상한 개선에도 힌트를 줄 수 있는가. 셋째, 비슷한 방식이 다른 discrete geometry 문제에도 적용되는가. companion remarks의 Thomas Bloom은 이 proof가 discrete geometry를 더 잘 이해하게 해 주었는지를 묻고, 수론적 construction이 이 영역에 더 많은 말을 할 수 있음을 보여준다고 평가한다.

연구 자동화 관점에서는 또 다른 질문이 붙는다. 이번 모델은 왜 이 연결을 떠올렸을까. 훈련 데이터 안에 관련 조각들이 있었기 때문인가, 아니면 긴 reasoning 과정에서 새로운 조합을 실질적으로 구성했기 때문인가. 이 차이는 중요하다. 전자라면 “문헌 조합 능력”의 확장이고, 후자라면 “새 연구 아이디어 생성”에 더 가깝다. 공개된 자료만으로 이 경계를 완전히 판단하기는 어렵지만, 외부 수학자들이 proof 자체의 독창성과 수학적 가치를 인정했다는 점은 무겁다.

독자가 바로 확인할 수 있는 자료

이번 발표는 출처를 직접 보는 편이 좋다. OpenAI 공식 글은 사건의 전체 맥락과 일반 독자용 설명을 제공한다. proof PDF는 실제 수학적 주장과 AI 사용 statement를 확인할 수 있는 원문이다. companion remarks는 외부 수학자들이 proof를 어떻게 소화했는지, 어떤 점이 새롭고 어떤 점은 기존 문헌과 맞닿아 있는지 보여준다. TechCrunch 보도는 과거 OpenAI의 성급한 에르되시 문제 주장과 이번 발표가 왜 다르게 받아들여지는지를 짚는다.

마지막으로, 이 글의 결론은 낙관과 유보를 함께 둬야 한다. 낙관할 지점은 분명하다. 범용 reasoning 모델이 실제 연구 문제에서 전문가 검토를 통과하는 결과를 냈다면, AI는 문제풀이 도구를 넘어 연구 파트너로 올라서는 중이다. 유보할 지점도 분명하다. 공개 모델이 아니고, 반복 재현 가능한 연구 생산 시스템이 공개된 것도 아니며, 인간 검증 없이는 수학적 진실로 받아들일 수 없다.

그래도 이번 사건의 방향은 선명하다. AI 연구 자동화는 더 이상 “언젠가 과학을 도울 것”이라는 추상적 문장이 아니다. 적어도 수학에서는, 모델이 기존 믿음을 의심하고, 다른 분야의 도구를 끌어와, 사람이 검증 가능한 proof로 이어지는 사례가 나왔다. 다음 관전 포인트는 OpenAI가 이 능력을 언제, 어떤 제품 또는 연구 API로 공개할지다. 그 순간부터는 “AI가 논문을 읽는 도구”가 아니라 “AI가 연구 가설을 제안하는 도구”를 전제로 개발자와 연구자가 워크플로를 다시 짜야 한다.

출처

AI 연구 자동화 OpenAI Reasoning Model Unit Distance Problem 수학 AI 에르되시

공유

Threads X