OpenAI가 개발한 AI 모델이 수십 년 동안 연구자들을 좌절시켜 온 수학 난제를 풀었다고 주장하면서, 인공지능의 ‘진짜 추론 능력’을 둘러싼 논쟁에 불이 붙고 있다.
OpenAI 공식 콘텐츠 전송망(CDN)에 업로드된 세 쪽짜리 논문은 그래프 이론의 오랜 난제인 ‘Cycle Double Cover(사이클 이중 피복) 추측’에 대한 완전한 증명을 제시했다고 밝힌다. 논문에 따르면, 핵심 증명은 차세대 모델 ‘GPT-5.6 Sol Ultra’가 전적으로 생성했으며, Codex와 GPT-5.6 Sol은 이를 정리해 논문 형태로 다듬는 데 보조 역할을 했다.
이 주장이 사실이라면 의미는 작지 않다. 독립적인 수학자들이 증명을 검증할 경우, 고도화된 AI 시스템이 기존 연구를 요약하거나 계산을 돕는 수준을 넘어, 인간이 수십 년간 풀지 못한 난제를 해결할 정도의 ‘새로운 수학’을 스스로 창출할 수 있음을 시사하기 때문이다.
다만 현재로서는 어디까지나 “증명을 주장한 단계”일 뿐, 수학계가 공인한 돌파구와는 거리가 있다.
AI가 풀었다는 문제는 무엇인가
그래프 이론은 ‘네트워크’를 수학적으로 연구하는 분야다.
그래프는 점과 선으로 이뤄진 구조로 생각하면 된다. 점은 사람·컴퓨터·도시 등 다양한 객체를, 선은 그 사이의 관계나 연결을 나타낸다.
Cycle Double Cover 추측은, 치명적인 단일 ‘고장 지점’이 없는 연결 그래프라면 그 그래프의 모든 간선(연결선)을 “각각 정확히 두 번씩” 포함하는 사이클(닫힌 루프)들의 집합으로 덮을 수 있는지 묻는 명제다.
다소 추상적으로 들리지만, 이 문제는 수십 년 동안 미해결로 남아 있었고 윌리엄 터트(William Tutte), 조지 세케레스(George Szekeres), 폴 시모어(Paul Seymour) 등 저명한 수학자들이 오랫동안 씨름해 온 난제로 꼽힌다.
연구자들은 특정 유형의 그래프에 대해서는 이 추측이 성립함을 이미 입증했지만, 모든 경우를 포괄하는 일반 증명은 나오지 않았다.
OpenAI가 호스팅한 이번 논문은 그 마지막 빈틈을 메웠다고 주장한다.
증명의 기본 전략
논문의 논증은 상당히 기술적이지만, 큰 줄기는 비교적 단순하게 요약할 수 있다.
첫 단계는 문제를 각 정점이 정확히 세 개의 간선을 갖는, 보다 단순한 형태의 그래프로 축소하는 것이다.
이후 모델은 ‘플로(flow)’라고 불리는 잘 알려진 수학적 도구를 이용해 그래프의 간선에 특정한 레이블(값)을 부여한다. 이 레이블들을 재배열하면 간선들이 자연스럽게 여러 개의 사이클로 묶이도록 구조가 드러난다는 설명이다.
핵심 조건은 모든 간선이 이 사이클들 중 정확히 두 개에만 포함돼야 한다는 점이다.
논문은 네트워크의 서로 다른 부분 사이에서 발생하는 이러한 ‘불일치’를 선형대수 기법으로 정리할 수 있다고 주장한다. 이 일관성 문제가 해결되면 전체 그래프를 덮는 사이클 이중 피복이 따라온다는 논리다.
보다 단순하게 말하면, AI가 여러 기존 수학 도구들을 새로운 방식으로 조합해 조건을 만족하는 사이클들을 모든 유효한 그래프 위에 구축하는 구조를 만들어 냈다는 주장이다.
AI에게 갖는 의미
현재 AI 시스템은 코딩, 시장 분석, 리서치 요약, 과학 연구 보조 등 다양한 용도로 쓰이고 있다.
그러나 굵직한 수학 추측을 증명하는 일은 차원이 다른 과제다.
올바른 증명은 정리에 포함된 모든 경우에 대해 성립해야 한다. 일부 예제에서 설득력 있어 보인다거나, 결과만 맞아 떨어지는 정도로는 충분치 않다.
관련 기사: Anthropic Q3 Profit Projected To Top $1B As IPO Filing Nears
이런 이유로 수학은 AI가 ‘그럴듯한 문장 생성기’를 넘어, 일관된 논리 추론을 할 수 있는지 가늠할 수 있는 가장 명확한 시험대로 여겨진다.
만약 이번 증명이 옳다면, 최첨단 모델들이 이미 축적된 지식을 단순 조합하는 수준을 넘어 진정으로 새로운 논증 구조를 짜낼 수 있는 단계에 진입했음을 시사한다.
그 파급력은 그래프 이론을 훌쩍 넘어선다. 유사한 시스템이 앞으로 물리학, 암호학, 컴퓨터 과학, 경제학의 어려운 문제 탐색에 본격적으로 투입될 수 있다는 기대가 뒤따른다.
진짜 시험은 지금부터
이번 논문이 OpenAI가 통제하는 도메인에 게시됐다는 사실은 무명의 개인이 올린 문서보다 ‘출처 신뢰도’ 면에서 나은 점으로 평가될 수 있다. 그러나 이것이 곧바로 증명의 타당성을 보증하는 것은 아니다.
원고에는 실명으로 명기된 인간 공저자도 없고, 동료평가(피어 리뷰) 이력이나 독립적인 그래프 이론 전문가의 코멘트도 포함돼 있지 않다.
이는 중요한 대목이다. 유명한 수학 난제에는 주기적으로 ‘해결됐다’는 주장이 등장하지만, 시간이 지나 숨은 허점이 드러나 번번이 폐기된 사례가 적지 않기 때문이다.
겉보기에는 매끄러운 논증처럼 보이더라도, 어느 한 단계에서 항상 성립하지 않는 가정을 깔고 있다거나, 특수한 예외를 간과했거나, 기존 정리를 과도하게 일반화해 적용한 것이 발견되면 증명은 무너질 수 있다.
따라서 다음 단계는 철저한 독립 검증이다.
수학자들은 이번 논문이 제시한 축소 절차의 각 단계가 정합적인지, 선형대수에 기반한 논증이 추측이 다루는 모든 ‘브리지 없는(bridgeless) 그래프’에 예외 없이 적용되는지 확인해야 한다.
더 나아가 이번 증명을 형식 증명 보조기(formal proof assistant)에 옮겨, 각 논리 단계를 소프트웨어가 일일이 검증하도록 시도하는 방안도 거론된다.
‘잠정적 돌파구’이지, 아직은 기정사실 아니다
현재 상황을 가장 안전하게 표현하자면, “OpenAI 모델이 중요한 수학 증명을 내놓았고, 외부 검증을 기다리고 있다”는 정도다.
향후 전문가들이 증명에서 오류를 발견한다 하더라도, 문제를 단순화하는 새로운 축소법이나 아이디어를 제시했다는 점에서 연구적으로는 의미를 가질 수 있다.
반대로 엄밀한 검증을 통과한다면 파장은 훨씬 커진다.
이는 AI가 인간 수학자를 보조하는 수준을 넘어, 세대에 걸쳐 미해결로 남아 있던 난제를 독자적으로 풀어낸 사례로 평가될 수 있기 때문이다.
따라서 지금 시점에서의 이야기는 “AI가 Cycle Double Cover 추측을 결정적으로 해결했다”가 아니다.
“AI가 그럴듯한 해결책을 내놓았고, 이제 수학 공동체가 그것이 진짜 정답인지, 아니면 지금까지 등장한 주장들 가운데 가장 그럴듯해 보이는 ‘실수’에 불과한지를 가려내야 하는 단계”에 접어들었다는 것이다.
다음 읽을 거리: China Holds Talks With Alibaba And ByteDance On Restricting AI Model Exports