테렌스 타오 ‘수학 2.0’이란? AI가 답을 주고 이해를 가져갈 때

이 글은 2026년 11월 10일에 썼습니다.

칠판의 증명과 AI가 쏟아내는 답안지 사이에서 노트에 천천히 생각을 적는 사람

한 줄 요약: 수학자 테렌스 타오는 최근 강연에서 “AI 덕분에 증명은 넘쳐나는데, 정작 사람의 이해는 줄고 있다”고 말했습니다. 그래서 AI로 문제를 ‘대신 푸는’ 수학 1.0을 넘어, AI로 사람의 이해를 ‘키우는’ 수학 2.0으로 가야 한다는 것이 그의 주장입니다.

왜 하필 수학에서 AI가 강할까

타오는 순수수학 문제 풀이가 AI에 유독 잘 맞는 이유로 세 가지를 꼽았습니다.

  • 검증할 수 있다 — 증명이 맞는지 틀렸는지 객관적으로 확인할 수 있다.
  • 전부 디지털이다 — 임상시험이나 현장 데이터 없이 컴퓨터 안에서 끝난다.
  • 좋은 데이터가 많다 — 수천 년치 교과서와 논문이 이미 있다.

반대로 이 세 가지 중 하나라도 없으면 AI는 “어이없을 만큼 못한다”고도 했습니다. 잘하는 일과 못하는 일의 차이가 극단적인, 들쭉날쭉한 기술이라는 거죠.

‘증명 부족’의 시대에서 ‘증명 과잉’의 시대로

예전에는 어려운 문제 하나가 풀리면 그 분야 사람들이 하던 일을 멈추고 함께 읽고 토론했습니다. 지금은 반대입니다. 타오는 자신이 관심 있던 결과 십여 개가 증명됐지만 읽을 시간이 없다고 말합니다.

SNS에 보이는 화려한 성과도 일부라고 짚었습니다. 그의 설명에 따르면, OpenAI가 대대적으로 발표한 약 300개의 풀이 뒤에는 4,000개쯤 시도해서 9% 정도만 풀었다는 각주가 있었다고 합니다. 풀리지 않은 91%는 화제가 되지 않을 뿐입니다.

2,200만 개의 문제를 사람과 기계가 함께 푼 실험

타오가 ‘실험 수학’의 예로 든 것이 2024년에 시작한 방정식 이론 프로젝트(Equational Theories Project)입니다. 4,694개의 간단한 대수 법칙 사이의 함의 관계 22,028,942개를 하나도 빠짐없이 참·거짓으로 판정했고, 2025년 4월 14일에 목표를 달성했습니다. 모든 증명과 반례는 증명 검증 언어 Lean으로 확인됐습니다.※

강연에서 타오는 “문제 하나는 대학원생이 30분이면 풀 수 있지만, 나에겐 2,200만 명의 대학원생이 없었다”며, 약 50명의 자원봉사자가 자동 정리 증명기 같은 ‘옛날식 AI’와 손 계산을 섞어 해냈다고 소개했습니다.

이렇게 큰 데이터가 생기면, 수학도 다른 과학처럼 “어디가 어렵고 어디가 쉬운지” 지도를 그릴 수 있게 됩니다. 이게 타오가 말하는 실험 수학의 폭발입니다.

※ 출처: The Equational Theories Project 논문(arXiv 2512.07087)

진짜 문제는 ‘답을 얻고 이해를 잃는 것’

타오가 가장 걱정하는 부분은 여기입니다. 예전에는 어려운 문제를 풀려면 문제를 이해하고, 논문을 읽고, 사람들과 이야기해야 했습니다. 그 과정에서 이해가 쌓이고, 새로운 문제가 생기고, 학생이 자랐습니다. 지금은 AI에 문제를 넣으면 답이 나오지만, 그 답을 설명할 수 있는 사람이 없는 경우가 생깁니다.

그는 이것이 수학 안의 문제로 끝나지 않는다고 봅니다. 전력망, 항공 관제, 신약 설계처럼 현실의 문제에도 AI를 같은 방식으로 쓰면, 모델의 약점을 파고들어 “기준은 통과했지만 실제로는 틀린” 답이 나올 수 있다는 경고입니다.

그래서 수학 2.0은 무엇을 하자는 걸까

  • AI로 문제를 푸는 것만이 아니라, 이미 증명됐지만 너무 길고 불친절한 증명을 더 이해하기 쉽게 다시 쓰기
  • 논문 한 편 단위가 아니라, 계속 업데이트되는 논문 네트워크와 대규모 라이브러리 만들기
  • AI에게 새 증명보다 새 방법과 통찰을 찾게 하기
  • 수학자들이 현실 모델의 실패 지점을 분석하는 일에 더 많이 참여하기

타오는 가장 큰 병목은 기술이 아니라 “상상력”이라고 강연을 마무리했습니다.

언어를 가르치는 사람으로서

저는 언어를 전문으로 하는 사람인데, 언어 분야에서도 이런 경향은 뚜렷합니다. 국어든 외국어든 원래 배우는 데 시간이 오래 걸리고, 실력이 얼마나 늘었는지가 한눈에 보이지 않는 부분이 있습니다. 그런 상황에서, 내 머리로 생각하기도 전에 필요한 표현을 보여 주거나 말을 대신해 주는 AI의 작문과 번역을 접하면, 마치 내 실력이 이미 그만큼 는 것처럼 느끼기 쉽습니다. “나는 이미 이 정도를 알고 있다”는 착각이 생기는 거죠.

AI의 편리함은 쓰면 됩니다. 다만 그 지식을 내가 자유자재로 쓸 수 있을 때까지의 학습과 노력은, 함께 가야 합니다.

AI가 정답을 주는 속도는 앞으로 더 빨라질 겁니다. 그래서 오히려 “왜 그런지”를 자기 말로 설명할 수 있는 힘이 더 귀해집니다. 수학이든 외국어든, AI를 대신 생각해 주는 도구가 아니라 내 이해를 넓혀 주는 도구로 쓰는 것. 타오의 ‘수학 2.0’은 우리 모두의 공부법에 던지는 질문이기도 합니다.

출처: 테렌스 타오 강연 영상 YouTube / The Equational Theories Project, arXiv 2512.07087

댓글 달기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

위로 스크롤