AI의 기본 연산을 둘러싼 새 상한

행렬곱 알고리즘의 이론적 속도 한계가 다시 낮아졌다. Google DeepMind 연구진과 학계 공동 연구팀은 행렬곱 지수 ω의 상한을 기존 2.371339에서 2.371177 미만으로 개선했다. 차이는 0.000162에 불과하지만, 행렬곱이 그래픽과 과학 계산, 머신러닝 전반의 기본 연산이라는 점에서 복잡도 이론의 오랜 기록을 움직인 결과다.

“행렬곱 지수의 새로운 기록은 ω<2.371177이며, 학계 협력자들과 Gemini 기반 코딩 에이전트 AlphaEvolve가 함께 만든 결과다.”

이 설명은 논문 공동 저자이자 Google DeepMind 연구자인 Pushmeet Kohli의 원문 게시물에 담겼다. 그의 계정은 DeepMind의 알고리즘 연구와 과학적 성과를 자주 공유한다. Google DeepMind 공식 계정도 이 게시물을 재게시해 연구 결과를 확산했다.

AlphaEvolve가 맡은 부분

연결된 논문은 현재 최선의 상한이 레이저 방법을 다듬은 조합 손실 분석에서 나온다고 설명한다. 연구팀은 먼저 핵심 최적화 문제를 재정식화해 이전보다 큰 설정을 풀 수 있게 했다. 이어 최근 머신러닝 기법으로 새로운 최적화 알고리즘을 설계하고, 마지막 단계에서 AlphaEvolve로 결과를 더 다듬었다.

AlphaEvolve는 자연어 답변만 내는 챗봇이 아니라, Gemini 모델이 제안한 프로그램을 자동 평가와 진화적 탐색으로 반복 개선하는 코딩 에이전트다. 이번 성과에서도 이론 전체를 단독으로 증명한 것이 아니다. 인간 연구자가 문제 구조와 수학적 틀을 만들고, 현대 최적화 기법과 에이전트 탐색을 결합해 더 나은 매개변수와 구성을 찾았다. 논문의 저자는 DeepMind와 여러 대학 연구자 10명이다.

ω는 n×n 행렬 두 개를 곱할 때 필요한 연산량을 대략 O(n^ω)로 나타내는 지수다. 실무의 일반적인 행렬곱이 곧바로 이 상한의 알고리즘으로 바뀌는 것은 아니다. 큰 상수와 복잡한 구조 때문에 이론 기록이 GPU 커널의 즉각적인 속도 향상으로 이어지지 않을 수 있다. 그래도 더 낮은 상한은 그래프 알고리즘과 선형대수 등 행렬곱에 환원되는 많은 문제의 이론적 경계에 영향을 준다.

다음 확인점

논문은 2026년 8월 17일 제출된 v1 프리프린트다. 동료 검토와 독립적인 계산 검증, 최적화 결과의 재현이 먼저 필요하다. 이후 주목할 부분은 AlphaEvolve가 다른 조합론·복잡도 문제에서도 사람이 만든 재정식화와 결합해 새 경계를 찾는지, 그리고 이번 구성이 후속 연구에서 더 낮은 ω로 이어지는지다.

기사

AlphaEvolve, 행렬곱 지수 상한 2.371177로 낮춰 이론 계산 신기록 경신 성과