"Claude와 함께 RSA-896 인수분해 성공" 주장 — 암호학계 주목

RSA 챌린지란

RSA Laboratories는 1991년부터 다양한 크기의 반소수(semi-prime) 숫자들의 인수분해 챌린지를 제시해왔다. RSA-896은 896비트(약 270자리)의 숫자로, 두 개의 대형 소수의 곱이다. RSA-768(232자리)이 2009년 대규모 분산 컴퓨팅으로 인수분해된 이후, RSA-896은 아직 공개적으로 풀리지 않은 챌린지로 남아 있었다.

주장의 핵심

보안 연구자 saweis는 2026년 9월 19일 블로그에 Claude와 함께 RSA-896을 인수분해했다는 글을 올렸다. 게시물에는 원본 합성수와 두 개의 소인수(각각 약 155자리)가 함께 제시됐다. 이론적으로 두 소수의 곱이 RSA-896 값과 일치한다면 인수분해가 성립한다. 해커뉴스에서 190점을 기록하며 암호학 커뮤니티의 주목을 받았다.

AI 지원 수학 연구의 새 지평

이 주장의 진위 여부와 별개로, AI를 활용한 정수론·암호학 연구는 이미 가속화되고 있다. LLM이 격자 기반 인수분해 알고리즘(GNFS, Number Field Sieve 등)의 구현을 보조하거나, 인수분해 과정에서의 매개변수 최적화를 제안하는 방식으로 기여할 수 있다. 만약 검증된다면, 이는 현재 RSA 암호화 표준에 대한 재검토를 촉구하는 신호가 될 수 있다.

암호학 커뮤니티는 아직 독립적인 검증 결과를 기다리는 중이다. AI와 인간의 협력이 수학적 난제 해결에서 어디까지 도달할 수 있는지, 이 사례가 그 가능성의 한 단면을 보여준다.