NVIDIA, Ising 공개로 양자 오류 보정 속도전을 앞당긴다

양자 컴퓨팅의 가장 불편한 병목 가운데 하나가 이제는 AI 문제처럼 보이기 시작했다. NVIDIA는 2026-04-14 공개한 NVIDIA Ising에서 양자 프로세서 보정과 양자 오류 정정 디코딩을 위한 개방형 모델군을 내놨다. 지금의 최고 수준 양자 프로세서도 연산 약 1000번마다 한 번꼴로 오류를 내지만, 실용적인 fault-tolerant 시스템은 오류율을 1조분의 1 수준까지 낮춰야 한다. 이 간격을 AI가 조금이라도 줄일 수 있다면, 병목은 수작업 튜닝에서 실제 배포 가능한 소프트웨어 쪽으로 이동한다.

이번 공개물은 단일 모델이 아니라 두 축으로 구성된다. Ising Calibration은 양자 실험 출력을 읽고 다음 조치를 제안하는 vision-language model이고, Ising Decoding은 실시간 오류 정정을 위한 3D CNN pre-decoder 묶음이다. NVIDIA는 기본 모델, 학습 프레임워크, 배포 레시피, fine-tuning 및 quantization 워크플로까지 함께 제공한다고 설명했다. 각 연구팀이 자사 QPU의 노이즈 특성에 맞게 조정하면서도, 민감한 데이터는 외부 API에 넘기지 않고 내부에 둘 수 있다는 점이 핵심이다. 단순히 모델 하나를 보여주는 데서 끝나지 않고, 검증 가능한 스택 전체를 열었다는 뜻이기도 하다.

가장 강한 숫자는 보정 쪽에서 나왔다. NVIDIA에 따르면 35B 규모의 Ising-Calibration-1은 superconducting qubits, quantum dots, ions, neutral atoms, electrons on Helium 등 여러 qubit modality의 파트너 데이터를 학습했다. 새로 공개한 QCalEval 벤치마크에서 평균 성능은 Gemini 3.1 Pro 대비 3.27%, Claude Opus 4.6 대비 9.68%, GPT 5.4 대비 14.5% 높았다고 한다. 디코딩 쪽도 수치가 구체적이다. fast 모델은 약 912,000 parameters, accurate 모델은 약 1.79 million parameters이며, NVIDIA는 fast pre-decoder와 PyMatching 조합이 d=13, p=0.003에서 2.5x 더 빠르고 1.11x 더 정확하다고 적었다. accurate 버전은 같은 조건에서 2.25x 더 빠르고 1.53x 더 정확하다는 설명이다.

물론 벤치마크 글 하나가 곧바로 양자 제어 스택의 표준이 되지는 않는다. 그래도 NVIDIA가 이번에 공개한 것은 외부 검증이 가능한 재료들이다. 가중치는 Hugging Face에, decoder 학습 코드는 Apache 2.0 기반 GitHub에, 실시간 API는 CUDA-Q QEC와 CUDAQ-Realtime 위에 얹어 제공된다고 했다. 특히 눈에 띄는 숫자는 13개의 GB300 GPU와 FP8 precision을 가정했을 때 fast 모델이 surface code d=13, 1000 rounds에서 round당 0.11 microseconds까지 갈 수 있다는 전망치다. 이 수치가 외부 실험에서도 일정 부분 재현된다면, Ising은 화제성 높은 데모가 아니라 fault-tolerant quantum computing을 밀어주는 실제 소프트웨어 층으로 받아들여질 가능성이 크다.