TorchLean: Lean 4에서 신경망 실행·검증 의미를 하나로 묶다

모델은 실행되고, 검증은 따로 되는 문제를 정면으로 다룬 연구

r/MachineLearning의 글 [R] TorchLean: Formalizing Neural Networks in Lean은 화려한 데모보다는 인프라의 신뢰성 문제를 다룬다는 점에서 의미가 크다. 게시글은 score 64로 큰 화제성보다 기술 커뮤니티의 선택적 관심을 받았고, 핵심 링크로 arXiv 논문 2602.22631과 프로젝트 페이지 TorchLean를 제시한다.

논문이 제기하는 문제의식은 명확하다. 실제 배포되는 신경망과 검증 대상 아티팩트가 서로 다른 의미 체계에서 다뤄질 때, 연산자 의미, 텐서 레이아웃, 전처리, Float32 반올림 같은 세부에서 “semantic gap”이 생긴다. 이 간극은 검증 결과가 코드 변경이나 런타임 설정 변화에 취약해지는 이유가 된다.

TorchLean은 이 간극을 줄이기 위해 Lean 4 안에서 실행과 검증이 같은 수학적 객체를 공유하도록 설계됐다. 글에 따르면 구성 요소는 크게 세 가지다. 첫째, eager/compiled 모드를 모두 포함한 PyTorch 스타일 verified API를 제공하고, 이를 op-tagged SSA/DAG computation graph IR로 낮춘다. 둘째, executable IEEE-754 binary32 kernel과 proof-relevant rounding model을 통해 Float32 의미를 명시적으로 다룬다. 셋째, IBP와 CROWN/LiRPA 계열 bound propagation을 certificate checking과 결합해 검증 루프를 폐쇄한다.

평가 항목도 실무 관점에서 흥미롭다. certified robustness, PINNs의 residual bound, Lyapunov 스타일 neural controller verification을 end-to-end로 제시하고, 이론 측면에서는 universal approximation theorem의 mechanized result를 포함했다. 즉, 단일 벤치마크 성능보다 “증명 가능한 재현성”을 중심에 둔 접근이다.

이 연구가 당장 모든 프로덕션 파이프라인을 대체하진 않겠지만, 안전·규제·미션 크리티컬 영역에서는 의미 체계 통합이 비용보다 큰 가치를 만들 수 있다. TorchLean의 기여는 새로운 모델 하나를 추가한 것이 아니라, 모델 개발과 검증이 같은 언어로 대화하도록 기반을 바꿨다는 점에 있다.