확산 모델의 창의성, 우연 아닌 score smoothing의 수학

이미지 생성 AI의 “창의성”을 감탄사로 처리하기보다, 어떤 학습 효과가 복제를 막고 새 샘플을 만들게 하는지 따져볼 수 있는 수학적 설명이 나왔다. Google Research가 2026년 7월 15일 공개한 글은 ICLR 2026 논문 On the Interpolation Effect of Score Smoothing in Diffusion Models와 코드를 함께 연결하며, diffusion model의 novelty가 neural network가 score function을 매끈하게 배우는 과정에서 생긴다고 설명한다.

diffusion model은 학습 데이터에 noise를 더해 망가뜨린 뒤, 다시 denoising하는 법을 배운다. 이론적으로 완벽한 score function을 배운다면 결과물은 학습 데이터 지점으로 정확히 끌려가 memorization에 가까워진다. 하지만 실제 neural network는 sharp cliff 같은 급격한 함수를 그대로 배우기 어렵다. weight decay 같은 regularization, 그리고 gradient 기반 학습의 implicit regularization 때문에 score function이 부드럽게 근사된다. Google Research는 이 현상을 score smoothing으로 부른다.

핵심은 그 부드러움이 단순히 이미지를 흐리게 만드는 것이 아니라는 점이다. 1차원 예시에서 완벽한 score function은 공간을 두 학습 지점으로 날카롭게 나누지만, smoothing된 score function은 중간 영역의 흐름을 늦춘다. 그 결과 샘플은 기존 데이터 지점에 붕괴하지 않고 interpolation zone에 머물 수 있다. 다차원 이미지 공간에서는 이 효과가 data manifold와 평행한 방향에서 주로 작동해, 모델이 학습 샘플 사이의 그럴듯한 지점을 찾도록 돕는다.

이 연구가 중요한 이유는 생성형 AI의 품질과 저작권·memorization 논쟁이 같은 지점에서 만난다는 데 있다. 모델이 훈련 이미지를 그대로 재현하는지, 아니면 데이터 manifold 위의 새 조합을 만드는지는 법적·제품적 리스크와 직결된다. 논문은 creativity를 신비로운 능력으로 두지 않고, neural network regularization과 denoising dynamics의 결과로 분석한다. 코드를 함께 공개한 점도 검증 가능성을 높인다.

물론 이것이 모든 diffusion model의 행동을 끝까지 설명한다는 뜻은 아니다. Google Research도 더 복잡한 data distribution과 architecture에서 어떤 일이 생기는지는 남은 문제라고 밝혔다. 그래도 이번 결과는 “좋은 생성 모델은 왜 무작정 베끼지 않는가”라는 질문에 더 단단한 출발점을 준다. 다음 쟁점은 이 score smoothing을 의도적으로 조절해, 품질과 novelty, memorization 회피 사이의 균형을 제품 수준에서 제어할 수 있는지다.