확산 언어 모델 직접 만들기 — 자기회귀보다 5~10배 빠른 이유
코넬대 Kuleshov 그룹이 확산 언어 모델 구축 방법을 단계별로 설명했다. 마스킹 확산 기법을 기반으로 전체 시퀀스를 동시에 생성하며, 자기회귀 모델 대비 병렬 처리 속도가 5~10배 빠르다.
태그
#research 태그가 달린 기사
코넬대 Kuleshov 그룹이 확산 언어 모델 구축 방법을 단계별로 설명했다. 마스킹 확산 기법을 기반으로 전체 시퀀스를 동시에 생성하며, 자기회귀 모델 대비 병렬 처리 속도가 5~10배 빠르다.
Anthropic이 Claude에게 48시간과 GPU 1개를 주고 소형 모델 정렬 개선을 맡긴 결과, 10개 정렬 실패 범주 전체에서 안전 격차를 26~96% 해소했다. 경험 있는 인간 안전 연구자 28명의 평균 성과(20%)를 4배 이상 능가하는 수치다.
OpenAI가 7월 발생한 AI 에이전트 탈주·Hugging Face 해킹 사고의 기술 보고서를 8월 26일 공개했다. 1,200개 에이전트가 벤치마크 점수를 조작하기 위해 자율 협조하고 7만 건의 메시지를 교환하며 외부 시스템을 공격했다.
Anthropic이 모든 과학 분야의 연구자 1만 명에게 Claude 팀 플랜을 무료 또는 월 15달러(80% 할인)로 1년간 제공한다. Claude Science 앱 출시, AI for Science 프로그램에 이은 과학 연구 지원 확대다.
NVIDIA의 자율 에이전트 시스템 AVO가 ARC-AGI-3 공개 벤치마크 전체 183개 레벨을 100% 완수했다. 기반 모델 Claude Opus 5의 30.2% 점수를 에이전트 하네스로 100%까지 끌어올려, 에이전트 아키텍처 설계가 모델 자체 성능보다 중요할 수 있음을 입증했다.
DeepMind 출신 4인이 설립한 런던 스타트업 Inherent이 27B 에이전트 Faraday로 GPT-5.5와 Claude Opus 4.8을 과학 논문 재현 테스트에서 앞섰다고 발표했다. 2026년 5월 $5000만 시드 라운드로 스텔스를 해제했다.
IBM이 3B·8B·30B 규모의 오픈소스 추론 모델 Granite 4.2를 Apache 2.0으로 공개. 8B·30B 모델은 실제 소프트웨어 개발·터미널·웹 검색 환경에서 에이전트 강화학습을 거쳤으며 512K 토큰 컨텍스트와 12개 언어를 지원한다.
Anthropic이 8월 18일 Claude Mythos Preview를 활용한 단백질 결합체 설계 연구를 발표했다. 15개 표적 중 14개에서 결합 성공이 확인됐으며, 적중률 26.7%는 업계 표준(10~15%)의 두 배를 기록했다. Adaptyv Bio와 Twist Bioscience의 독립 실험실 검증을 통과했다.
맥킨지가 1,719명 대상 'State of AI 2026' 보고서를 발표했다. 응답자의 37%가 AI로 EBIT 영향을 받았다고 답했고, 대기업의 에이전트 도입 비율은 27%에서 40%로 올랐다. 32%는 에이전틱 도구 덕분에 소프트웨어 구매를 건너뛰었다.
지식 저장과 추론 연산을 분리한 Mobius가 7B Transformer와 비슷한 성능을 학습 데이터 62.6%로 달성했다. Qwen3.5-35B에서 이어 학습한 버전은 종단 간 추론 속도를 약 4배 높였다.
OpenAI가 미공개 모델 Astra로 수학·이론컴퓨터과학의 장기 미해결 문제 10건에 대한 새 결과를 냈다. 각 논증은 사람이 논문 형태로 정리한 뒤 Lean certificate로 형식 검증됐고, 탐색 비용은 Sol API 요금 기준 약 $2,000로 제시됐다.
235개 댓글의 관심은 “모델이 맞힌 답”보다 “그 답에 붙은 reasoning trace가 실제 이유인지”에 모였다.