LLM 해커뉴스
확산 언어 모델 직접 만들기 — 자기회귀보다 5~10배 빠른 이유
코넬대 Kuleshov 그룹이 확산 언어 모델 구축 방법을 단계별로 설명했다. 마스킹 확산 기법을 기반으로 전체 시퀀스를 동시에 생성하며, 자기회귀 모델 대비 병렬 처리 속도가 5~10배 빠르다.
1분 소요 1 조회
태그
#ml
#ml 태그가 달린 기사
LLM
AIBuildAI, MLE-Bench 63.1%로 AI model 제작 자동화를 겨냥
AIBuildAI는 MLE-Bench에서 63.1% medal rate를 보고하며 AI model 제작 agent의 기준선을 끌어올렸다. 핵심은 AutoML의 일부 최적화가 아니라 설계, coding, debugging, training, tuning을 하나의 workflow로 묶었다는 점이다.
2분 소요 42 조회