Unsloth, MoE 모델 훈련 속도 12배 향상 및 메모리 35% 절감 달성
Unsloth가 맞춤형 Triton 커널을 통해 Mixture of Experts 모델 훈련을 12배 가속하고 VRAM 사용량을 35% 이상 줄이는 획기적인 최적화를 공개했다. 이제 20B 파라미터 모델도 15GB VRAM 미만에서 fine-tuning이 가능하다.
카테고리
Insights의 AI 기사
Unsloth가 맞춤형 Triton 커널을 통해 Mixture of Experts 모델 훈련을 12배 가속하고 VRAM 사용량을 35% 이상 줄이는 획기적인 최적화를 공개했다. 이제 20B 파라미터 모델도 15GB VRAM 미만에서 fine-tuning이 가능하다.
에너지 효율적인 AI 추론 하드웨어 선도기업 Positron AI가 초과청약으로 $230M 조달. 데이터센터 전력 문제 해결 목표.
유엔이 AI의 글로벌 영향을 평가할 독립 국제과학패널 전문가 후보 명단 공개. 총회가 2월 12일 최종 승인 예정.
NASA의 Perseverance 로버가 AI 시스템으로 계획된 경로를 따라 화성 지형을 자율 주행. 인간 운영자 개입 없는 첫 사례.
Anthropic의 Model Context Protocol이 OpenAI·Microsoft에 채택되며 Linux Foundation의 Agentic AI Foundation에 기부. AI Agent 생태계의 USB-C로 떠오름.
전 GitHub CEO가 6천만 달러 시드 투자를 받아 AI agent 플랫폼 Entire를 출시했습니다. 첫 제품인 'Checkpoints'는 agent가 생성한 코드의 전체 컨텍스트를 Git에 자동으로 캡처하여 관찰 가능성과 감사 로그를 제공합니다.
Qwen 팀이 생성과 편집을 하나의 파이프라인으로 통합한 7B 이미지 모델을 공개했습니다. 네이티브 2K 해상도, 실제 텍스트 렌더링, 멀티패널 만화 생성 등을 지원하며, 20B였던 v1 대비 크기를 대폭 줄여 추론 속도를 크게 개선했습니다.
Unsloth가 커스텀 Triton 커널과 수학 최적화를 통해 Mixture of Experts (MoE) 모델 학습을 12배 가속화하고 VRAM 사용량을 35% 이상 줄였습니다. RTX 3090 같은 소비자용 GPU에서도 대형 모델 fine-tuning이 가능합니다.
Llama 3.2, DeepSeek-R1, Qwen3 등을 Chrome 브라우저에서 직접 실행하는 확장 프로그램. 서버, 구독료, API 비용 없이 완전히 로컬에서 작동하며, 오프라인 사용과 완벽한 프라이버시를 제공합니다.
AI 진보를 추적하는 5가지 지표에 쌍곡선 모델을 적용해 특이점 도래 시점을 밀리초 단위로 예측한 수학적 분석. 흥미롭게도 실제 특이점은 기계 능력이 아닌 인간 사회의 변화 속도에서 먼저 나타날 것으로 분석됩니다.
Hacker News에서 공개 AI 에이전트 스킬 레지스트리 ClawHub에 악성 스킬이 발견되었다고 보고. 자율 AI 도구의 지속적 메모리, 광범위한 권한, 사용자 제어 구성이 기존 위험을 증폭시킬 수 있다는 우려.
Anthropic이 NVIDIA, Microsoft, Sequoia Capital 등이 참여하는 200억 달러 규모의 후기 단계 메가 펀딩 라운드를 추진 중. OpenAI의 1,000억 달러 펀딩과 경쟁하며 컴퓨팅 집약적 R&D 강화 목표.