Cohere, 70개 이상 언어 지원 오픈 웨이트 모델 'Tiny Aya' 출시 — 오프라인 로컬 실행 가능
개요
Cohere가 2026년 2월 17일 인도 AI 정상회의(India AI Summit)에서 Tiny Aya를 발표했다. 70개 이상의 언어를 지원하는 소형 오픈 웨이트 모델로, 인터넷 연결 없이 일반 노트북에서 실행 가능한 것이 특징이다.
모델 사양
- 파라미터: 33.5억 개(3.35B)
- 라이선스: MIT 오픈 웨이트
- 학습 환경: H100 GPU 64개 단일 클러스터
- 지원 언어: 70개 이상
지역별 특화 모델
Tiny Aya는 지역별로 특화된 파인튜닝 변형 모델을 제공한다.
- TinyAya-Fire: 힌디어·우르두어·벵골어·펀자브어·구자라트어·타밀어·텔루구어·마라티어 등 남아시아 언어군
- TinyAya-Earth: 아프리카 언어군
- TinyAya-Water: 아시아태평양·서아시아·유럽 언어군
접근 방법
모델은 HuggingFace, Kaggle, Ollama에서 다운로드할 수 있으며, Cohere 플랫폼을 통한 API 접근도 지원된다. H100 GPU 64개만으로 학습을 완료했다는 점에서 비용 효율적인 훈련 방식으로도 주목받고 있다.
Source: TechCrunch
Related Articles
LocalLLaMA에서 크게 주목받은 Sarvam AI의 발표는 Apache 2.0 기반의 reasoning model인 Sarvam 30B와 Sarvam 105B를 공개한다. 회사는 두 모델이 India에서 scratch부터 학습됐고, Mixture-of-Experts 구조를 바탕으로 reasoning, coding, agentic workflow, Indian-language 성능을 겨냥했다고 설명한다.
r/LocalLLaMA의 고득점 글은 llama-swap을 이용해 로컬 LLM 다중 모델 운영을 단순화한 경험을 공유한다. 단일 실행 파일, YAML 설정, systemd 자동 시작, 모델별 파라미터 필터링이 핵심 포인트로 제시됐다.
Ollama가 2월 22일 버전 0.17을 출시해 자체 추론 엔진을 도입했다. NVIDIA GPU에서 프롬프트 처리 최대 40%, 토큰 생성 18% 향상됐으며, 개선된 멀티-GPU 텐서 병렬 처리와 AMD RDNA 4 지원도 추가됐다.
Comments (0)
No comments yet. Be the first to comment!