본문으로 건너뛰기

태그

#together-ai

#together-ai 태그가 달린 기사

RSS 피드
LLM X/Twitter

Together Research, LLM으로 잘못된 database query plan 보정…최대 4.78배 가속 주장

Together Research는 DBPlanBench를 통해 LLM이 DataFusion의 물리 query plan을 직접 수정해 일부 TPC-H·TPC-DS 워크로드에서 최대 4.78배 속도 향상을 냈다고 밝혔다. 핵심은 전체 plan을 다시 생성하지 않고 기존 plan에 국소 패치를 적용하는 방식이다.

1분 소요 31 조회
LLM X/Twitter

Together Research, RL 기반 adaptive speculative decoding 시스템 Aurora 공개

Together Research는 2026년 3월 31일 live inference trace를 학습해 speculative draft model을 serving 중단 없이 비동기적으로 갱신하는 open-source framework Aurora를 공개했다. 회사의 블로그와 논문은 Aurora가 문제를 asynchronous RL로 재정의하며, traffic shift 상황에서 강한 static speculator 대비 1.25x 추가 속도 향상을 낼 수 있다고 설명한다.

2분 소요 42 조회
LLM X/Twitter

Together Research, divide-and-conquer long-context 파이프라인이 GPT-4o single-shot를 앞설 수 있다고 보고

Together Research는 2026년 3월 27일 divide-and-conquer를 적용한 더 작은 모델이 long-context task에서 GPT-4o single-shot를 맞추거나 앞설 수 있다고 밝혔다. Together 블로그와 arXiv 논문은 이 방법이 planner-worker-manager 구조와 task, model, aggregator noise 분석에 기반한다고 설명한다.

2분 소요 39 조회
LLM X/Twitter

Together AI, tool calling·reasoning·VLM fine-tuning 확대… 100B+ 모델·최대 6배 처리량 지원

Together AI는 2026년 3월 19일 자사 fine-tuning 서비스가 tool call, reasoning, vision-language workflow를 기본 지원한다고 밝혔다. 연결된 Together AI 블로그는 100B+ parameter 모델, 최대 100GB 데이터셋, 대형 MoE 모델에서 최대 6배 처리량, 학습 전 비용 추정과 실행 중 ETA 제공까지 포함된다고 설명한다.

2분 소요 39 조회
LLM X/Twitter

Together AI, tool calling·reasoning·VLM fine-tuning 확대… 대형 MoE 학습 처리량 6배 향상

Together AI는 2026년 3월 19일 fine-tuning 서비스가 tool calling, reasoning, vision-language model 학습을 지원하고 MoE 아키텍처에서 최대 6배 높은 처리량을 낸다고 밝혔다. 공식 글은 최대 1T 파라미터급 모델 지원 방향과 함께 100GB 데이터셋, 사전 비용 추정, 학습 중 ETA 제공을 설명한다.

2분 소요 40 조회