LLM
Codex 주간 사용자 400만 돌파… OpenAI, Codex Labs와 7개 GSI 배포망
이건 단순한 이용자 숫자 기사가 아니라 유통 전략 기사에 가깝다. OpenAI는 4월 초 주간 개발자 300만명 이상이던 Codex가 2주 만에 400만명을 넘겼고, 이 수요를 Codex Labs와 7개 GSI 파트너 체제로 받아내겠다고 했다.
2분 소요 46 조회
카테고리
LLM
Insights의 LLM 기사
LLM
Responses API에 WebSocket… OpenAI agent loop 최대 40% 단축
병목이 GPU에서 API 계층으로 옮겨가자 OpenAI는 전송 방식을 손봤다. Responses API에 WebSocket 모드와 연결 범위 캐시를 넣으면서 agent workflow가 end-to-end 기준 최대 40% 빨라졌고, GPT-5.3-Codex-Spark는 1,000 TPS와 최대 4,000 TPS burst에 도달했다고 한다.
2분 소요 41 조회
LLM X/Twitter
Cohere W4A8, vLLM Hopper에서 first-token latency 58% 단축 주장
중요한 점은 inference cost가 이제 infrastructure 문제가 아니라 product constraint가 됐다는 데 있다. Cohere는 vLLM의 W4A8 path가 Hopper에서 W4A16 대비 TTFT 최대 58%, TPOT 최대 45% 빠르다고 밝혔다.
1분 소요 45 조회
LLM X/Twitter
Perplexity, Qwen SFT+RL로 GPT factuality 비용 곡선 추월 주장
중요한 점은 검색형 AI가 유창한 답변보다 factuality와 citation 품질로 평가된다는 데 있다. Perplexity는 SFT + RL pipeline으로 Qwen model이 더 낮은 비용에서 GPT model의 factuality를 맞추거나 앞선다고 주장했다.
1분 소요 48 조회
LLM 레딧
MacBook Air M5에서 local coding LLM 21개 비교, LocalLLaMA가 원한 건 vibe 아닌 숫자
r/LocalLLaMA의 MacBook Air M5 benchmark 글은 Qwen 3.6 35B-A3B의 89.6% HumanEval+ 결과뿐 아니라, RAM과 tok/s를 함께 본 실사용 관점을 제공했다.
1분 소요 42 조회
LLM 레딧
LocalLLaMA의 Gemma 4 번역 사례, "직접 돌려야 내 것"이라는 반응
r/LocalLLaMA에서 올라온 번역 실험담은 benchmark가 아니라 체감 사례지만, local model이 drift와 censorship risk를 피하는 실용적 선택지로 보인다는 커뮤니티 감각을 잘 보여 준다.
2분 소요 40 조회
LLM 해커뉴스
OpenClaw와 Claude CLI 재사용 논쟁, HN이 본 문제는 policy의 불투명성
Hacker News에서 OpenClaw의 Anthropic page가 다시 오른 이유는 Claude CLI 재사용 가능 여부보다, subscription·CLI·API 경계가 여전히 불명확하다는 개발자 불안 때문이다.
2분 소요 41 조회
LLM 해커뉴스
GitHub Copilot 요금제 변경에 HN 술렁, agent 비용이 드러난 순간
Hacker News가 반응한 핵심은 Copilot Individual 변경 자체보다, agentic coding이 구독 가격 안에 숨겨 두기 어려운 compute 비용을 만들고 있다는 신호다.
2분 소요 37 조회
LLM 레딧
Qwen3.6-27B에 LocalLLaMA 들썩… 27B dense와 262K context
LocalLLaMA는 Qwen3.6-27B를 model card가 아니라 바로 quantize하고 돌려볼 수 있는 ownership 순간으로 받아들였다.
1분 소요 42 조회
LLM X/Twitter
NVIDIA NeMo RL, FP8로 Qwen3-8B RL workload를 1.48x 가속
중요한 점은 post-training agent 경쟁이 inference speed뿐 아니라 reinforcement learning throughput에 달려 있다는 데 있다. NVIDIA는 NeMo RL의 FP8 path가 Qwen3-8B-Base에서 RL workload를 1.48x 빠르게 하면서 BF16 accuracy를 따라간다고 제시했다.
1분 소요 40 조회
LLM X/Twitter
LlamaIndex LiteParse, grid projection으로 PDF table 구조를 보존하는 parser
중요한 점은 document agent가 PDF parsing 단계에서 table과 column 구조를 잃으면 reasoning도 같이 무너진다는 데 있다. LiteParse는 heavy layout model 대신 monospace grid projection을 쓰고, code를 open source로 공개했다.
1분 소요 36 조회
LLM 레딧
Rust·llama.cpp manga translator, LocalLLaMA가 본 local OCR pipeline의 손맛
LocalLLaMA가 반응한 포인트는 “번역 앱”이 아니라 detection, visual OCR, inpainting, local LLM을 한 번에 묶은 실제 workflow였다.
1분 소요 52 조회