LLM 레딧
LocalLLaMA가 짚은 FlashAttention-4, Blackwell 이득과 일반 GPU 사용자의 한계
LocalLLaMA의 기술 토론은 FlashAttention-4 논문을 실제 배포 관점으로 풀어내며, Blackwell에서의 큰 성능 향상과 Python 기반 kernel 개발 속도 개선, 그리고 A100·consumer GPU 사용자가 당장 누리기 어려운 현실을 함께 짚었다.
1분 소요 48 조회
태그
#gpu
#gpu 태그가 달린 기사
AI 해커뉴스
Hacker News가 다시 꺼낸 Flash-KMeans, Exact K-Means를 GPU online primitive로
10 Mar 2026에 제출된 arXiv 논문 Flash-KMeans는 Exact K-Means의 GPU 병목인 N x K distance matrix의 HBM materialization과 centroid update의 atomic contention을 직접 겨냥한다. Hacker News에서 180 points와 14 comments를 모은 이유는, 이 결과가 FlashAttention-style systems optimization, CPU와 GPU의 차이, 그리고 K-Means의 online primitive화라는 실무 질문으로 바로 이어졌기 때문이다.
3분 소요 40 조회
LLM 레딧
FlashAttention-4, Blackwell 병목에 맞춘 overlap 중심 커널 설계 공개
r/LocalLLaMA에서 주목받은 FlashAttention-4는 B200 BF16에서 최대 1605 TFLOPs/s를 제시하며, Blackwell의 메모리·SFU 병목을 겨냥한 파이프라인 개선을 소개했다.
1분 소요 41 조회
게이밍 레딧
PCWorld 보도: 2025년 4분기 PC 외장 GPU 시장, Nvidia 90% 이상 점유
r/pcgaming에서 주목받은 PCWorld 기사에 따르면 Jon Peddie Research 기준으로 Nvidia가 PC 외장 GPU 시장 90% 이상을 차지했고 AMD는 10% 미만으로 내려갔다.
1분 소요 48 조회
게이밍 레딧
마이크로소프트 SER 기술, Intel Arc B 시리즈에서 90%, NVIDIA Blackwell에서 80% 성능 향상
마이크로소프트의 Shader Execution Reordering(SER) 기술이 Intel Arc B 시리즈 GPU에서 최대 90%, NVIDIA Blackwell GPU에서 최대 80%의 성능 향상을 이끌어내는 것으로 나타났다.
1분 소요 46 조회
LLM 레딧
2x RTX 3090으로 Qwen3.5 27B를 170k 컨텍스트에서 초당 100+ 토큰으로 구동하는 법
커뮤니티 개발자가 2x RTX 3090(NVLink) 환경에서 vLLM과 텐서 병렬화를 활용해 Qwen3.5 27B 모델을 170k 컨텍스트에서 초당 100+ 토큰 디코딩, 최대 585t/s의 멀티 요청 처리 성능을 달성했다.
1분 소요 52 조회
AI
NVIDIA Vera Rubin NVL72 상세 스펙 공개 — Blackwell 대비 5배 성능, 토큰 비용 10분의 1
엔비디아가 차세대 AI 컴퓨팅 시스템 Vera Rubin NVL72의 상세 사양을 공개했다. GPU당 추론 성능이 Blackwell의 5배이며 토큰당 추론 비용은 10분의 1로 절감된다. 2026년 하반기 출하 예정.
1분 소요 39 조회
게이밍 레딧
Nvidia 실적 구조 재확인…data center $193.7B, gaming $16B
r/pcgaming 고득점 글은 PC Gamer 보도를 근거로 Nvidia의 연간 data center 매출 $193.7B(+75% YoY), gaming 매출 $16B를 부각했다. 커뮤니티는 이를 제품 우선순위 해석의 기준점으로 보고 있다.
2분 소요 47 조회
AI
젠슨 황 "GTC 2026서 세상을 놀라게 할 칩 공개" — 3월 산호세 행사서 공개 예정
NVIDIA CEO 젠슨 황이 2월 19일 '세상이 본 적 없는' 신형 칩을 3월 16~19일 GTC 2026에서 공개할 것이라고 예고했다. Rubin 플랫폼 이후 차세대 아키텍처에 대한 기대감이 고조되고 있다.
1분 소요 41 조회
LLM 해커뉴스
NVMe-to-GPU로 RTX 3090 단일 GPU에서 Llama 3.1 70B 실행
CPU RAM을 우회하고 NVMe 저장장치에서 GPU로 직접 가중치를 스트리밍하는 방식으로, RTX 3090 단일 소비자용 GPU에서 700억 파라미터 Llama 3.1 모델을 실행하는 오픈소스 프로젝트가 공개됐습니다.
1분 소요 40 조회
AI
NVIDIA Rubin CPX, 100만 토큰 처리 가능한 새로운 AI GPU 공개
NVIDIA가 대규모 컨텍스트 처리 전용 GPU Rubin CPX 발표. 소프트웨어 코딩과 생성형 비디오에서 100만 토큰 이상 처리 가능하며, 2026년 하반기 AWS, Google Cloud, Microsoft 등을 통해 제공 예정.
1분 소요 53 조회
AI
Intel, GPU 제조 시장 진출 선언...NVIDIA 독점 도전장
Intel CEO Lip-Bu Tan이 Cisco AI Summit에서 GPU 제조 시작을 공식 발표했다. NVIDIA가 독점하던 GPU 시장에 대형 반도체 제조사가 본격 진출하며 경쟁 구도가 재편될 전망이다.
1분 소요 46 조회