태그

#llama

#llama 태그가 달린 기사

LLM 레딧

Meta, 오픈소스 AI 프로젝트 Heretic에 법적 경고 — Galileo 인용하며 응수

Meta가 Llama 파생 모델을 배포하던 오픈소스 프로젝트 Heretic에 법적 통보를 보냈습니다. Heretic은 갈릴레오 재판을 인용하는 풍자적 공개 성명을 발표하면서 독일 Codeberg에 미러를 설치했습니다.

2026년 5월 22일 1분 소요 35

#meta #llama #open-source

LLM 레딧

LM Studio 오픈소스 대안 TextGen, 네이티브 데스크톱 앱으로 재탄생

2022년 12월부터 개발된 text-generation-webui가 'TextGen'이라는 이름으로 Windows·Linux·macOS를 지원하는 네이티브 데스크톱 앱으로 출시됐다. Electron 기반의 설치 불필요 앱으로, LM Studio와 동일한 방식이지만 완전 오픈소스다.

2026년 5월 14일 1분 소요 39

#textgen #local-llm #open-source

AI 레딧

저커버그, AI 학습 저작권 침해 직접 승인 혐의로 피소

5개 출판사와 작가 스콧 투로우가 마크 저커버그가 AI 학습을 위한 대규모 저작권 침해를 개인적으로 승인했다고 주장하며 소송을 제기했다.

2026년 5월 12일 1분 소요 39

#meta #llama #copyright

LLM 레딧

r/LocalLLaMA가 본 Graph-RAG, Llama 8B도 multi-hop QA에서 70B에 근접할 수 있다

새 r/LocalLLaMA 스레드는 multi-hop QA의 병목이 retrieval이 아니라 reasoning일 수 있다는 Graph-RAG 결과를 끌어올렸다. structured prompting과 graph-based context compression을 결합하면 Llama 8B가 plain 70B baseline에 맞설 수 있다는 주장이 핵심이다.

2026년 3월 22일 2분 소요 37

#graph-rag #llama #reasoning

LLM 해커뉴스

NVMe-to-GPU로 RTX 3090 단일 GPU에서 Llama 3.1 70B 실행

CPU RAM을 우회하고 NVMe 저장장치에서 GPU로 직접 가중치를 스트리밍하는 방식으로, RTX 3090 단일 소비자용 GPU에서 700억 파라미터 Llama 3.1 모델을 실행하는 오픈소스 프로젝트가 공개됐습니다.

2026년 2월 22일 1분 소요 40

#llama #gpu #open-source

LLM 해커뉴스

Taalas, 모델 특화 실리콘으로 저지연 AI 추론 전략 제시

Hacker News 고반응 스레드에서 Taalas의 모델 특화 실리콘 접근이 주목받았다. 회사는 하드와이어드 Llama 3.1 8B 기반으로 사용자당 17K tokens/sec 성능을 주장했다.

2026년 2월 20일 2분 소요 38

#llm #inference #ai-hardware