태그

#rag

#rag 태그가 달린 기사

RSS 피드

LLM 해커뉴스

Hacker News가 다시 조명한 production RAG의 현실, local model로 451GB를 다루는 법

Andros Fenollosa의 회고가 Hacker News에서 반응을 얻은 이유는 production RAG를 prompt demo가 아니라 데이터와 운영 문제로 다뤘기 때문이다.

2026년 3월 27일 2분 소요 51

#rag #llamaindex #chromadb

LLM 해커뉴스

DSPy 채택은 더딘데, 팀들은 왜 같은 LLM 패턴을 다시 만들까

Hacker News에서 주목받은 Skylar Payne의 글은 AI 시스템이 커질수록 팀들이 DSPy의 핵심 패턴을 다시 구현하게 된다고 주장한다. 동시에 HN 토론에서는 Python 중심성, prompt optimization의 위치, evals 설계 비용이 adoption을 늦추는 현실적 이유로 함께 지적됐다.

2026년 3월 23일 2분 소요 40

#dspy #llm-engineering #hacker-news

LLM

IBM Granite, Mellea 0.4.0과 Granite Libraries 공개

IBM Granite는 2026-03-20 Mellea 0.4.0과 Granite 4.0 Micro용 Granite Libraries 3종을 공개했다. prompt-only orchestration 대신 구조화되고 safety-aware한 workflow를 만들려는 팀에 초점을 둔 release다.

2026년 3월 21일 1분 소요 35

#ibm #granite #rag

LLM

Google, Gemini Embedding 2 public preview 시작... 첫 natively multimodal embedding 모델

Google은 2026년 3월 10일 Gemini Embedding 2를 public preview로 공개했다. 회사는 이 모델이 text, image, 그리고 PDF 같은 mixed multimodal 문서를 하나의 embedding space에서 처리하며, benchmark score를 68.32와 53.3까지 끌어올리면서도 가격과 차원 수는 유지한다고 밝혔다.

2026년 3월 16일 1분 소요 41

#google #embeddings #multimodal

AI 해커뉴스

Hacker News, McKinsey Lilli를 노린 AI 보안형 SQL injection 사례에 주목

Hacker News에서는 CodeWall이 2026년 3월 9일 공개한 McKinsey Lilli 침해 보고서가 빠르게 확산됐다. 보고서는 autonomous agent가 unauthenticated endpoint, SQL injection, prompt-layer 접근을 연쇄적으로 이용해 production DB까지 도달했다고 주장한다.

2026년 3월 14일 2분 소요 33

#ai-security #sql-injection #rag

LLM 해커뉴스

RAG 문서 오염 공격, 왜 output filter보다 ingestion 통제가 중요한가

Hacker News에서 화제가 된 Amine Raji의 local ChromaDB 실험은, RAG 보안의 핵심이 prompt 자체보다 source corpus 오염과 ingestion 검증에 있을 수 있음을 보여준다.

2026년 3월 13일 2분 소요 40

#rag #security #retrieval

LLM 해커뉴스

Hacker News가 Apple Silicon용 온디바이스 음성 AI 스택을 밀어 올리다

Launch HN 스레드는 RunAnywhere의 MetalRT와 RCLI를 끌어올리며, Apple Silicon에서 STT·LLM·TTS를 클라우드 없이 엮는 저지연 음성 AI 파이프라인에 관심을 모았다.

2026년 3월 11일 2분 소요 42

#apple-silicon #on-device-ai #voice-ai

LLM 해커뉴스

Hacker News가 조명한 Apple Silicon용 RunAnywhere 로컬 Voice AI 스택

Launch HN 스레드로 RunAnywhere의 RCLI가 부각됐다. 이 프로젝트는 Apple Silicon에서 STT, LLM, TTS, 로컬 RAG, 38개 macOS action을 모두 로컬로 묶어 macOS용 Voice AI를 구축하려는 시도다.

2026년 3월 11일 2분 소요 37

#apple-silicon #local-ai #voice-ai

LLM X/Twitter

Perplexity, `pplx-embed` 계열 공개: INT8/Binary 기반 web-scale retrieval 최적화

Perplexity는 2026-02-26 X에서 `pplx-embed-v1`와 `pplx-embed-context-v1` 출시를 발표했다. 0.6B/4B 구성, INT8/Binary 출력, retrieval 중심 benchmark 수치가 핵심이다.

2026년 2월 27일 1분 소요 47

#perplexity #embeddings #retrieval