브라우저에서 돌아가는 오픈소스 Jev 대안 'SemIf' 공개

Jev란 무엇인가

TypeSafe AI는 2026년 9월 비자기회귀(non-autoregressive) 방식의 의사결정 모델 'Jev'를 공개했다. Jev는 텍스트를 한 글자씩 생성하지 않고 허용된 선택지에 대한 확률 분포를 직접 읽어, 기존 LLM 대비 훨씬 빠른 구조화된 판단을 가능하게 한다. GPT의 공동 발명자인 Diogo Almeida가 이끄는 팀이 개발했다.

SemIf: 브라우저에서 실행되는 오픈소스 대안

독립 연구 프로젝트 SemIf는 이 개념을 브라우저에서 직접 재현한다. 설치 없이 페이지를 열면 Hugging Face에서 모델을 받아 로컬 GPU로 추론한다. 입력 데이터는 외부로 전송되지 않는다.

지원 모델은 세 가지다. 전화기나 소형 기기에는 Qwen3 0.6B(639 MB), 데스크톱 기본으로는 MiniCPM5 2B(1.56 GB), 고성능 환경에는 Qwen3.5 4B(3.01 GB)를 선택할 수 있다. 공개된 102행 벤치마크 기준으로 MiniCPM5 2B는 TypeSafe의 Jev 대비 약 75% 수준의 정확도를 보인다.

두 가지 추론 방법 비교

SemIf는 같은 질문에 두 방식을 동시에 실행해 속도와 정확도를 직접 측정할 수 있도록 설계되어 있다.

• 확률 읽기: 모델이 각 선택지에 대한 로그 확률을 직접 읽는 방식. 디코딩 없이 작동해 매우 빠르다.
• 토큰 분포 생성: 같은 확률 분포를 토큰 단위로 생성하는 방식. 속도는 느리지만 더 유연하다.

비자기회귀 모델의 맥락

이 SemIf 프로젝트는 ConvAI Innovations의 Laya(현재 별도 HN 스레드)와 함께 Jev 출시 이후 비자기회귀 의사결정 모델에 대한 커뮤니티 관심이 급격히 높아졌음을 보여준다. 백엔드 없이, 클라우드 비용 없이 브라우저에서 직접 이 개념을 실험할 수 있다는 점이 HN 독자들의 주목을 받았다. (HN 스코어 649)