태그

#spiking-neural-networks

#spiking-neural-networks 태그가 달린 기사

LLM 레딧

Reddit, 1.088B pure SNN 언어모델 Nord의 from-scratch 수렴 실험을 주목

r/MachineLearning에서는 1.088B pure SNN 언어모델을 from scratch로 수렴시켰다는 개인 실험을, 완성된 product보다 기존 합의에 도전하는 로그 공개로 받아들이는 분위기였다. 2026년 4월 13일 게시글은 27K steps에서 loss 4.4, 93% sparsity를 보고했고, 댓글에서는 흥미롭다는 반응과 함께 비교 가능한 metric과 더 긴 학습이 필요하다는 지적이 함께 나왔다.

2026년 4월 14일 2분 소요 44

#spiking-neural-networks #language-models #snn

LLM 레딧

r/MachineLearning이 토론한 1.088B 파라미터 pure SNN language model

r/MachineLearning의 연구 지향 post는 pure spiking neural network language model이 random initialization에서 1.088B 파라미터까지 도달했다고 주장하며 관심을 모았다.

2026년 4월 14일 2분 소요 43

#spiking-neural-networks #language-models #research

LLM 레딧

LocalLLaMA 화제: 144M Spiking Neural Network 언어모델 학습 실험

r/LocalLLaMA의 게시물은 144M 규모 Spiking Neural Network 언어모델을 FineWeb-Edu로 from scratch 학습했다는 실험 결과를 공유했다. 작성자는 97-98% inference sparsity, STDP 기반 online learning, GPT-2 Small 대비 주제 유지 특성, 그리고 아직 높은 loss(4.5) 등 한계를 동시에 공개했다.

2026년 2월 27일 2분 소요 41

#spiking-neural-networks #llm #open-source