#machine-learning

2024年に複雑度理論を用いて「機械学習では人間レベルの分類器を学習できない」と主張した論文（Ingenia定理）が、同じ学術誌Computational Brain & Behaviorで反論論文により否定された。証明は「回復不可能な誤り」を含むと指摘されている。

注目されたのはdata-efficient AIだが、コメント欄はすぐに「子どもとの比較は妥当か」を検証し始めた。

r/MachineLearningが反応したのは、数字が小さいのに見覚えがありすぎたからだ。投稿者は今年確認した7件のpaper claimのうち4件を再現できず、2件はGitHub issueも未解決だと書いた。コメント欄は、reviewerがcodeをほとんど実行しない現実から、submission時に再現reportを生成させる案まで進んだ。

r/MachineLearningでこの投稿が読まれた軸は、安全性のスローガンではなく、accuracyをほとんど落とさずにcalibrationとOOD rejectionを改善できるのかという一点だった。投稿者はCIFAR-10/100でbase accuracyをほぼ維持しつつ、ECEを1.5%まで下げ、SVHNのFPR@95を22.08%から10.27%に落としたと書いている。

r/MachineLearningで共有されたTorchLeanは、実行コードと検証結果の意味的不一致を減らすためのLean 4ベース基盤だ。PyTorch風API、Float32の明示的意味付け、IBP/CROWN系の証明可能な検証を統合し、安全性が重要なML開発に新しい選択肢を示した。

100個未満のパラメータを持つ超小型Transformerモデルが、2つの10桁の数字の足し算で100%の精度を達成したという興味深い研究結果が公開されました。桁トークン化が鍵となっています。

カーネギーメロン大学のZico Kolter教授による「10-202: 現代AI入門」講義が無料のオンラインコースとして提供開始。講義動画、課題、mugradeによる自動採点まで、CMUの2週遅れで全て公開される。

MLU-Explainのインタラクティブなビジュアライゼーションがなぜ決定木がMLで最も強力で解釈可能なツールのひとつであり続けるかを示します。単純なif-elseルールがアンサンブル手法の基盤になる仕組みを直感的に学べます。

r/MachineLearningで高い評価を得たスレッドが、CVPRやICLRなどの主要学会の採択数急増が論文発表の学術的価値を希薄化しているのではないかを議論し、査読品質への懸念が浮上した。

r/MachineLearningの高評価投稿が、2025年のMLコンペ動向を整理。投稿者は約400件を追跡し、73件の優勝解法を分析したとして、Qwen系の台頭、効率化ツールの定着、計算資源の二極化を示した。