arXiv、LLM生成エラーを未確認のまま掲載した論文に1年間投稿禁止を実施
Original: arXiv implements 1-year ban for papers containing incontrovertible evidence of unchecked LLM-generated errors, such as hallucinated references or results. View original →
方針の内容
arXivのcs.LGモデレーターであるThomas Dietterichがメソッドを公開した。LLMが生成した不適切なコンテンツ——架空の参考文献、誤った結果、剽窃——を著者が未確認のまま論文に含めた場合、全著者に最長1年間のarXiv投稿禁止処分が科される。
Dietterichはarxivの行動規範を引用した。「著者として署名することで、コンテンツの生成方法にかかわらず、各著者はその内容全体に対して完全な責任を負う。」
背景
低品質なAI生成論文の急増がarXivのモデレーションシステムを圧迫しており、審査待ち期間の長期化が報告されている。今回の措置は、受動的なガイドラインを超えた実際の制裁への移行を意味する。
コミュニティの反応
r/MachineLearningではこの発表が600票超の高評価を獲得した一方、反発を扱う別のポスト（350票超）も登場した。批判側は責任の範囲が曖昧で処罰が厳しすぎると主張し、支持側はハルシネーションが科学的記録の信頼性を損なうと反論する。
研究者への影響
LLMを研究補助に使う研究者は、arXivへの投稿前にAI生成コンテンツを徹底的に検証することが今後は必須となる。AI時代における学術責任の基準をどこに置くかをめぐる議論は、これから本格化しそうだ。
Related Articles
ロボットやエージェントの計画で、固定されたworld modelが分布変化に弱い問題を狙う研究だ。AdaJEPAはMPCの再計画ごとに1回のgradient stepと直近5遷移のbufferでモデルを更新する。
timestampを確認できたr/MachineLearning投稿の中で、MIRAは高速なマルチプレイヤー環境をworld model研究に使う点が目立った。
DeepMindのCEOデミス・ハサビスは、真のAGIを判断するテストとして、1911年の知識のみで学習したAIが、1915年のアインシュタインのように一般相対性理論を独自に導出できるかどうかを提案した。これは単なるパターンマッチングではなく、真の科学的発見能力を測る基準だ。