南アのAI政策案が撤回、偽の引用が露呈した検証不在

国家のAI戦略は、まず信頼を設計しなければならない。ところが南アフリカの最初の草案は、いちばん基本的な出典確認で崩れた。4月27日のReuters報道によると、参考文献にAI生成とみられる架空の引用が見つかり、政府は文書を撤回した。政策の節目になるはずだった案件が、そのまま信頼危機に変わった。

この草案は単なる意見募集文書ではない。南アフリカをアフリカ大陸のAI拠点に位置づける狙いのもと、国家AI委員会、AI倫理委員会、AI規制当局の新設に加え、減税や補助金など民間連携の誘因まで盛り込んでいた。設計の射程が大きかった分、参考文献の破綻が与える傷も大きい。

通信・デジタル技術相ソリー・マラツィ氏は、もっともあり得る説明は、適切な検証なしにAI生成の引用が入り込んだことだと説明した。問題は単なる編集ミスではなく、草案の完全性と信頼性を損なった点にある。個別の主張が弱くなっただけではなく、文書を作る手続きそのものが疑われた。

象徴的な教訓も重い。各国政府はAIの安全性、配備、責任のルール作りを急いでいる。だが国家政策案が基本的な出典確認を通れないなら、その中で示される制度設計全体が弱くなる。新しい規制機関や公的支援を信じてほしいと訴える文書であればなおさらだ。

南ア政府は責任追及を示唆したが、差し替え草案の時期は示していない。ほかの政府にとってのメッセージは明確だ。生成AIは下書きを速くするが、公的文書の最終責任までは肩代わりしない。