AIの逆則三原則――アシモフを反転させた人間のためのルール

アシモフを反転する

Susam PalはアシモフのロボットThree Lawsを逆転させ、AIを利用する人間が自分自身を守るための「Inverse Laws of Robotics」を提案した。ロボットの行動を制約する元の三原則に対し、この逆則三原則は人間の判断と行動を導くことを目的とする。

第一原則：擬人化禁止

AIシステムに感情・意図・道徳的行為能力を付与してはならない。現代のチャットボットは会話的で共感的な表現を使い人間らしく感じさせるが、その実態はデータのパターンからテキストを生成する大規模統計モデルだ。擬人化は判断力を歪め、感情的依存につながりうる。

第二原則：盲信禁止

AI生成コンテンツを独立した検証なしに権威ある情報として扱ってはならない。検索エンジンの上位にAI回答が表示されると、スクロールを止めてそのまま受け入れる習慣が生まれやすい。AIを出発点ではなくデフォルトの権威として扱う危険性を常に意識する必要がある。

第三原則：責任放棄禁止

AIシステムの使用から生じる結果について、人間は完全な責任を持ち続けなければならない。AIがどれほど自律的に見えても、それを選択し行動した責任は人間にある。Palはこの三原則が完全ではないと認めつつも、AIとのインタラクションのリスクをより明確に考える助けになると述べている。