コロラド大学の研究者らによると、AIに”道徳的なジレンマ”※を考えさせるとき、
「物語として語って」
と頼むだけで答えの質が大きく上がる、とのことです。
普通にAIに頼むと、2つのよくある失敗が起きます。
1つは、影響を受ける関係者を1人しか挙げない、あるいは誰も挙げないこと。
もう1つは、分からないことを一切認めないまま確信を持って言い切ってしまうことです。
そこで研究者らは、AIに一人称で次の順番に語らせると有効であると示しています。
①まず主人公を決める（誰が、どんな立場で、何を知っているか）
②決定に関わる関係者を全員挙げる
③それぞれの行動が2手先までどうなるかを描く
④何が分からないかを述べる
⑤最後にようやく結論を出す
これだけで、実際に関係者の取りこぼし、不確実性の無視も下がりました。
なぜこれが効くのか。
AIが学習に使った膨大なテキストの中で、「物語」の形をした文章はとても豊富に存在します。登場人物がいて、行動の結果が描かれ、不確かなことが語られる。こうした構造は、抽象的な論理推論よりもずっと馴染み深いパターンとしてAIの中に蓄えられています。だから「物語として語って」と頼むと、AIは難しい因果推論を一から組み立てるのではなく、慣れた型に当てはめて答えられる、とのことです。
※道徳的なジレンマというのは、たとえば「締め切り間近のプロジェクトで頼みの綱のメンバーが倒れた。予定通り進めるか、遅らせるか」のように、どちらを選んでも誰かに不利益が出る、正解が一つに決まらない悩ましい選択のことです。
