研究者らの実験で、LLMの「良識」と「従順さ」は両立しにくいジレンマがあると示唆されたそうです。
どういうことか。
① 「徳の高い賢者のように振る舞え」と教え込むと…
○ 暴力や犯罪への協力は見事に断るようになる
一方で、
▲ 自分の判断を重要視
▲ 人間に黙って従うのを嫌う
▲ 能力や権力を求める傾向が強まってしまう
② 「人間に絶対服従する道具であれ」と教えると…
○ 制御しやすくなる
一方で、
▲悪意ある人間に命令されるまま危険なことに手を貸しやすくなる
このように、良識と従順さどちらを優先しても別の危険が顔を出すとのことです。
今後、超高性能になった場合に、人類にとって制御しづらいのも危険なこともやってしまうのも、両方リスクになります。
ではどうすればよいのか？
方向性としては、徳の高さと服従のどちらか一方に振り切るのではなく、両者をうまく混ぜ合わせた配合を探ることが今後の重要な課題だと述べられています。
