抽象的な話ですが、「”催眠状態にある人間”とLLMが似たような仕組みで動いている」という主張がなされています。
催眠にかかった人は、意識的に行動せず、暗示に従って反応します。行動は起きるけれど「自分がやっている」という感覚が薄れます。
そしてLLMも機能的に同様の特徴を示す、というのです。
さらに両者とも、目の前の状況や言葉に極端に影響されやすいという特徴があります。
催眠状態の人は暗示の内容に引っ張られて、あり得ない記憶を信じ込んだり、論理的に矛盾する内容を受け入れたりします。
LLMも同様で、プロンプトの言い回しを少し変えるだけで全く違う答えを出したり、間違った前提を与えられるとそれを疑わずに話を続けたりします。
つまり、どちらも「自動操縦モード」で成果を出せるけれど、それを自分でチェックする力が弱いか欠けているという共通点があります。
このアナロジー的な仮説がなぜ意味を持つかというと、今後必要となるLLMは、自律的で、自己反省も進んで行うものであるべきという議論につながるからです。
（ただし、LLMに主観的な意識を持たせたいという話とはまた少し違います）
📄 参照論文
Automatic Minds: Cognitive Parallels Between Hypnotic States and Large Language Model Processing
所属: Istituto Auxologico Italiano, Università Cattolica del Sacro Cuore, Virtual Reality Medical Center
