LLMの「仰天」で科学的発見を加速

LLMに「仰天」のような感覚を定義して与え、人間が思いもつかなかったような新しい発見をさせる仕組みを作ったとの報告。

研究者らは、AIが自分で「何を探求すべきか」を決められるようにしました。その判断基準として「仰天」を使うのがポイントです。
AIは膨大な仮説・可能性の中から、より仰天しそうな方向を探していきます。

実際に実世界データで試したところ、AIが「これはすごいぞ」と判定した発見の3分の2が、人間の専門家にとっても実際に注目に値するものだったそうです。

ただし、AIの自律的な科学研究においては、誤った結論がそのままになったり有害な研究が進むリスクに気を付ける必要があります。
それでも、こうした技術は、AIが自分で面白そうなことを見つけて調べたことが人間にとっても幸福をもたらす、科学研究の良い未来を予感させるものでもあります。

なお、「AIによる感覚的な判断」と「プログラムによる高速なデータ分析」を組み合わせたハイブリッド式の研究システムも今後の実装を構想しているそうです。

*本稿で「仰天」と表現しているものは原文では“Bayesian surprise”。LLMにとっての意外さを定量的に測る仕組みです。