「LLMのアライメント（※）は、実はプロンプトで少し指示を与えるだけでも実現できるのではないか？」と考えたワシントン大学とAI2の研究者らは、わずか2行のプロンプトによる新しいアライメント手法『URIAL』を考案しました。
※アライメント：AIが持つべき道徳的価値や行動を定めて、人間社会の倫理に合わせるプロセス
– “The Unlocking Spell on Base LLMs: Rethinking Alignment via In-Context Learning”
これまでLLMのアライメント調整には、人間のフィードバックからの強化学習（RLHF）や監督付きファインチューニング（SFT）が主流でした。
しかし研究者らは、「もっと手軽な方法で同じことでができないか？」と疑問を持ちました。
そこで、プロンプトのみでアライメントする手法『URIAL』を考案しました。
■『URIAL』のポイント
① 大規模データや複雑な学習を必要としない
② インコンテキスト学習を用いて細かく調整
③ 様々なタスクや応答スタイルに柔軟に適応
■効果の検証結果
① RLHFやSFTと比較して同等またはそれ以上の性能を示した
② 少ない計算リソースかつ短時間で目的を達成
③ さまざまなタイプのLLMに適用可能である
■当然の結果なのでは？と感じたら
このようなアプローチでモデルの性能が変化するのは、ある意味「当たり前」だと感じる方もいるかもしれません。
しかし実際には、本手法が提案されるまで、多くの研究が似たような成果を出すために膨大なデータやリソースを必要としていました。
そういった背景を踏まえると、この検証結果には一定の価値があると考えられます。
ただし、研究者らは悪用リスクへの注意と、完璧なものではないこと、そして長期的な影響はまだ検証が必要なことを述べています。
また新しい手法であるため、特定の条件下でしか試されておらず、あらゆる設定での有効性を試していきたいとのことです。
