大喜利データセットでLLMをユーモアラスにチューニングする手法

ハーバード大学などの研究者らは、お笑いのようにクリエイティブなものをLLMが生成する能力を探求しています。 そして、大喜利データセットを作成し、LLMをユーモアラスにチューニングするアプローチを検証しています。

本記事では研究を詳しく見ていきます。

本記事の関連研究

• LLMなどの生成AIの背後にある思考プロセスは人間とは全く異なるかもしれないことを示す仮説『生成AIのパラドックス』
• 「心の理論」においてGPT-3は人間の3歳、GPT-4は人間の7歳（基本の概念を理解しているレベル）に相当するとの研究報告

背景

LLMは、多様なタスクにおいて推論能力を発揮していますが、一方で創造性に関しては依然として不十分だと考えられるケースがあります。一般的な知識に基づく問いに対する答えや、情報の抽出といったタスクに対しては高い精度を示すものの、クリエイティブな思考や新たなアイデアの生成ではそれほど成果が報告されていません。

また、論理的なタスクやステップバイステップの説明を必要とする問題解決において効果がある手法としては、Chain of Thought（CoT）アプローチが有名です。しかしCoTは、クリエイティビティを必要とする領域、特にユーモアのような創造的なタスクに対しては、効果があまり確認されていません。

上記の背景から、複数機関の研究者たちは、LLMの創造性を伸ばすアプローチに関心を寄せています。

そして今回、ハーバード大学の研究者らは、創造的なタスクの一つであるユーモア生成を通して、思考を飛躍させる手法を探究しています。モデルに面白く、予期せぬ回答を生成させることで、人間の創造的な思考を模倣しようと試みています。