記号推論タスク(数字、絵文字、化学式の理解など)にLLMが取り組む際に、記号を自然言語に変換することで精度が上がることが示唆されました。
“Speak It Out: Solving Symbol-Related Problems with Symbol-to-Language Conversion for Language Models”より
■背景
日常生活は様々な”記号”で溢れ、記号の意味や関連性を理解することが必要とされる場面は非常に多くあります。
一方で、LLMは基本的に記号推論タスクに長けているわけではありません。
■解決案
下記のいずれかで記号を自然言語に変換する
– LLMにゼロショットプロンプト
– ルールベースで外部ツールを用いる
※直接変換できるものもあれば、連結して表現すべきときもある
■実験結果
次のタスクに対して有効性が確認された
– 化学物質の特性予測
– 絵文字の感情分析
– テーブルデータの理解
– ツイート(Xのポスト)分析
なお、gpt-4, gpt-3.5, openchat-3.5で検証された結果です。