本記事では、様々な情報抽出タスクにおけるLLM活用を網羅的に調査した研究を紹介します。タスクを中心にまとめられています。

参照論文情報

• タイトル：Large Language Models for Generative Information Extraction: A Survey
• 著者：Derong Xu, Wei Chen, Wenjun Peng, Chao Zhang, Tong Xu, Xiangyu Zhao, Xian Wu, Yefeng Zheng, Enhong Chen
• 所属：Tencent, 香港城市大学, 中国科学技術大学
• URL：https://doi.org/10.48550/arXiv.2312.17617
• GitHub：https://github.com/quqxui/Awesome-LLM4IE-Papers

研究背景

テキスト等の（構造化されていない）データからまとまった情報を得るための技術は、情報抽出技術として知られています。

情報抽出技術はLLM以前から存在するもので、ナレッジグラフの構築や質問応答システムなどの基盤となっています。主なタスクには、名前付きエンティティ認識、関係性抽出、イベント抽出などがあります。

そんな中、近年登場したLLMは情報抽出タスクにおいても優れていることがわかってきました。

下の図は、LLMで情報抽出する際のフレームワークを示しています。

LLMは様々なドメインにおけるテキストの理解と生成において実用的な能力を持っているため、情報抽出においても強く期待されるようになっています。
そこで今回Tencentなどの研究者らは、情報抽出におけるLLMの現状を包括的に調査してまとめました。

下の図は、本調査報告の基になっている研究の体系を示しています。情報抽出に関するLLMの学習方式、アーキテクチャ、ドメイン別に並べられています。

本記事の関連研究：

• LLMのRAG（外部知識検索による強化）をまとめた調査報告
• LLMの出力から誤り（ハルシネーション）を減らす新手法『CoVe（Chain-of-Verification）』と実行プロンプト
• LLMベースの新しい言語『SUQL』が示唆する「非構造化データのクエリ」を処理するパラダイム
• ChatGPTなどのLLMにユーザーの性格特性を分析させる手法『PsyCoT』と実行プロンプト
• 「入力プロンプト」を最新情報で自動アップデート＆最適化する手法『FRESHPROMPT』がLLMの出力精度を飛躍的に上げる

生成的情報抽出タスク

LLMによって行われる情報抽出は、