次回の更新記事：【論文著者監修・コメント】AIエージェントへの人間…（公開予定日：2026年07月27日）
AIDBは、AI活用のノウハウ獲得や技術動向の調査のために、個人やチームが論文を探す・読む・活かす作業をサポートするプラットフォームです。なお、記事や投稿は人の手で書いています。
🔍
検索対象:

大規模言語モデル（LLM）のこれまでとこれから③　-使用法・拡張法、データセット編-

2024.02.16
深堀り解説
サーベイ
LLMプロンプト技術RAGファインチューニング

本記事では、LLM研究全体の背景と現状、そして将来展望を網羅的に整理する調査論文をもとに、LLMの基礎を振り返ります。初回は代表的なモデルについて深掘りし、前回はモデルの構築法について深掘りしました。

初回の記事：大規模言語モデル（LLM）のこれまでとこれから①　-代表的なモデル編-

前回の記事：大規模言語モデル（LLM）のこれまでとこれから②　-モデル構築編-

今回は、モデルの使用法・拡張法、そして主なデータセットについて深掘りします。

参照論文情報

  • タイトル：Large Language Models: A Survey

  • 著者：Shervin Minaee, Tomas Mikolov, Narjes Nikzad, Meysam Chenaghlu, Richard Socher, Xavier Amatriain, Jianfeng Gao

  • 所属：論文には所属機関が示されていないため各機関から有志の研究グループが結成されたことが推測されます。

  • URL：https://doi.org/10.48550/arXiv.2402.06196

LLM関連のサーベイ論文事例：

前回のおさらい

前回は、以下の項目に沿ってLLMの構築方法について触れました。

  • 主流となっているLLMの構造

  • データクリーニング

  • トークン化

  • 位置エンコーディング

  • モデルの事前学習

  • ファインチューニングと指示チューニング

  • アライメント

  • デコーディングの戦略

  • コスト効率に優れた開発と運用

本記事では、モデルの使用方法や拡張（強化）方法や主なデータセットにフォーカスします。

LLMは基本的なプロンプト(指示)だけでも使用可能ですが、その能力を最大限に活用したり、欠点を補うためには、さらなる工夫が必要になります。

今回はまず、

プレミアム会員限定コンテンツです

無料会員でもできること

  • 一部記事の閲覧
  • AI検索（公開記事が対象）
  • PDF翻訳・パーソナライズなど各機能のお試し利用

プレミアム会員の特典

  • 1,000本以上の全過去記事を無制限閲覧
  • 論文ベースの深掘り解説を毎日更新で購読
  • AI検索の対象が短信・論文（5万本以上）まで拡大
  • 記事で取り上げた論文にその場でAIに質問
  • 論文から生まれたエージェントスキルライブラリ
  • PDF翻訳・PDF変換をフル活用
  • あなた専用の論文・記事おすすめが毎日届く
まずはアカウントを作成
ログイン

プレミアム会員について

記事検索

年/月/日
〜
年/月/日

こちらもどうぞ