記事一覧

深堀り解説

🔒 GPT-4レベルの質問応答タスク性能をオープンソースモデルのLlama 2で実現する「ChatQA」NVIDIAが開発

深堀り解説

🔒 既存のLLMを融合させて強力なモデルを作る手法「知識融合」

深堀り解説

🔒 LLMに自分自身の内部動作を説明させる手法

深堀り解説

🔒 GPT-4のコード生成能力を飛躍的に向上させるプロンプトフレームワーク『AlphaCodium』

深堀り解説

🔒 Metaなどの研究者らが、LLMが自分自身に報酬を与える「自己報酬言語モデル」を開発

注目論文まとめ

数学オリンピックの金メダリストと似たレベルで幾何学問題を解くAIシステムをDeepMindが開発したことがNatureで報告されています。

深堀り解説

🔒 外部からの攻撃で一度でも欺瞞を学んだLLMは現在の技術では完全回復が難しい

深堀り解説

🔒 プロンプトの小さな違いがLLMにもたらすバタフライ効果を調査した結果

深堀り解説

🔒 最高水準のオープンソースLLM『Mixtral 8x7B』は内部で専門家が切り替わる高効率モデル

深堀り解説

🔒 CoTの推論ステップ数がLLMの推論能力に及ぼす影響を詳細に検証した結果

深堀り解説

🔒 Googleなどが開発、LLMに表データ（.csvなど）の情報を深く理解させるためのフレームワーク『Chain of Table』

深堀り解説

🔒 LLMの知識を狙い撃ちして変更・修正する「知識編集（Knowledge Editing）」

深堀り解説

🔒 LLMに「自分自身との対戦」で能力を向上させる手法『Self-Play Fine-Tuning（SPIN）』

深堀り解説

🔒 1.1Bパラメータの小さなモデルを巨大データ（約3兆トークン）で訓練したモデル『TinyLlama』が、比較的優秀な性能を発揮

注目論文まとめ

JPモルガンの研究者らは、企業のドキュメントをLLMで読み込むモデル『DocLLM』を発表しました。

深堀り解説

🔒 LLMが「教えてはいけない事実」を抑制するパーツが明らかに　Llama-2を1057個に分解

深堀り解説

🔒 LLMにおける情報抽出（文章から必要な事柄を読み取る）タスクについての調査

深堀り解説

🔒 LLMの内部状態を観察することで「出力がハルシネーションか否かを判別する」手法『LLMファクトスコープ』

深堀り解説

🔒 Geminiの「常識を推論する能力」を網羅的に調査した結果　間違えやすいタイプの問題も明らかに

深堀り解説

🔒 人間のカリキュラム教育のような学習でLLMの性能は向上するとの報告