セキュリティ

ホーム
セキュリティ

コンテンツ検索

リアルなWindowsOS環境でのエージェント能力を評価する『WindowsAgentArena』およびエージェント『Navi（ナビ）』Microsoftが開発

By AIDB Research / 2024/09/18

この記事では、Microsoftの研究チ...

ノーコードでLLMマルチエージェントを操る『AUTOGEN STUDIO』Microsoftが新開発

By AIDB Research / 2024/09/17

この記事では、Microsoft Res...

Self-Reflection（自己反省）がLLMのパフォーマンスに与える影響を網羅的に調査

By AIDB Research / 2024/09/13

この記事では、LLMが自分自身の行動を反...

100人以上の研究者が実験参加　LLMは人間より優れた研究アイデアを思いつくのか？

By AIDB Research / 2024/09/12

この記事では、LLMと人間の専門家による...

LLMの推論能力を戦略的に向上させる新しいプロンプト手法『SCoT』

By AIDB Research / 2024/09/11

この記事では、LLMの推論能力を向上させ...

AIコーディング補助ツール（GitHub Copilot）で開発者の生産性が26%向上 Microsoft・アクセンチュアなど3社の大規模調査結果

By AIDB Research / 2024/09/10

本記事では、LLMベースのコーディング補...

マルチモーダルLLMの高難易度ベンチマーク『MMMU-Pro』で明らかになったこと

By AIDB Research / 2024/09/09

この記事では、MMMU-Proという新し...

ロングコンテキストLLM台頭の今もRAGを使用する理由

By AIDB Research / 2024/09/06

この記事では、LLMが長い文章を理解でき...

RAGの検索データにおける「ノイズ（事実とは異なる情報など）」には有益なノイズと有害なノイズがある

By AIDB Research / 2024/09/05

本記事では、RAGシステムにおける”ノイ...

RAGの検索精度を実務レベルに高めるには、「情報ごとに ”質問文” を作りデータベースに入れる」のが効果的との報告

By AIDB Research / 2024/09/04

企業がRAGを行う上での参考になるテクニ...

2024/8/23
LLM エージェントセキュリティ論文

AIDB

コンテンツ検索

リアルなWindowsOS環境でのエージェント能力を評価する『WindowsAgentArena』およびエージェント『Navi（ナビ）』Microsoftが開発

ノーコードでLLMマルチエージェントを操る『AUTOGEN STUDIO』Microsoftが新開発

Self-Reflection（自己反省）がLLMのパフォーマンスに与える影響を網羅的に調査

100人以上の研究者が実験参加　LLMは人間より優れた研究アイデアを思いつくのか？

LLMの推論能力を戦略的に向上させる新しいプロンプト手法『SCoT』

AIコーディング補助ツール（GitHub Copilot）で開発者の生産性が26%向上 Microsoft・アクセンチュアなど3社の大規模調査結果

マルチモーダルLLMの高難易度ベンチマーク『MMMU-Pro』で明らかになったこと

ロングコンテキストLLM台頭の今もRAGを使用する理由

RAGの検索データにおける「ノイズ（事実とは異なる情報など）」には有益なノイズと有害なノイズがある

RAGの検索精度を実務レベルに高めるには、「情報ごとに ”質問文” を作りデータベースに入れる」のが効果的との報告

セキュリティ

LLMにおける現状のリスクと対策に関するまとめ

LLMのサイバーセキュリティタスク性能評価フレームワーク「Cybench」

Googleなど、API経由でブラックボックスLLMの隠れ次元数を特定できる脆弱性を示す　※OpenAI社はこれを受け対策済み

GPT-4などのLLMがセキュリティ脆弱性とソフトウェア機能性の評価能力で高い精度を示す

外部からの攻撃で一度でも欺瞞を学んだLLMは現在の技術では完全回復が難しい

大規模言語モデル vs 小規模人間モデル（つまり人間）で「フィッシング詐欺メールバトル」を行った結果

キーボード打鍵音から入力文字を特定するハッキング技術の精度が高いことが判明

瞳に映る景色を3Dで再現　その可能性

コンテンツ検索

業界／カテゴリー

おすすめポスト