AIDB Daily Papers
AIエージェントのリスクを分類する「TrustX ARC」フレームワークの提案
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 企業や公共部門で急増するAIエージェントを評価・管理するための構造的なリスク分類フレームワークを開発した。
- 12の評価軸と自律性レベルを組み合わせることで、多様なエージェントのリスクを定量化し、適切なガバナンスを導き出す。
- 本フレームワークはリスクに応じた3段階の管理策を提示し、コーディング支援AI特有の評価にも対応している。
Abstract
The proliferation of agentic AI systems across enterprise and public-sector contexts has outpaced the capacity of general-purpose AI risk frameworks to classify and govern them. In this paper, we introduce the TrustX Agent Risk Classification Framework, a structured, repeatable instrument that can be applied to seven types of agentic AI systems and is grounded in foundational pre-existing AI governance frameworks. At the core of the framework is a twelve-dimension scoring rubric that robustly quantifies the risk. This rubric is combined with other components, such as the GPA + IAT classification model and the five-level autonomy framework derived from existing literature. These inputs produce a three-tier governance output with mapped control recommendations. A specialised Coding Assistant extension is also included to account for nuances specific to this type of agentic AI system. We then use an illustrative example to show our framework in practice. ARC is intended for AI governance practitioners, risk officers, developers, and regulators, and it will regularly undergo iteration as we continue to expand it and make it more robust. The community can access the interactive framework here: https://arc.responsible.ai/
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: