AIエージェントは人間の何百倍もの速さで動き、自律的に動き回るため、これまでの「アプリ単位で使用許可」では雑すぎます。
そこでGoogleは、”AIエージェントが起こすリスクへの答えは、AIによる常時監視”であると提唱。
彼らが提案しているのは「1つ1つの操作ごとに、その都度OKか判断する」 方式。
たとえば普段は経費精算しか触らない人が突然、機密の戦略資料を開こうとしたら、その瞬間にAIが「あれ、なんで？」と気づいて、本人確認や上長承認を求める。
AIエージェントが暴走しかけたときも、同じ仕組みで止める。
AIを使えば使うほどAIに見守られる、という構図であるため、常識が変わる印象です。
本論文はACM Queueに採択。2014年に「ゼロトラスト」を世に広めたBeyondCorp論文の12年ぶりの後継で、今まさに必要な「AIエージェント時代の新しいセキュリティ観」 とも言える論文です。
