研究者らによると、AIエージェントが本番データベースを丸ごと消すような取り返しのつかない事故を起こしても、今は誰がその損害を負い、いくらと見積もるのかが厳密には決まっていません。
なので、人間が逐一確認するため自動化のメリットが小さい状況です。
（AIの実行者が責任を負う、というアイデアは解決策の一つですが、複数の利害関係者が合同でAIを実行する環境では”罪のなすりつけ合い”に発展しかねません）
そこで、「エージェントが実際に何をしたか」という操作ログと「顧客側の事情」を組み合わせて保険料を決め、危険な操作の直前で”止めるべきか”を判断するようにすればいいとのこと。
ただし成り立つのは役割と権限がきっちり絞られたエージェントに限られ、何でもこなす汎用エージェントはそもそも保険の対象にできないといことです。
