AIエージェントを実際の業務フローに組み込もうとすると、多くの企業が同じ問題に直面します。AIに自由に判断させれば、ミスや、あとから理由を説明しにくい判断が生まれるリスクがあります。一方で、ルールで細かく縛りすぎると、今度は想定外のケースにまったく対応できなくなります。
この板挟みは、金融の与信や審査のように、監査や説明責任が強く求められる現場ほど深刻です。柔軟さを重視すれば統制が弱くなり、統制を重視すれば業務が硬直する。多くの組織では、この二つは両立しにくいものだと考えられてきました。
しかし、稼働中のシステムを置き換えずに、この二つを両立させる設計が示されています。規制が変わったときの対応が、コードの改修ではなく、ルール文書の修正で済むとしたら、現場の運用はどのように変わるのでしょうか。
