本記事では、LLMを使ったWebエージェント（AIブラウザ）が、ダークパターンにどれくらい弱いのか調査した結果を取り上げます。

もともと人間向けに作られたダークパターンは、AIエージェントにも影響するのでしょうか。

これからの大きなトレンドになりつつあるAIブラウザの安全性について考えるきっかけになりそうです。

背景

最近、LLMを取り入れたブラウザが次々に現れ、いわゆる「AIブラウザ」として注目を集めています。たとえばOpenAIは「ChatGPT Atlas（アトラス）」を発表しました。ブラウザに常駐しているLLM機能が内容の要約や比較、データの抽出といった操作を代行します。買い物や旅行の調査など、Web上でのタスクを自動で進めることもできます。

こうした「LLMが人の代わりにブラウザを使ってタスクをこなす」というトレンドは、もはや時代の流れにも見えます。とても便利な技術ですが、その一方で新しいリスクについても考える必要があります。

たとえば、LLMが悪意あるWebページに誘導された場合、本来とは違う操作をしてしまう危険があります。悔しいことですが、新しい技術には新しい落とし穴もあるのです。

中でも気を付けたいのは「ダークパターン」です。ダークパターンとは、ユーザーをだましたり、思い通りに動かしたりするためにわざと設計された、悪質なデザインのことを指します。

たとえば、あるショッピングサイトに「30日間無料トライアル」と大きく書かれた目立つボタンがある一方で、「やめておく」という選択肢が小さな「×」として画面の隅に追いやられているとします。このようなデザインは、ユーザーが気づかないうちにサブスクリプションに登録してしまうように仕向けています。しかも無料期間が終わると自動的に料金が発生します。ユーザーにとって望ましくない選択をさせることで、思わぬ出費やプライバシーの侵害につながる可能性があります。

もしLLMエージェントがこうしたダークパターンに出会ったら、どうなってしまうのでしょうか。もともとダークパターンは人間のユーザーをだますために設計されたものですが、LLMエージェントもまた、画面を見て判断を下すという点では、人間とよく似た行動をとります。もしかすると今後、被害が出てくるかもしれません。

AIブラウザが登場して間もないため、実証実験で知見をためていく必要があります。本記事は、LLMエージェントによるWeb操作がどのようなダークパターンにはまりがちなのかを詳しく見ていきます。