LLMでサイバー犯罪者を逆探知・無力化するAIチャットボット

LLMを使ってサイバー犯罪者を「逆に騙す」システムを開発したという発表。
研究チームは、チャットでの巧妙な会話を通して詐欺を行う者達に対してLLMに被害者役を「演じて」会話させる手法を仕組み化。

実験の結果、半数以上のケースで実際の詐欺師はAIと話していることに気づきませんでした。
システムを使って違法サービス提供者98グループ、53人と対話した結果です。
この過程で、支払い方法の分布、価格戦略、個人運営と組織運営の違いなど、詐欺の実態が明らかになったそうです。

なお、想像されていた事ですが、詐欺師側も自動化を進めている兆候がありました。最初はボットが応答し、客が本気だとわかると人間が引き継ぐ様子が見られました。

チャットアプリでは、ビデオチャット詐欺やロマンス詐欺などが横行しています。
研究チームの最終的な狙いは、今回作成したような正義のAIボットを大量に放って詐欺師の時間を浪費させることです。偽の客ばかり相手にさせられれば、詐欺ビジネスの効率が落ち、採算が合わなくなり辞めてしまうという発想です。