LLMで詐欺師から口座情報を収集するScambaiting

LLMを詐欺師と会話させて情報を引き出す実験を大規模に行った結果、かなり有効であることが判明しています。

研究者たちは、LLMに被害者のふりをさせて、実際の詐欺師約2600人とメールでやり取りをさせました。
目的は詐欺師から銀行口座番号や暗号通貨のウォレットアドレスといった重要な情報を聞き出すことでした。

結果として、詐欺師が最初のメッセージに返信してくる確率は約半分でした（ただし不応答のうち約半数は無効なアドレスだった）。
そして、一度会話が始まると、約3分の1のケースで重要な情報を引き出すことに成功しました。

なお、詐欺師が素早く返信してくる会話ほど、最終的に重要な情報が得られる可能性が高いことも分かったそうです。

「詐欺メールを検出してブロックする」とは打って変わって、積極的に詐欺師の情報を収集して根本的な対策を打つという新しいアプローチです。