AIはSNS上の「助けて」を見つけられるか 検出技術の進歩とリスク

SNSに「薬飲んだ」と書かれた投稿があったとします。風邪薬の話でしょうか。それとも、大量の薬を一度に飲んだという告白でしょうか。

ある若者向けのサブカルチャーでは、日常的な言葉がまったく違う意味で使われています。そして今のAIは、その二重の意味をほとんど読み取れません。

本記事では、SNS上の自傷シグナルをAIで見つけ出す最新の取り組みと、逆にAI自身がメンタルヘルスの現場で引き起こしている問題を、4本の研究から読み解いていきます。「AIで人を救う」という期待の裏側にある落とし穴が見えてきます。

「地雷系」の言葉が、AIには通じない

日本発のサブカルチャーに「地雷系（Jirai Kei）」と呼ばれるものがあります。甘くてかわいいファッションが特徴ですが、自傷行為や過量摂取と結びついた独自のスラングを持っています。たとえば「アムカ」は腕を切る自傷行為のことですし、「ブロン」は市販薬の乱用を意味します。こうした言葉は普通の辞書には載っていませんし、ネットで検索しても正しい意味はなかなか出てきません。