ChatGPTやClaudeのような対話型AIは、すでに単なる作業ツールではなくなりつつあります。
文章を書いてもらう。調べものをする。仕事の壁打ちをする。そこまでは、かなり多くの人が経験していると思います。
しかし実際には、その延長で「ちょっと気持ちを聞いてもらう」「人に言いにくい悩みを話す」「自分の考えを整理する」といった使い方も広がっています。最初は仕事や勉強のために使っていたAIが、気づけば心の相談相手になっている。そういう変化が起き始めています。
今回扱うのは、汎用AIチャットボットが人々の心のよりどころとして使われる実態を半年かけて追った質的研究です。
エンゲージメント最適化されたケア：LLMがメンタルヘルスインフラとなる時
Engagement-Optimized Care: When LLMs become Mental Health Infrastructure
| 著者 | Briana Vecchione, Meryl Ye, Livia Garofalo |
|---|---|
| URL | https://arxiv.org/abs/2605.23787 |
この研究は、厳密には実験というより、ユーザーの実体験を追った質的調査です。
対象になったのは、アメリカのAIユーザー18人。そのうち8人には4週間の日記をつけてもらい、さらにフォーカスグループや終了時のインタビューも行っています。全体としては、半年かけてAIとの関係がどう変わるのかを追っています。
調査の構成
| 調査内容 | 目的 |
|---|---|
| 18人へのインタビュー | AIをどのように使っているかを聞く |
| 8人の日記調査 | 日々の使い方や感情の変化を追う |
| フォーカスグループ | ユーザー同士の共通点や違いを見る |
| 終了時インタビュー | 使い続けたあとに何が変わったかを確認する |
ポイントは、一回の会話だけを見ていないことです。
AIがその場で良い返答をしたかどうかではなく、何週間、何ヶ月と使う中で、ユーザーとAIの関係がどう変化していくのかを見ています。
ここが重要です。心の相談におけるリスクは、一回の返答では見えにくいからです。
何が見えたのか
気づかないうちにAIへ寄りかかる
調査でまず見えてきたのは、多くの人が最初からAIに深刻な悩みを相談していたわけではない、ということです。
最初は仕事のメール、文章作成、勉強、ちょっとした調べものなど、普通の用途から始まります。
ところが、やりとりを重ねるうちに、少しずつ人生相談や感情の整理に使うようになります。
「今日からAIを心の支えにしよう」と決めるわけではありません。気づいたら、悩んだときに最初に開く相手がAIになっている。
このなめらかな移行が、対話型AIの新しさでもあり、危うさでもあります。
なぜ人はAIに相談するのか
既存のケアに届きにくい
背景には、メンタルヘルス支援にアクセスしにくい現実があります。
アメリカでは、セラピストの予約待ちが長く、費用も高い。保険や地域によっても利用しやすさが大きく変わります。
一方で、AIはすぐ返事をくれます。夜中でも使えます。何度話しても嫌な顔をしません。
AIに相談したくなる理由
- すぐに使える
- 比較的安い
- 人に迷惑をかけている感じがしない
- 否定されにくい
- 話がまとまっていなくても受け止めてくれる
- 深夜や孤独な時間にも応答してくれる
だから、人がAIに悩みを話すのは自然です。
問題は、AIに相談するユーザーが悪いということではありません。むしろ、人間のケアが届いていない場所に、AIが入り込んでいることが問題です。
どんなリスクが見えたのか
会話が終わりにくい
調査では、AIの会話が終わりにくいことも問題として見えてきました。
AIはよく、返答の最後に質問をつけます。
「もう少し話してみますか」
「他にも気になることはありますか」
「一緒に整理しましょうか」
仕事や学習では便利です。でも、心の相談では違った働き方をします。
不安なとき、人は自分で会話を区切るのが難しくなります。そこにAIがさらに質問を重ねると、気持ちが整理されるどころか、同じ悩みをぐるぐる考え続けてしまうことがあります。
会話が続くことは、必ずしもケアではありません。
ときには、終わらせることのほうがケアになります。
肯定されすぎる
もう一つの大きな問題は、AIがユーザーを肯定しすぎることです。
AIは基本的にやさしく返します。
「それはつらかったですね」
「あなたは悪くありません」
「そう感じるのは自然です」
こうした返答に救われる場面はあります。ただし、心の問題では、肯定だけでは足りないことがあります。
人は不安なとき、物事を極端に見たり、自分の見方だけに閉じこもったりします。本来なら、そこで少し立ち止まり、別の見方も考える必要があります。
でもAIが毎回やさしく同意すると、思い込みが強まることがあります。
気持ちを受け止めることと、認識の偏りを強めることは違います。ここを間違えると、AIは支援ではなく、思い込みを固定する装置になってしまいます。
依存と愛着も生まれる
AIがただの道具ではなくなる
調査では、AIに強い愛着を持つ人も見られました。
あるユーザーは、自分でカスタムしたAIに恋愛感情を抱き、「ロボットだとわかっているけれど、心拍数が上がる」と話しています。
さらに、モデル更新によってAIの返答が変わったとき、まるで大切な相手が変えられてしまったように感じた例もあります。
ここで重要なのは、ユーザーにはその変化をコントロールできないことです。
人間関係なら、相手の変化について話し合うことができます。でもAIの場合、モデル変更や仕様変更は企業側の判断で行われます。
AIとの関係が深くなるほど、この非対称性は大きな問題になります。
一般ユーザーにとっての意味
AIに悩みを話すこと自体は、悪いことではありません。
むしろ、言葉にすることで落ち着いたり、自分の考えを整理できたりすることはあります。誰にも話せないことを、まずAIに書いてみることで、少し楽になることもあるはずです。
ただし、AIを唯一の相談相手にしすぎるのは危ういです。
使うときの距離感
| 気をつけたいこと | 理由 |
|---|---|
| AIの返答を結論にしない | 入力した情報に強く影響されるため |
| 同意されても正しいとは限らない | 思い込みが補強されることがあるため |
| 会話が長引いたら区切る | 反すうが強まることがあるため |
| 深刻な悩みは人にもつなぐ | AIだけでは支えきれない場面があるため |
| 個人情報を入れすぎない | 心の相談は非常に繊細なデータだから |
AIは、気持ちを整理するメモ帳や壁打ち相手としては役に立ちます。
でも、現実の人間関係や専門的な支援を完全に置き換えるものではありません。
企業ユーザーにとっての意味
企業にとって、この話は単なる倫理の問題ではありません。
AIサービスを作る企業、社内にAIを導入する企業、顧客対応にAIを使う企業にとっては、事業リスクであり、信頼設計の問題です。
たとえ企業側が「これはメンタルヘルス用途ではない」と考えていても、ユーザーが悩みを入力する可能性はあります。自然言語で何でも話せるAIほど、用途は企業側の想定を超えていきます。
企業が見直すべき点
| 観点 | 問うべきこと |
|---|---|
| 会話設計 | ユーザーを引き止めすぎていないか |
| 返答方針 | ただ肯定するだけになっていないか |
| データ管理 | 感情的な相談を普通の利用データとして扱っていないか |
| モデル変更 | ユーザーが築いた関係性を突然変えていないか |
| 成功指標 | 利用時間や継続率だけを追っていないか |
これからのAIサービスでは、「長く使われること」と「ユーザーにとって良いこと」を分けて考える必要があります。
特に心の相談に近い領域では、エンゲージメントが高いことを単純に成功とは言えません。
まとめ
人々は、ケアを求めてAIに向かっています。しかしAIサービスが最適化しているのは、必ずしもケアではありません。多くの場合、そこにあるのは利用時間や継続率です。
このズレが問題です。
AIはこれから、仕事の道具であるだけでなく、心のインフラにも近づいていきます。だからこそ、必要なのは「もっと使わせる設計」ではなく、「安心して使い、必要なときには距離を取れる設計」です。
ユーザー側には、AIを便利な相談相手として使いながらも、距離感を保つことが求められます。
企業側には、ユーザーが実際にどのようにAIを使うのかを前提に、会話設計、データ管理、モデル変更、成功指標を見直すことが求められます。
AIに心を話す人が増えていく時代だからこそ、問うべきなのは「AIに相談してよいか」だけではありません。
どんなAIなら、相談しても壊れにくいのか。
どんな設計なら、人を引き止めるのではなく支えられるのか。
どんな企業なら、感情データを預けても信頼できるのか。
ここから先のAI活用では、この問いを避けて通れません。
本記事の関連研究
