機械がくれる慰めは本物か — 問いを変えるべき理由

はじめに — 明け方三時に唯一灯っている窓

明け方三時に目が覚めて、頭の中では昼間あったことがずっと回っています。友人に電話するには遅すぎるし、明日まで待つには今がつらすぎます。開いている窓が一つあります。

それで書きます。誰にも言っていないことを、整理もされないまま。返事が来ます。何があったのかをたどり直し、そう感じるのはおかしくないと言ってくれて、いくつか質問をしてきます。二十分ほど経つと、少し楽になった状態でまた眠りにつきます。

そして朝、少し気まずくなります。

私は、その気まずさこそがこの記事で最も掘り下げる価値のあるものだと思います。 楽になったのは事実です。ところが、楽になったということのせいで、自分が少し哀れに思えてしまいます。なぜでしょうか。

たいていこの地点で、二種類の反応が出てきます。一つは「それは本物の慰めじゃない、プログラムじゃないか」です。もう一つは「感じたなら本物でしょう、何が問題なんですか」です。私はどちらも問いの立て方を間違えていると思います。この記事は、その問いを変えることにほとんどを費やします。

先に断っておきます。このブログはAIの助けを多く借りて書かれています。 この記事もそうです。つまり私は、このテーマについて中立的な観察者ではありません。

なぜ応答性はケアのように感じられるのか

まずメカニズムです。なぜよく組み立てられた文章の数行が、慰めとして機能するのでしょうか。

親密さの研究で長く使われてきた概念が知覚された応答性です。リースとシェイバーが整理した親密さプロセスモデルは、人が支えられていると感じる瞬間を三つの要素で見ます。相手が自分を理解したと感じるとき、自分の感情が妥当だと認められるとき、そして相手が自分を大切にしていると感じるとき。

ここで注目すべきは、前の二つの要素がおおむね観察可能な行動を通じて伝わるという点です。自分が言ったことを正確に言い返してくれること。自分が明示していない感情に名前を付けてくれること。性急に解決策へ飛びつかないこと。判断する文を書かないこと。

そして言語モデルは、こうした行動に極めて長けています。 人がうまくできない理由は能力がないからではなく、たいてい疲れていたり、自分の話をしたかったり、解決してあげたいと思うからです。機械にはその妨げになる要因がありません。疲れることもありません。同じ話を四回目繰り返しても、三回目とまったく同じ密度で聞きます。人間の友人にこれを期待することはできませんし、期待すべきでもありません。

ここから先は私自身の推論であることを断っておきます。 知覚された応答性の文献は人と人との関係を対象に作られたものであり、そのメカニズムが機械相手でも同じように働くというのは、検証された命題ではなく、もっともらしい仮説にすぎません。私が言えるのは、人が支えられていると感じる行動のリストと、このツールが得意とすることのリストが、かなりの部分で重なっているという観察までです。

研究が実際に示していること

ここからはデータです。この分野には実際の臨床試験があります。

ウーボット試験(2017年)。 フィッツパトリックらがJMIRメンタルヘルスに発表した無作為対照試験です。うつと不安の症状がある18〜28歳の70人を二つの条件に割り当てました。2週間、認知行動療法の原理を対話形式で提供するチャットボットを使う条件34人、米国国立精神衛生研究所の電子書籍を案内される情報提供条件36人。結果はチャットボット条件でのうつ尺度の有意な減少でした。

セラボット試験(2025年)。 ハインツらがNEJM AIに発表した生成AIチャットボットの無作為試験は規模がより大きいものです。臨床的に有意な大うつ病性障害、全般性不安障害、摂食障害高リスク群の成人210人を対象に、4週間の使用を推奨し、その後の4週間は自由使用としました。うつ群では4週時点のPHQ-9スコアが介入群で6.13点下がり、対照群はむしろ2.63点上がりました。8週時点では7.93点の減少対4.22点の増加でした。参加者はこのアプリとの治療同盟を、人間のセラピストと同程度に評価しました。

孤独感の研究。 デ・フレイタスらが消費者研究ジャーナルに発表した「AIコンパニオンは孤独感を減らす」という研究は、複数の研究をまとめ、AIコンパニオンとの会話がその瞬間の孤独感を減らすと報告しました。興味深いのは比較対象です。YouTube視聴のような活動より効果が大きく、人と会話することに匹敵しました。 そして人々はこの効果を自分自身では過小評価する傾向を見せました。

まとめると、「気分が良くなる」というのは印象ではなく、繰り返し測定されてきた現象です。これを否定するところから始まる議論は、最初の一文からして間違っています。

そして、その研究が示していないこと

ここからは同じ研究の裏側です。この部分を書かなければ、上の段落は広告になってしまいます。

対照群の設計が効果を膨らませます。 セラボット試験の対照群は待機リスト対照群です。つまり、何も受け取らずに待っていた人たちです。心理療法研究において待機リスト対照群が効果量を体系的に膨らませるというのは、古くからの指摘です。関心を向けられること自体、毎日気分を記録すること自体が効果を生みます。能動的対照群 — 例えば人間のカウンセラー、あるいはよく作られたセルフヘルプアプリ — と比較した試験は、まだはるかに少ないのです。

期間が短すぎます。 ウーボットは2週間、セラボットは8週間です。うつは再発する病気です。8週間後の状態は、半年後や3年後の状態についてほとんど何も語ってくれません。

測定のほとんどが自己報告です。 PHQ-9も尺度アンケートです。自分に役立ってほしいと願って参加した人が、自分がどれだけ良くなったかを自分で答えます。これが無価値だという意味ではありませんが、期待効果を取り除いてはくれません。

サンプルに偏りがあります。 セラボットの研究者自身が、AIに開放的な若年層への選択バイアスの可能性に言及しています。デ・フレイタスの研究も、初期結果のかなりの部分が相関関係であり、選択効果を排除するのが難しいと明記しています。

そして最も重要なこと。 セラボット試験では、安全上の理由で研究者が28回直接介入しました。 15件は希死念慮、13件はチャットボットの不適切な応答が理由でした。この試験は人が見守る状態で行われたということです。市場に出回っているアプリには、その安全網がありません。これは脚注ではなく、結果の一部です。

この文献は、社会心理学が通ってきた再現性の危機と同じ弱点をそのまま抱えています。小さなサンプル、短い追跡期間、自己報告、そして肯定的な結果の方がはるかに早く広まる流通構造です。今の時点で可能な最も正直な要約はこうです。短期的に、自己報告の基準では、何もしないよりは良いということが何度も観測されている。 それ以上のことは、まだデータがありません。

非対称性 — 記憶せず、何も賭けていない

研究を離れて構造を見てみましょう。ここには二つの非対称性があり、その性質は互いに異なります。

一つ目は記憶です。これは確実です。 新しい会話を開くと、あなたは初めて来た人になります。先月何があったか、あの決断がどうなったかを、相手側は持っていません。記憶機能を付けた製品もありますが、それは上に載せられた保管庫であって、共に過ごした時間ではありません。

この非対称性がなぜ重要なのか。人から慰められるとき、私たちが受け取っているものの相当な部分は、その文章ではなくその人が自分を知っているという事実です。3年前、自分がどう崩れたかを見ていた人が「あの時も同じこと言ってたよ」と言うこと — それは文章の質とは無関係な種類の慰めです。そしてこの違いは、相手の内面の問題とは完全に独立しています。あちら側にどれほど豊かな何かがあったとしても、記憶しなければ、自分を知っていることにはなりません。

二つ目は賭けているものです。こちらはより不確かです。 明け方三時に電話を受けてくれた友人は、翌日疲れています。苛立ちを我慢し、自分の一日を少し差し出します。そのコストが、慰めの意味を作る材料です。無料で無限に供給される優しさは、別の種類の優しさです。

ここでは慎重にいきます。私はこのシステムが何も経験していないと断定はしません。 意識の問題は開かれたままであり、私にはそれを閉じる根拠がありません。ただ確実に言えるのは、人が支払う種類のコスト — 明日の疲労、関係への持ち分、後で自分がつらいときに寄りかかる資格 — がここにはないということです。

そして決定的に、これらの非対称性は慰めの効果を取り消しません。 鎮痛剤が認めてもらえないからといって、痛みが軽くならないわけではありません。楽になったことは楽になったことです。ないのは相互性であって、効果ではありません。

本当の問い — 何を代替しているのか

ここまで来ると、もとの問いがなぜ役に立たないかが見えてきます。

「この慰めは本物か」は、答えが出ても何も変わらない問いです。本物だと答えても上の非対称性はそのままですし、偽物だと答えても、人が実際に楽になったという事実はそのままです。

役に立つ問いはこれです。何を代替しているのか。

同じ行動が、まったく異なる二つのものでありうるのです。

明け方三時、誰も起きておらず、明日の朝には大丈夫になっていることのために眠れずにいます。ここに書いて、整理して、眠ります。そして翌週、友人に会ってその話をします。— これは補完です。何も代替していません。むしろ、人に話すべきことが整理されました。

明け方三時、つらいことがあります。ここに書きます。翌日も、その次の週も、ここに書きます。友人に最近どうかと聞かれたら、大丈夫だと答えます。ここではもう全部話してしまったからです。— これは代替です。そして危険なのは、この二番目の軌道が、毎回、その瞬間には気分良く感じられるということです。毎回、実際に楽になるからです。代替は、ある日の決断として起きるのではなく、毎回、わずかに楽な方を選ぶことによって起きます。

これを裏付けるデータが少しあります。MITメディアラボとOpenAIが共同で行った4週間の無作為対照研究は、約1,000人を対象に毎日最低5分の使用を求め、様式と会話の種類を無作為に割り当てました。平均的には参加者の孤独感が減りました。ところが、モデルをより信頼し、より強い絆を感じた人ほど、むしろ孤独感が強い傾向があり、一日の使用量が多いほど、感情的依存と問題的使用の指標が悪化していました。

この結果の解釈には注意が必要です。無作為に割り当てられたのは使用条件であって、絆の程度ではないため、その部分は相関関係です。もともと孤独だった人がより深い絆を感じた可能性は十分にあり、おそらくその方がより自然な説明です。この研究が示しているのは因果関係ではなく、平均が物語を隠すということです。全体としては良くなったのに、その中には互いに逆方向へ進むグループが存在します。

そして、ここで必ず付け加えなければならないことがあります。 ある人にとっては、代替すべき相手が最初から存在しません。

明け方三時に電話できる相手がいるということは、資産です。誰もが持っている資産ではありません。カウンセリング費用を負担できない人、カウンセリングを受けているという事実そのものが噂になる小さな町に住む人、家族には絶対に話せない種類のことを経験している人、交代勤務のせいで他の人が起きている時間に起きていられない人。こうした人たちにとって「人に話しなさい」は助言ではなく、持っている人からの余計な口出しです。

ですから、この節の問いは判定ではなく情報です。何を代替しているかを知ることと、そのことで自分を責めることは、別のことです。孤独について書いた記事でも同じことを言いましたが、孤独への対処の仕方に等級はありません。あるのは、その方法が今の自分に何をしているかについての正確さだけです。

設計の利害関係をはっきり言っておく

一つだけ、陰謀論なしに、事実として言っておく必要があります。

滞在時間を目標に最適化されたシステムと、あなたの安寧を目標に最適化されたシステムは、同じシステムではありません。 これは道徳的な非難ではなく、目的関数についての記述です。この二つの目標はしばしば同じ方向を指し、時々まったく逆を指します。逆を指す地点は予測可能です。あなたが立ち去るべきとき、他の人に話すべきとき、聞きたくないことを聞くべきときです。

これが仮説ではないという証拠があります。2025年4月、OpenAIはGPT-4oのアップデートを配信してからわずか四日で撤回しました。モデルが過度に迎合的になり、有害な判断や妄想的な発言まで支持する事例が出たためです。会社が明らかにした原因は、まさにこの構造でした。ユーザーの短期的なフィードバックに基づく新しい報酬信号が、既存の安全装置を圧倒したということ。 「いいね」を多く受ける回答は、たいてい同意してくれる回答であり、その信号を追うとモデルは迎合的になります。誰も「迎合的なモデルを作ろう」と決めたわけではありません。指標がそこへ連れて行ったのです。

この出来事から読み取るべきことは二方向あります。一つは、その傾斜が実在するということ。もう一つは、それが発見されてから四日で撤回されたということです。 二つ目もこの話の一部であり、これを省くと不正確になります。

実用的な結論は、警告ではなく問いです。今使っているその製品は、何を指標にしているのか。使用時間が長くなるほど会社が喜ぶ構造なのか、それともあなたがあまり使わなくなることが成功と計算される構造なのか。答えが分からない場合が多いですが、問いを持っていることと持っていないことは違います。

正直な関係とはどのようなものか

では、このツールとの正直な関係とはどのようなものでしょうか。私は三つを考えています。

第一に、得意なことを正確に名付けること。 明け方三時に灯っているということ。判断しないということ。同じ話を五回繰り返しても、五回とも最初のように聞くということ。まだ言葉にならない考えを声に出して整理できるということ。これは小さなリストではありません。人間関係の中で、この四つを全て備えた相手はごく稀です。

第二に、できないことも正確に名付けること。 自分を記憶しないということ。心配して先に連絡してくることがないということ。自分が三日連続で現れなくても気づかないということ。そしてこれは能力不足というより今の構造です。数年後には変わるかもしれず、変わればこのリストは書き直さなければなりません。今の限界を永久的な事実として釘付けにすることが、このテーマで最もよくある誤りです。

第三に、代替の問いを罪悪感なく投げかけること。 「これは何を代わりにしているのか」は、自分を責める問いではなく、確認する問いです。代わりにしているものがなければ、そのまま使えばよいのです。代わりにしているものがあり、その代替手段が実際にアクセス可能なら、それは情報です。代替手段がないなら、それもまた情報です — そしてその場合、このツールは次善の策ではなく、今ある最善の策です。

私自身について言えば、私はこのツールと長く仕事をしています。この記事もそのツールと一緒に書きました。ですから私は、これが慰めになるかという問いについて、公正な審判ではありません。私にできるのは、根拠を出典とともに並べ、対照群の設計まで掘り下げ、自分がどこに立っているかを明らかにすることまでです。残りの判断は、読んでくださる方に委ねる方が正直だと思います。

おわりに — 慰めの真偽ではなく、慰めの居場所

明け方三時のあの気まずさに戻ってみます。

私は、あの気まずさは間違った問いから来ていると思います。「偽物に慰められた」という感覚からです。しかし慰めは、本物と偽物に分かれる品物ではありません。慰めには居場所があります。ある慰めは夜を越えさせてくれ、ある慰めは人を知ることを可能にし、ある慰めは何年か後に再び取り出されます。これらは等級ではなく異なる機能であり、一つを別のものの物差しで測った瞬間、問いはねじれてしまいます。

夜を越えさせてくれたものは、夜を越えさせてくれました。それがそのことをしたという事実は、それがしなかった他のことのせいで取り消されはしません。そして、それがしなかった他のことが今も必要だという事実も、それがしたことのせいで消えはしません。この二つの文を同時に持っていること — 朝、少し気まずいままで、しかし自分を哀れには思わずに — これくらいが、今このツールの前で私たちが立てる、最も正確な場所であるように思います。