Skip to content
Published on

フェイクニュースとポスト真実 — 何を信じるべきか

🇰🇷KO🇺🇸EN🇯🇵JA
Split View필사 모드
Authors

はじめに：1835年、月に住むコウモリ人間

1835年の夏、ニューヨークの新聞 The Sun は驚くべき特ダネを連載しました。当時最高の天文学者が南アフリカに設置した巨大な望遠鏡で月を観測したところ、そこには青い湖や森、ユニコーンに似た獣、そして翼をもったコウモリ人間が住んでいた、というのです。記事には、彼らが神殿を建て、互いに会話する様子まで細かく描かれていました。

もちろんすべて嘘でした。のちに「月の大ペテン（Great Moon Hoax）」と呼ばれることになるこの連載は、新聞の販売部数を伸ばすための創作でした。ところが興味深いのは、多くの人がこれを真剣に信じ、新聞の発行部数が爆発的に伸びたという事実です。偽りの物語が、本物のお金になったわけです。

それからおよそ200年が経った今、私たちは月のコウモリ人間を笑います。しかし当の私たち自身は、毎日数百もの情報のかけらを受け取りながら、そのうちのどれが真実でどれが嘘なのかを、ますます見分けにくい時代を生きています。画面の中の人物が本当にそう言ったのか、その統計は本物か、あの映像は加工されていないか。「何を信じるべきか」という問いは、もはや哲学者だけの悩みではなく、すべての人の日常になりました。

この文章では、フェイクニュースがどのように広がるのか、私たちの心がなぜ嘘に揺さぶられやすいのか、そしてその流れの中で分別を保つ方法は何かを、一緒に見ていきたいと思います。特定の陣営を責めるための文章ではありません。誤った情報は、政治的な左右、国籍、学歴を問わず、誰にでも染み込む普遍的な現象だからです。

まず用語から：誤情報、偽情報、そしてその間

私たちはよく「フェイクニュース」という一語でひとまとめにしますが、研究者はこれをより細かく区別します。意図が違えば、対応の仕方も変わるからです。

  • 誤情報（misinformation）：事実ではないものの、広める人がそれを真実だと信じ、善意で共有する場合です。親戚が「この食べ物が病気を予防する」という誤った健康情報を、心配する気持ちからグループチャットに投稿する場合がこれにあたります。
  • 偽情報（disinformation）：偽りだと知りながら、誰かを欺いたり利益を得たりするために、意図的に作り広める情報です。政治的な扇動、詐欺、世論操作キャンペーンが代表例です。
  • 悪意ある情報（malinformation）：事実そのものは正しいのですが、文脈を切り離したり、プライバシーを侵害したりする形で害を与えようとする情報です。本物の文書を悪意をもって流出させる場合がその例です。

この区別が重要なのは、同じ偽情報でも「だまされて広めた人」と「意図的に作った人」を同じように非難することはできないからです。私たちの多くは加害者ではなく、善意の伝達者、つまり誤情報の通り道になりがちです。だからこそこの問題は、「悪い人をより分ける」問題ではなく、「私たち全員がどう判断するか」の問題なのです。

なぜ嘘は真実より速いのか：MITの衝撃的な研究

2018年、マサチューセッツ工科大学（MIT）のソルーシュ・ヴォスーギ、デブ・ロイ、シナン・アラルの研究チームが、学術誌 Science に一本の論文を発表しました。彼らは2006年から2017年までにツイッターで、約12万6千件のニュースの筋が約300万人によって450万回以上共有された巨大なデータを分析しました。

結果は衝撃的でした。偽のニュースが真実より遠く、速く、深く、広く広がったのです。とりわけ政治に関する偽情報の拡散の速さが際立っていました。真実が1,500人に届くのにかかる時間は、嘘が同じ人数に届く時間の約6倍に達しました。

さらに興味深いのは、その原因でした。研究チームは当初「ボット（自動アカウント）が嘘を広めるだろう」と仮定しましたが、ボットは真実と嘘を似た割合で広めていました。つまり、嘘をより速く運んだ主体は機械ではなく人間だったのです。

なぜでしょう。研究チームは、偽のニュースが真実より「新しく（novel）」感じられ、人々に驚き、恐れ、嫌悪といった強い感情を呼び起こしたからだと分析しました。私たちは新しく刺激的な話を共有したくなります。真実はしばしば平凡で、嘘はしばしば劇的です。まさにその劇的さが、嘘に翼を与えるのです。

嘘が速く広がる回路

  刺激的な偽情報
        |
        v
  強い感情（驚き、怒り、恐れ）
        |
        v
  「これは知らせなければ」という衝動
        |
        v
        共有
        |
        v
  さらに多くの人の感情を刺激 ---> （上へ戻って繰り返し）

ここで覚えておきたいのは、嘘を広めた人の多くに悪意はなかったという事実です。彼らはただ「面白い何か」を分かち合いたかっただけなのです。嘘は、私たちの善意と好奇心を燃料にします。

私たちの心の隙間：確証バイアスと真実性の錯覚効果

嘘が広がりやすいことには、人間の心理の構造的な特徴も大きく関わっています。そのうち二つを見てみましょう。

確証バイアス：見たいものだけを見る心

確証バイアス（confirmation bias）とは、自分がすでに信じていることを裏づける情報は容易に受け入れ、反する情報は無視したり値引きしたりする傾向のことです。これは怠惰や無知の問題ではありません。賢い人ほど、自分の信念を正当化する論理をより精巧に作り出せる、という研究もあります。

考えてみましょう。私たちは同じ出来事を報じた二つの記事を読むとき、自分の立場に合う記事は「バランスが取れている」と感じ、反対の立場の記事は「偏っている」と感じがちです。同じ文章であってもです。この心の働き方のために、偽情報がたまたま自分の既存の信念と合致すると、私たちは疑いもなく受け入れてしまいます。

真実性の錯覚効果：繰り返されると本物に感じる

もう一つの落とし穴が、真実性の錯覚効果（illusory truth effect）です。ある主張を繰り返し目にするほど、それが事実であろうとなかろうと、だんだん真実のように感じられる現象です。心理学の研究は、ただ馴染みがあるという理由だけで、私たちがその主張をより信頼するようになることを、繰り返し確認してきました。

この効果が恐ろしいのは、明らかに誤った情報に対しても働くという点にあります。最初は「ありえない」と思った主張も、いくつものチャンネルで繰り返し出会ううちに、ある瞬間「もしかすると一理あるかも」へと変わります。ソーシャルメディアのアルゴリズムが似たメッセージを絶えず繰り返し見せる環境は、この錯覚を増幅させるうえでこのうえなく良い土壌です。興味深いことに研究者は、事前知識のある人でさえこの効果から完全には自由でないことを見いだしました。正解を知っていても、繰り返し目にした偽りの主張に対して「なんとなく馴染みがあるから正しい気がする」という微妙な感覚が入り込む、というのです。

持続的影響効果：訂正しても残る痕跡

第三に、訂正がなぜそれほど難しいのかを説明する現象があります。持続的影響効果（continued influence effect）とは、ある情報が偽りだとはっきり訂正されたあとも、人々の判断や推論にその情報が影響し続ける現象のことです。

たとえば、「ある倉庫の火災の原因は、不注意に保管されたペンキとガスボンベだった」という初期報道が出たあと、「実はその倉庫は空だった」という訂正が続いたとします。それでも多くの人は、その後「なぜ火がそんなに大きくなったのか」という問いに、依然としてペンキとガスボンベを思い浮かべます。頭では訂正を受け入れても、最初に聞いた話が作り上げた因果のイメージが心に残り、働き続けるのです。

この効果が示すものは大きいものです。単に「それは間違いだ」と言うだけでは足りず、空いた場所を埋める代わりの説明を一緒に示してこそ、訂正がより根づくということです。「Xは偽りだ」よりも「Xではなく、実際にはYだ」という形の訂正のほうが効果的だ、という研究が続いています。私たちが偽りを正すとき、覚えておきたい実践的な教訓です。

反響する部屋：エコーチェンバーとフィルターバブル

私たちはふだん「情報を検索する」と思っていますが、実際には情報のほうが私たちに向かって流れ込んでくる場合のほうが多いのです。その流れを設計しているのが、まさに推薦アルゴリズムです。

エコーチェンバー（反響室）とは、似た考えをもつ人どうしだけが集まって同じ意見を交わし、その意見が反響のように増幅される空間のことです。反対の意見は入ってこないか、入ってきても嘲笑の対象としてだけ消費されます。

フィルターバブルは、インターネット活動家のイーライ・パリサーが広く知らしめた概念で、アルゴリズムが私の過去の行動をもとに「私が好みそうなもの」だけを選んで見せることで、結果的に私自身が知らないうちに片側の視野に閉じ込められる現象を指します。私は世界を見ていると信じていますが、実際にはアルゴリズムが選んでくれた世界の一片だけを見ているのです。

ただし学界では、フィルターバブルの威力をめぐる論争もあります。一部の研究は、人々が思ったより多様な出所に触れており、むしろ積極的に反対陣営の文章を探して読むこともあると指摘します。したがって、フィルターバブルをあらゆる問題の元凶と断定するよりも、いくつもの要因の一つとして理解するバランスの取れた視点が必要です。

開かれた情報環境 vs 閉じた情報環境

  ［開かれた環境］            ［閉じた環境 / エコーチェンバー］
  多様な出所                  似た出所だけ
  反対意見への接触            反対意見を遮断
  「そうかもしれない」        「やはり我々が正しい」
  意見の調整が可能            意見の極端化

本物より本物らしい偽物：ディープフェイクと合成メディア

過去のフェイクニュースが主に文章だったとすれば、今日の脅威はより精巧です。ディープフェイク（deepfake）とは、人工知能、とりわけディープラーニングの技術を用いて、実在する人物の顔や声を精巧に合成した偽の映像や音声のことです。「deep learning」と「fake」を合わせた言葉です。

いまや誰でも比較的簡単に、ある人物が実際にはしていない発言をする映像を作れます。有名な政治家がしていない宣言をし、会ったこともない人の声で家族に送金を求めるボイスフィッシングが可能になったのです。

ディープフェイクが投げかける本当の脅威は二つです。第一に、偽物を本物だと信じさせることです。第二に、そしておそらくより危険なのは、本物を偽物だと疑わせることです。研究者はこれを「嘘つきの配当（liar's dividend）」と呼びます。あらゆる映像が加工されうる世界では、本物の証拠映像でさえ「あれはディープフェイクだ」と否認できてしまいます。真実の土台そのものが揺らぐのです。

もちろん一方では、ディープフェイクを検出する技術や、コンテンツの出所と編集履歴をデジタル署名で証明する技術（たとえばコンテンツの来歴認証の規格）も急速に発展しています。矛と盾の競争は続くでしょう。

ポスト真実の時代：事実より感情が先に立つとき

こうした環境をまとめて呼ぶ言葉が、まさにポスト真実（post-truth）です。オックスフォード辞典は2016年の「今年の単語」にこの語を選び、「客観的な事実が、感情や個人的な信念への訴えよりも世論形成に与える影響が小さい状況」と定義しました。

注意したいのは、ポスト真実が「真実が存在しない」という意味ではないということです。真実は依然として存在します。ただ、真実が人々の心を動かす力を失っていく状況、つまり「事実だが気に入らない情報」よりも「事実ではないが気に入る情報」のほうが強い影響力をもつ状況を指すのです。

これはまったく新しい現象ではありません。宣伝と扇動の歴史は、人類そのものと同じくらい古いものです。ただ、インターネットとソーシャルメディアは、その速度と規模を前例のないほどに膨らませました。一人の嘘が数時間のうちに数百万人に届きうる時代は、人類の歴史で初めてのことです。

フェイクニュース年表：印刷機から人工知能まで

偽情報の歴史は、新しいメディア技術の歴史と、つねに並んで歩んできました。

偽情報とメディア技術の同行

  1439年ごろ  活版印刷機の登場 — 情報の大量複製が始まり、宣伝物も共に広がる
  1835年      月の大ペテン — 新聞販売のための大規模なねつ造記事
  1890年代    イエロー・ジャーナリズム — 扇情的な誇張報道が大衆を引きつける
  1938年      ラジオドラマが起こした混乱 — 劇的な媒体の威力を実感
  1990年代    インターネットの普及 — 誰もが発行人になれる時代
  2000年代    ソーシャルメディアの登場 — 一度の共有で爆発的に拡散
  2016年ごろ  ポスト真実、今年の単語に選ばれる
  2020年代    生成AIとディープフェイク — 合成メディアの大衆化

この年表が教える教訓は明らかです。偽情報は新しい技術の副作用ではなく、あらゆる新しいメディアが登場するたびに共についてきた影でした。そして人類は毎回、時間はかかったものの、そのメディアを扱う分別を新たに育ててきました。私たちにいま必要なのも、まさにその分別です。

1938年、火星人が攻めてきた：そして、その恐怖をめぐるもう一つの神話

年表に少しだけ登場した1938年の出来事は、別に見ておく価値があります。インターネットのなかった時代にもメディアがどのように偽りの通り道になるのか、そしてその話そのものがどのようにもう一つの神話として固まっていくのかを、同時に示してくれるからです。

1938年10月30日、アメリカのラジオ放送で、オーソン・ウェルズ（Orson Welles）が率いる劇団が、H・G・ウェルズの小説「宇宙戦争」を脚色したドラマを放送しました。このドラマは、まるで実際のニュース速報のように作られていました。ふつうの音楽番組が流れていたところに緊急ニュースが割り込み、現場の記者が震える声で火星人の宇宙船が着陸したと伝える形式でした。冒頭にこれがフィクションだという案内がありましたが、途中から聞いた聴取者はそのことを知りませんでした。

翌日、新聞各紙はいっせいに報じました。放送を聞いた人々が本物の宇宙人の侵攻だと信じて街に飛び出し、全国が大混乱に陥った、というのです。この「大恐慌（mass panic）」の話は、その後何十年ものあいだ、メディアの威力を示す代表的な事例として教科書にまで載りました。

ところが、ここにどんでん返しがあります。現代のメディア史家は、この「大恐慌」の規模が実際には大きく誇張されていたと指摘します。当時のその時間帯の実際の聴取率はそれほど高くなく、ほとんどの聴取者はそれがドラマだと分かっていました。街に飛び出した群衆についての生々しい描写の多くは、検証されていない逸話でした。

では、なぜ「大恐慌」の神話がそれほど広く広まったのでしょうか。一つの有力な説明は、当時成長しつつあったラジオを競争相手とみなしていた新聞業界が、「無責任なラジオが国民を恐怖に陥れた」という物語を積極的に育てた、というものです。つまり、メディアパニックについての話そのものが、別のメディアの利害の中で膨らまされたわけです。

この出来事は二重の教訓を与えます。第一に、インターネット以前にも、もっともらしく作られた形式は人を欺けました。第二に、そしてさらに興味深いことに、「人は簡単にだまされる」という話さえ、無批判に受け入れてはならないということです。メディアの弊害を警告する話さえ、それ自体が一つの検証の対象になります。偽りを警戒する心は、偽りを警戒せよという話にも同じく適用されなければなりません。

ファクトチェックは万能か：その可能性と限界

嘘に立ち向かう最も直感的な方法は、事実を確認すること、つまりファクトチェック（fact-checking）です。今日、数多くの報道機関や独立した組織が、主張の真偽を検証して公開しています。これは明らかに価値のある仕事です。

しかしファクトチェックには限界もあります。第一に、嘘は速く、訂正は遅いのです。嘘が数日で数百万人に広がるあいだ、入念な検証には時間がかかります。嘘がすでに心に根づいたあとに届く訂正は、効果が弱くなります。

第二に、かつては「逆効果（backfire effect）」という懸念が大きくありました。誤った信念をもつ人に事実を突きつけると、かえってその信念が強まりうる、という主張です。ただ、近年の追跡研究は、この効果が思われていたほど一般的でも強力でもなく、おおむね事実の提示が信念を一定程度は修正することを示しています。つまりファクトチェックは無用ではありません。ただし万能薬でもないのです。

第三に、最も根本的な限界は「信頼」の問題です。ファクトチェック機関そのものを信じない人にとっては、どれほど正確な検証も「あちら側の主張」に聞こえます。結局、事実確認は、それを受け入れる信頼の土台があってこそ働くのです。

あらかじめ防ぐワクチン：プリバンキングと接種理論

ファクトチェックが、偽りが広がったあとに追いかけて正す「デバンキング（debunking）」だとすれば、近年注目される手法は、偽りが届く前にあらかじめ免疫を育てておく「プリバンキング（prebunking）」です。この発想の根は、1960年代に心理学者ウィリアム・マグワイア（William McGuire）が提案した接種理論（inoculation theory）にあります。

原理はワクチンと同じです。弱めた病原体にあらかじめ触れると体が抗体を作って本物の感染に備えるように、偽りの説得技法の弱い形をあらかじめ経験し、その手口を知っておけば、あとで本物の偽りに出会ったときによりよく抵抗できる、というのです。

この分野の代表的な研究者には、ケンブリッジ大学のサンダー・ファン・デル・リンデン（Sander van der Linden）とヨン・ローゼンビーク（Jon Roozenbeek）がいます。彼らは、個々の偽りを反論することを超えて、偽情報が共通して使う「技法」そのものを見分けられるようにすることに焦点を当てます。感情を刺激する言葉、にせの専門家の持ち出し、陰謀論的思考、両極端へ追い込むこと、いけにえの指名といった手口をあらかじめ身につければ、その手口が使われたどんな新しい偽りにも備えられる、という発想です。

彼らが作った代表的な道具が「バッド・ニュース（Bad News）」というオンラインゲームです。このゲームでプレイヤーは偽情報の流布者の立場になり、にせのアカウントを育てて人々を扇動する役割を自分でやってみます。偽りを作る側の手口を経験することで、逆説的にその手口への抵抗力を育てるのです。いくつもの研究は、こうしたゲームや短い解説動画に触れた人が、その後、操作の技法をよりよく見抜けるようになったと報告しています。

ただし、バランスよく見るべき点もあります。プリバンキングの効果は時間が経つと弱まることがあり、定期的な「追加接種（ブースター）」が必要だという指摘があり、効果の大きさをめぐる学界の議論も続いています。万能の解決策ではありませんが、偽りが届いたあとに追いかける代わりにあらかじめ備えるという発想の転換には、確かに意味があります。そしてこれもまた、私たち一人ひとりが「手口を見抜く目」を育てることでもあるのです。

自分を守る方法：メディアリテラシーの技術

では、私たちには何ができるでしょうか。幸い、分別は生まれつきのものではなく、訓練で育てられる技術です。メディアリテラシー（media literacy）の分野で検証された、いくつかの方法を紹介します。

垂直読みではなく水平読み

専門のファクトチェッカーの習慣を研究した結果、興味深い違いが見つかりました。普通の人は、あるウェブサイトに着くとそこにとどまり、上から下へ丹念に読みます。これを垂直読み（vertical reading）といいます。サイトがもっともらしく見えれば信頼するのです。

一方、専門家はそのページを離れて別のタブを開き、「この出所はいったい誰なのか」を別の場所で確認します。これを水平読み（lateral reading）といいます。情報そのものに入り込む前に、その情報を出した主体の正体と評判をまず点検するのです。立派なデザインのウェブサイトでも、誰が運営しているのか分からないなら、信頼は保留すべきです。

SIFT、四拍子の点検

メディア研究者のマイク・コールフィールドが提案したSIFTは、情報に出会ったときに通すとよい四つの段階です。

  • S（Stop、止まる）：共有ボタンを押す前に、いったん止まります。強い感情が湧き上がったなら、それこそがもう一度疑うべき合図です。
  • I（Investigate the source、出所を調べる）：この情報を誰が出したのか、どんな意図と専門性をもっているのかを確認します。
  • F（Find better coverage、より良い報道を探す）：同じ事柄を、信頼できる他の媒体がどう扱っているか比べます。一か所だけが報じる衝撃的な知らせには、とくに注意します。
  • T（Trace claims、出どころを追う）：引用された主張、写真、統計が、元はどんな文脈から出てきたのかをさかのぼって確認します。本物の写真が見当違いの出来事に貼られる例はよくあります。

この四つは大層な知識ではなく、小さな習慣です。そして習慣は、誰にでも育てられます。

SIFTを実際に使ってみる：ある場面

言葉だけ聞くと漠然としているので、架空の一場面をたどってみましょう。ある日、グループチャットにこんな投稿が上がってきます。「衝撃！ ある研究所の発表、ありふれた台所用洗剤が深刻な病気を引き起こすと。政府はなぜ沈黙するのか？」 出所として、初めて見る名前のあるウェブサイトのリンクが付いています。

  • 第1段階、止まる。まず「衝撃」「政府はなぜ沈黙するのか」といった表現が強い感情を刺激している点に気づきます。怒りや恐れが湧き上がったなら、それこそが一拍止まる合図です。共有ボタンに手が伸びる前に止まります。
  • 第2段階、出所を調べる。リンクをクリックしてその中を上から下へ読む代わりに、新しいタブを開きます。そのウェブサイトの名前を検索窓に入れ、「ここはいったいどんな媒体なのか」を外から確認します。運営主体も編集責任者も明らかにしていないサイトなら、ひとまず信頼を保留します。これが水平読みです。
  • 第3段階、より良い報道を探す。「台所用洗剤 病気 研究」のように核心となる言葉で別に検索し、信頼できる他の媒体が同じ知らせを扱っているか見ます。本当に重大な研究なら、いくつもの場所で扱われたはずです。その一つのサイトにしかないなら、それは信頼ではなく疑いの根拠です。
  • 第4段階、出どころを追う。投稿が引用した「研究所の発表」の原文を探します。そんな研究が実際にあるのか、あるとすれば本当にそんな結論を出したのか、あるいは無関係な古い資料を見当違いに引いてきたのではないか、さかのぼって確認します。

この過程を経れば、たいてい2〜3分のうちに輪郭が見えてきます。要は、情報の中へ吸い込まれる前に、情報の外へ一歩出てその出所を調べることです。SIFTは、すべてを博士のように検証せよという要求ではなく、共有する前にちょっと外をのぞく小さな習慣です。

ちょっとクイズ：あなたの分別は？

次の状況で、最も賢明な対応は何でしょうか。答えはすぐ下にあるので、まず自分で考えてみてください。

問題1. グループチャットに「この果物がある病気を100パーセント予防する」という投稿が、衝撃的な見出しとともに上がってきました。まず最初にすべきことは？

ア. 家族の役に立つだろうから、すぐに他のチャットにも共有する。 イ. 「100パーセント」という断定的な表現と強い感情の刺激に、いったん止まり、出所と他の信頼できる報道を確認する。 ウ. どうせ嘘だろうから無視して通り過ぎる。

問題2. ある映像で有名人が驚くべき発言をします。画質も良く、声もそっくりです。どうすべきでしょうか。

ア. 声と顔がそっくりなので、本物だと信じる。 イ. 信頼できる複数の媒体が同じ発言を報じているかを水平読みで照合し、合成の可能性を念頭に置く。 ウ. とりあえず面白いので、まず共有する。

答え：問題1は「イ」、問題2も「イ」です。

問題1の要点は、「100パーセント」のように断定的で扇情的な表現が出てきたら止まって、SIFTを適用することです。「ウ」のように無条件に無視するのも良い態度ではありません。確認せずに断定するより、落ち着いて検証する姿勢が分別です。

問題2の要点は、画質や声がもっともらしいことが真実の保証にはならないという点です。ディープフェイクの時代には、「見ることは信じること」という古い格言は、もはや安全ではありません。照合が答えです。

問題3. ある投稿に衝撃的な写真とともに「いまこの都市で起きている惨事」という説明が付いています。写真そのものは本物のように見えます。どう確認しますか。

ア. 写真が鮮明だから説明も事実だろうと信じる。 イ. 写真が本物かどうかより、その写真が本当にこの出来事のものかを疑い、画像の元の出所と撮影時点をさかのぼって追う。 ウ. ひどいことなので、まず広く知らせる。

問題4. 自分がふだん支持する立場とぴったり合う統計が目に入ります。とても気に入ります。どんな姿勢が分別あるでしょうか。

ア. 自分の考えと同じなので、疑う必要なく受け入れて共有する。 イ. むしろ自分の気に入るという事実そのものを警戒の合図とし、同じ基準で出所と根拠を点検する。 ウ. 反対陣営が嫌がるだろうから、もっと速く広める。

問題5. ある主張が複数のアカウントから同じ文句で繰り返し上がってきます。何度も見るうちに、だんだんもっともらしく感じられます。このとき最も警戒すべきは？

ア. いくつもの場所で見えるので、事実の可能性が高いと判断する。 イ. 繰り返しの露出が生み出す「馴染み＝真実」の錯覚（真実性の錯覚効果）を意識し、露出回数ではなく根拠の質で判断する。 ウ. 同じ文句で覚えやすいので、そのまま移す。

答え：問題3、4、5、いずれも「イ」です。

問題3の要点は、「本物の写真」と「本物の文脈」は別の問題だという点です。フェイクニュースで最もよくある手口の一つが、実際に撮られた写真をまったく別の出来事に貼ることです。写真の真偽より、その写真がこの出来事のものかを、SIFTの最後の段階で追うべきです。

問題4の要点は、確証バイアスを自分自身に適用することです。自分の好みにぴったり合う情報ほど、私たちは検証を飛ばしたくなります。分別ある市民は、反対陣営の主張だけでなく、自分の陣営に有利な主張にも同じ物差しを当てます。

問題5の要点は、繰り返しが真実の証拠ではないという点です。同じ言葉が何度も見えるということは、ただ誰かがその言葉を何度も広めた、という意味にすぎません。馴染みが与える信頼感を事実と混同しないことが核心です。

みんなの責任をめぐる論争：表現の自由とプラットフォームの役割

フェイクニュースを語るとき、欠かせない熱い論争があります。偽情報が広がるのを防ぐために、ソーシャルメディアのプラットフォームはコンテンツをどれだけ管理すべきか。この問題には真剣に対立する二つの立場があり、どちらか一方が明らかに正しいとは言いにくいものです。両方を公正に見てみましょう。

積極的な管理が必要だという立場

一方は、プラットフォームが単なる掲示板ではなく、何をより多く見せるかを決める強力な編集者だと見ます。アルゴリズムが扇情的な嘘をより広く広めて利益を得るなら、それによる社会的な害、たとえば健康を損なう医療の偽情報や暴力の扇動について、責任を負うべきだというのです。この観点では、適切なコンテンツ管理（モデレーション）は検閲ではなく、公的な空間を安全に保つ最小限の清掃に近いものです。

表現の自由を優先すべきだという立場

もう一方は、何が「嘘」かを判断する権限を、少数の企業や政府に委ねることのほうが危険だと見ます。今日「嘘」と分類された主張が明日には事実だと判明する場合もあり、権力者が不都合な真実を「嘘」と烙印を押して沈黙させることもありえます。歴史的に、表現の自由は少数意見や批判を守るために、苦労して積み上げてきた価値です。この観点では、嘘への解決策は、より多くの検閲ではなく、より多くの議論、つまり「より良い言葉で悪い言葉に勝つ」という原則であるべきだ、とします。

コンテンツ管理をめぐる論争の二つの軸

  ［積極的な管理を重視］          ［表現の自由を重視］
  嘘の害の防止                    検閲権力の危険を警戒
  プラットフォームの社会的責任    判断主体の偏りへの懸念
  弱い立場の人の保護              公開の議論で解決
       \                              /
        \                            /
         実際の政策は、その間のどこかで
         均衡点を見つけなければならない

現実の解決策はたいてい、二つの極端のあいだのどこかにあります。明白な詐欺や暴力の扇動のように合意された害は扱いつつ、政治的な見解の正しさ・誤りをむやみに裁断しない慎重さ。そして、何をなぜ削除したのかを透明に明らかにし、異議を申し立てる通路を開いておく手続き。完璧な答えはありませんが、両方の懸念をともに真剣に受け止める態度が出発点です。

ここで一つ、はっきりさせておく必要があります。偽情報は特定の陣営の専有物ではありません。ある人々は「偽りは主に反対側が広める」と信じたがりますが、実際の研究は、偽情報が政治的スペクトルのあらゆる地点で、左も右も問わず作られ広がることを示しています。テーマや時期によってどちらかがより目立つことはあっても、「自分の側は真実、あちら側は偽り」という図式そのものが、もう一つの確証バイアスです。

この点が重要なのは、コンテンツ管理をめぐる論争がしばしば陣営争いに変質するからです。一方は「管理」を自分の側の口封じだと疑い、もう一方は「自由」を偽りの放置の口実だと疑います。しかし偽りが皆の問題なら、その解決策を考える場も、どちらか一つの陣営のものにはなりえません。正直な出発点は、自分が同意する偽りには寛大で、自分が嫌う偽りにだけ厳しくなろうとする心を、自ら警戒することです。

偽りの経済学：なぜ誰かは絶えず偽りを作るのか

偽情報をただ「誤った信念」の問題としてのみ見れば、半分しか見ていないことになります。少なからぬ偽りは、意図的に、それも明確な利益を狙って生産されます。その動機を知れば、私たちが何を警戒すべきかがより鮮明になります。

最も多い動機はお金です。刺激的な見出しでクリックを誘えば、広告収入がついてきます。2016年ごろ、東欧の小さな都市で十代の若者たちが政治フェイクニュースのサイトを運営し、広告費を稼いだという報道が話題になったことがあります。彼らは特定の陣営を支持してではなく、どちらの話がよりよく売れるかを見て偽りを作りました。偽りが信念ではなく事業だったわけです。200年前の月の大ペテンが新聞部数を狙ったのと、本質は同じです。

二つ目の動機は政治的・イデオロギー的な影響力です。世論を揺さぶったり、特定の集団の信頼を落としたりするために、組織的に偽りを設計し流布するキャンペーンが存在します。こうした作業はしばしば、一つ二つの偽りを信じさせることにとどまらず、社会全体に「何も信じられない」という空気を広めることを、より大きな目標とします。

三つ目の動機は意外にも素朴です。関心と所属感です。衝撃的な情報を真っ先に伝える人は、チャットでしばし注目されます。自分の側の話を熱心に運ぶ人は、その集団の中で認められます。こうして偽りは、お金や権力だけでなく、人間の社会的欲求さえ燃料にします。

この経済学が与える教訓は、偽りに出会ったとき「誰が、なぜこれを広めて得をするのか」を一度問うてみることが、強力な防御になるという点です。動機をたどっていくと、もっともらしく見えた情報の出所が、意外に早く正体を現すことがよくあります。

チャットの中の偽り：閉じた空間という死角

フェイクニュースというと、ふつう公開されたソーシャルメディアのフィードを思い浮かべます。しかし今日、偽りが最も粘り強く生き残る場所は、もしかすると家族や友人が集まる私的なチャットかもしれません。

公開フィードの偽りには、まだ反論が付く余地があります。誰かがコメントで「これは事実ではない」と指摘し、ファクトチェックのリンクが付くこともあります。しかし閉じたチャットでは、そうした外部の訂正がほとんど入ってきません。そのうえ、メッセージを伝えた人が信頼する家族や友人であるため、私たちはその内容を一段と信じやすくなります。出所が誰かよりも「誰が送ったか」が信頼を左右するのです。

ここにもう一つの特性が加わります。私的な空間で、信頼する人の誤りを公に指摘するのは社会的に負担です。そのため多くの人が疑わしい情報を見ても黙り、その沈黙は偽りを黙認しているように映ります。偽りは、この気まずさの隙間に割り込み、静かにとどまります。

では、どうすればよいのでしょうか。大層な論争を繰り広げる必要はありません。「心配になって少し調べてみたんだけど、これは事実とちょっと違うみたいです」と、やわらかく、そして人ではなく情報に向けて疑問を示すだけで十分です。丁寧なひとことが、閉じた空間に小さな換気口を開けることになります。

批判的思考：疑いと冷笑のあいだで

ここまで読んで「では何も信じてはいけないのか」と感じたなら、それは危険な結論です。すべてを疑う冷笑主義は、何も疑わない盲信と同じくらい有害です。あらゆる情報を等しく疑わしいとみなした瞬間、私たちは信頼できる出所とでたらめな出所を区別する能力そのものを失うからです。実際、一部の偽情報キャンペーンの目標は、特定の嘘を信じさせることではなく、「何も分からない」という無力感と冷笑を広めることです。

批判的思考（critical thinking）とは、すべてを拒むことではなく、証拠の重みをはかる技術です。次の小さな問いが助けになります。

  • この主張の根拠は何か。出所は確認できるか。
  • この情報は、私の強い感情を狙っていないか。
  • 同じ事柄を、独立した別の出所も似たように伝えているか。
  • 私がこの情報を信じたい理由が、それが事実だという証拠より先に立っていないか。
  • 私は、反対の証拠が出れば考えを変える準備ができているか。

最後の問いがとくに重要です。どんな証拠でも考えを変えないという態度は、信念ではなく閉じた扉です。真実を求める人の印は、自分が間違っている可能性をつねに開いておく謙虚さにあります。

情報衛生：日常に植える小さな習慣たち

知識だけでは行動は変わりません。分別もまた、結局は毎日の習慣として体に刻まれてこそ、はじめて力を発揮します。大層な決心の代わりに、今日から試してみる価値のある小さな実践を集めてみました。これを「情報衛生（information hygiene）」と呼んでもよいでしょう。手を洗うように、情報を扱う衛生習慣です。

  • 共有前の10秒ルール。何かを共有したい衝動が湧いたら、まず十まで数えます。その短い間だけでも、感情の自動反応と意識的な判断のあいだに隙間が生まれます。
  • 見出しだけ読んで移さない。多くの偽りは、本文ではなく刺激的な見出しで作られます。少なくとも本文を最後まで読み、可能なら元の記事のリンクまで確認します。
  • 感情の温度計をつける。「これは知らせなければ」「どうしても我慢できない」という強い衝動が起きたとき、その感情そのものを警報とします。最も熱い瞬間が、最もだまされやすい瞬間です。
  • 出所を一度、外から検索する。なじみのない媒体なら、その名前を別に検索して正体を確認する水平読みを、短くてもくぐらせます。
  • 訂正に開いておく。自分が共有した情報が間違いだと分かったら、こっそり消す代わりに訂正を知らせます。訂正を恥じない態度が、むしろ信頼を育てます。
  • 情報の食事を多様に。ときには、ふだん見ない、しかし信頼できる別の視点の媒体をわざと覗いてみます。偏食が体に悪いように、情報の偏食も視野を狭めます。
  • 休むことを知る。絶え間ない速報と刺激に疲れると、判断力も鈍ります。意図的に画面から退く時間が、逆説的により良い分別を助けます。

このリストを一度にすべて守る必要はありません。一つだけ選んで習慣にしても、偽りが私たちを利用するのはずっと難しくなります。分別は生まれつきの才能ではなく、こうした小さな衛生習慣が積み重なって作られる、日常の筋肉です。

偽りを信じる人とどう対話するか

分別は一人だけのことではありません。私たちはしばしば、誤った情報を固く信じる身近な人に向き合います。そんなとき、事実を突きつけて議論に勝とうとすると、先に見た持続的影響効果や確証バイアスのせいで、かえって相手がより防御的になりやすいものです。研究と現場の経験が共通して勧める、いくつかの態度があります。

  • 人と信念を分ける。「それを信じるなんて愚かだ」という言い方は、相手に攻撃と受け取らせます。批判の対象は、人の知能ではなく、特定の情報の根拠であるべきです。
  • 勝とうとするより好奇心を見せる。「なぜそう思うようになったの？ どこで見たの？」という問いは、命令よりずっとやわらかく、相手が自分で出所を振り返るよう導きます。
  • 空いた場所を埋める。ただ「それは間違いだ」ではなく、「実はこうらしいよ」という代わりの説明を一緒に渡します。人は真空を嫌うので、外した信念の場所に何かを補うとき、訂正をより受け入れます。
  • 共通の価値から出発する。「私たち二人とも家族の健康を心配しているよね」のように、共有する目標をまず確認すれば、対話は対決ではなく協力の枠に変わります。
  • 一度にすべて変えようとしない。長く根づいた信念は、ただ一度の対話では変わりません。小さな疑いの種を一つ残すことで十分なときが多いのです。

こうした対話は遅く、即座の勝利を与えません。しかし人の心は、議論に負けて変わるのではなく、安全だと感じたときにはじめて開きます。分別を分かち合うことは、結局、関係を保ちながら真実へ共に歩いていくことなのです。

比べて見る、情報への二つの姿勢

区分受け身の情報消費者能動的な情報市民
共有の前感情のままにすぐ共有いったん止まって出所を確認
出所の確認画面の中にとどまる（垂直読み）別のタブで検証（水平読み）
反対意見避けるか嘲笑するまず聞いて根拠を評価
訂正報道無視するか反発新たな証拠として受け入れる
強い感情すぐに行動の燃料にもう一度疑う合図に
自分の信念決して変えない証拠の前で修正しうる

この表の右側は、大層な専門家の姿ではありません。ただ少しゆっくり、少し正直に情報と向き合う、ふつうの市民の姿にすぎません。

おわりに：何を信じるべきか

最初の問いに戻ります。何を信じるべきか。

この文章は、答えのリストを手渡しませんでした。「この媒体は信じてあの媒体は信じるな」といった案内は、実はもう一つのエコーチェンバーを建てることだからです。代わりにこの文章が伝えたかったのは、態度と技術です。嘘が私たちの善意と感情を燃料にすると理解すること、いったん止まって出所を水平に見る習慣、そして自分が間違いうると認める謙虚さ。

200年前の人々が月のコウモリ人間を信じたことを、私たちは笑います。もしかすると200年後の人々も、今日私たちが何気なく共有した何かを見て笑うかもしれません。その未来の笑いを少しでも減らす道は、結局、私たち一人ひとりが情報の前で、少し慎重に、少し正直になることだけです。

何を信じるべきかへの最も正直な答えは、おそらくこれでしょう。「簡単に信じも、簡単に冷笑もせず、証拠の重みに応じて信じる大きさを調節せよ」。そしてその天秤を扱う方法は、幸い、私たち全員が学べるものです。

考えてみること

  • 最近自分が共有した情報のうち、止まって出所を確認しないまま、感情に引かれて伝えたものはなかったでしょうか。
  • 自分の情報環境は、どれほど多様でしょうか。自分の考えと反対の視点を、最後に真剣に聞いたのはいつでしょうか。
  • 表現の自由とコンテンツ管理のあいだで、自分はどのあたりに立っているでしょうか。その立場の弱点は何でしょうか。
  • どんな証拠が出れば、自分はいまの考えを変えられるでしょうか。もし「どんな証拠でも変えない」なら、それは信念でしょうか、それとも閉じた扉でしょうか。
  • 自分は、自分が嫌う偽りにだけ厳しく、自分が同意する偽りには寛大ではなかったでしょうか。
  • 身近な人が誤った情報を信じるとき、自分はその人に勝とうとしたでしょうか、それとも一緒に真実へ歩こうとしたでしょうか。

参考資料

Discuss on Twitter • View on GitHub