「情報秩序の混乱」とは：7種のミスインフォメーションとディスインフォメーションを理解する

*本記事は、ソーシャルウェブを出どころとするコンテンツをどのように発見し、検証し、公開するかについてさまざまなガイダンスを提供している非営利団体「First Draft（ファースト・ドラフト）」が公開している資料「Understanding Information disorder」を翻訳したものです。オリジナルコンテンツについて、詳しくはクレジットをご覧ください。

偽情報、誤情報、フェイクニュース、ディスインフォメーション、ミスインフォメーション、プロパガンダ…。国内外で偽情報対策が盛んに叫ばれるようになっている昨今、こういった用語を耳にする機会が増えてきました。しかし、いわゆる偽情報やフェイクニュースと呼ばれるような、「正確ではない情報」、「情報の受け手に誤った理解をさせるような情報」というのは、あからさまなフェイク（＝虚偽）のコンテンツだけではありません。本物の情報や統計値などを使用して信憑性を持たせつつ、構成を変えるなどしてミスリーディングな内容に仕立て上げたコンテンツ、実在するニュースサイトや記者になりすましたコンテンツ、「風刺」という体裁を取りながらもオーディエンスを誤解させるような情報を暗に発するコンテンツなど、実際にはそのバリエーションはさまざまです。これらをすべて「フェイクニュース」や「偽情報」の一言で済ますには無理があると言えます。

そこで今回ご紹介したいのが、ファースト・ドラフトという非営利団体が「Understanding Information disorder」という資料の中で提唱した、「情報秩序の混乱」という考え方です。この資料では、ディスインフォメーションやミスインフォメーションが以下7種類に分類され、これらがネット上に出回る現状を「情報秩序の混乱」と呼んでいます。

①風刺・パロディ

② 誤った関連付け

③ミスリーディング（誤解を招く）コンテンツ

④誤った文脈

⑤なりすましコンテンツ

⑥改ざんされたコンテンツ

⑦捏造されたコンテンツ

本記事では同資料の日本語訳をお届けしますので、それぞれのディスインフォメーション/ミスインフォメーションについて知り、オーディエンスを騙したりミスリードしたりするコンテンツにはどんなものがあるのかを理解する上で参考にしていただけると幸いです。

以下、翻訳です。

イントロダクション

「情報秩序の混乱期」に生きる

世界が複雑につながり合い、クリックやスワイプで必要な情報に何でもアクセスできるハイパーコネクテッドなコミュニティでは、ポジティブな変化しか生まれないはず。デジタル時代の将来性によって、私たちはそう信じ込んでいました。しかしこの理想的と言えるビジョンは、私たちの情報エコシステムが危険なまでに汚染されていて、人と人をつなぐどころか分断しているという認識へ急速に置き換えられています。

専門メディアに扮した偽のWebサイトからは、極めて党派性の強いミスリーディングなコンテンツが吐き出されています。Instagramではなりすましアカウントから侮辱的なミームが拡散され、ソーシャルメディアプラットフォームではクリック代行業者がトレンドとおすすめを操作しています。そのほかにも、さまざまなコミュニティで現実の抗議活動を扇動するために外国工作員がアメリカ人を装う一方で、それぞれの志向に合わせたメッセージや広告で有権者を狙うマイクロターゲティングのために大量収集された個人データが使われています。さらに4chanやRedditなどの陰謀コミュニティは、ジャーナリストを騙して嘘やデマを報道させようと躍起になっています。

これらのすべてを「フェイクニュース」の一言で片付けることはできません。こういったコンテンツの大半はフェイクですらなく、そのほとんどが事実でありながらも、前後関係や背後情報を無視した使い方がされています。そして事実に基づいた虚偽のほうが信じられ、共有される可能性が高いことを知る者たちによって、これが武器化されているのです。また、その多くは「ニュース」でもありません。昔ながらの噂話や、無責任に拡散されるミーム、やらせ動画、ターゲットを極めて絞り込んだ「有害広告」であり、新しく撮影したものだと偽って再びシェアされる過去の画像なのです。

「フェイクニュース」という言葉では、私たちに突きつけられた新たな現実を正しく理解することができません。その事実こそ、この言葉を使うべきではないと考える理由の1つです。さらにもう1つ、それ以上に大きな理由があります。プロフェッショナルなジャーナリズムの信用を傷つけ、攻撃するために、世界中の政治家が軽々しくこの言葉を使っているからです。「フェイクニュース」という言葉自体、今ではほとんど意味がなくなっており、視聴者がこれをCNNやBBCのような既存の報道機関と結びつけるようになっています。言葉は重要です。そしてだからこそ、ジャーナリストがレポートに「フェイクニュース」という用語を使えば、何の役にも立たない、ますます危険になりつつあるこの表現を正当なものと思わせることに拍車がかかってしまいます。

ディスインフォメーションの発信者側はコンテンツに正確な情報を使いつつ、誤解を招くような形で新たに再構成すれば、AIシステムに検知されにくくなることを学んでいる。

ファースト・ドラフトでは、プロパガンダ、嘘、陰謀、噂、デマ、極めて党派性の強いコンテンツ、虚偽、操作されたメディアなど、コンテンツの種類に最も適した用語を使うことを推奨しています。また、これ以外にも「ディスインフォメーション」「ミスインフォメーション」「マルインフォメーション」といった言葉を意図的に使っており、これらを総じて「情報秩序の混乱」と呼んでいます。

ディスインフォメーション、ミスインフォメーション、マルインフォメーション

「ディスインフォメーション」とは、意図的に歪められ、何らかの害を及ぼすことを目的としたコンテンツを指します。その動機づけには、金銭を獲得すること、外国または自国で政治的影響力を持つこと、あるいは単に問題を引き起こすことという、3つの要素があります。

ディスインフォメーションが共有されると、そのほとんどが「ミスインフォメーション」に変化します。正確ではないコンテンツもミスインフォメーションに含まれますが、これを共有する人はそれが間違っている、あるいは誤解を招くものであることに気づいていません。そして多くの場合、ミスインフォメーションはそれが誤った情報であると認識していない人に拾われ、誰かの役に立つと信じてその人のネットワークで共有されます。

ミスインフォメーションは、社会心理学的要因に突き動かされる形で共有されます。オンラインの世界で、人々はそれぞれのアイデンティティに即した行動を取り、自分の「仲間たち」、つまり同じ政党の支持者や、子どもにワクチンを接種させない保護者、気候変動を懸念する活動家、特定の宗教・人種・民族グループに属する人とのつながりを実感したいと考えるものです。

3つ目のカテゴリーは「マルインフォメーション」です。これは情報自体が正しくても、何らかの害を与える目的で共有される情報を意味します。ロシアの工作員が米民主党全国委員会とヒラリー・クリントン陣営のEメールをハッキングし、同氏の評判を落とすために特定の詳細情報をリークした事例は、マルインフォメーションの一例に挙げられます。

2016年に確認されたこの技法については、そこからさらに進化していることを認識する必要があります。前後関係や背景情報が都合よく武器として利用され、本物のコンテンツでも内容が歪められ、再構成されているものが使われるケースがますます増えています。先に述べた通り、人々を納得させ、心に訴えかけるという目的においては、中心部分に一握りの事実を含んだ情報のほうがはるかに大きな成果を上げています。

この進化は部分的に、検索エンジンやソーシャルメディアの運営企業側がユーザー操作の試みを極めて厳格に取り締まるようになったことへの反動でもあります。各企業が偽アカウントを閉鎖する権限を強め、偽コンテンツの規制を大幅に強化（例：Facebookはサードパーティのファクトチェックプログラムと連携）するにつれ、ディスインフォメーションの発信者側はコンテンツに正確な情報を使いつつ、誤解を招くような形で新たに再構成すれば、AIシステムに検知されにくくなることを学びました。場合によって、こういった情報はファクトチェックの対象外とみなされることもあります。

したがって、私たちが目にする情報の多くは、このマルインフォメーションというカテゴリーに、つまり「正確だが害を及ぼすために流される情報」に分類される可能性があります。

7種類のミスインフォメーションとディスインフォメーション

図1：7タイプのミス/ディスインフォメーションを示したダイヤグラム。左上から「風刺・パロディ」、「誤った関連付け」、「ミスリーディングコンテンツ」、「誤った文脈」、「なりすましコンテンツ」、「改ざんされたコンテンツ」、「捏造されたコンテンツ」

「情報秩序の混乱」は前述の3タイプに大別されますが、このエコシステムの複雑さを理解していただくため、さらに細かく7つのカテゴリーに分けて言及するようにしています。

「フェイクニュース」という言葉に頼らずコミュニケートできるよう、ファースト・ドラフトはこの分類法を2017年2月に初めて発表しました。これは現在でも、さまざまなケースを考察するための有用な方法として機能しています。

先ほどのダイヤグラム（図1）が示すように、「風刺」から始まるそれぞれのカテゴリーを明確に線引きできるわけではありません。これにはさまざまな意見があるかもしれませんし、クリックベイトもしくは誤解を招くコンテンツ、誤った文脈で事実を再構成したコンテンツ、ある組織のロゴや影響力のあるものの名前が虚偽情報に結びついたなりすましコンテンツ、そして操作され、最終的に捏造されたコンテンツまで、本レポートを通じて議論する多くの問題の1つでもあります。ここからはそれぞれのカテゴリーを詳しく説明しながら、世界各地の選挙活動やニュース報道の実例を基に「情報秩序の混乱」がどれほど有害であるかを明らかにします。

①風刺・パロディ

2017年初頭にこれらのカテゴリーを初めて発表した際、風刺を含めるかどうかで異論が相次ぎました。確かに、知的な風刺や効果的なパロディは、芸術表現の一形態とみなされるべきものかもしれません。ただ、この「情報秩序の混乱期」における課題は、風刺がファクトチェッカーに検知されず、噂や陰謀を広める目的で戦略的に使用される部分にあります。真剣に受け止められることを意図したものではないと主張するだけでどんな非難でも退けられるということを、発信者の側もわかっているのです。

「風刺」と呼ばれるものはますます憎悪に満ち、人々を二極化させ、対立を煽るようになっている。

こういった方法で使われる風刺が非常に強力なツールである理由は何か。それは多くの場合、風刺を最初に見た人は風刺を風刺として受け止めるのですが、そこからさらに共有されるにつれ、元々の発信者とのつながりが失われ、風刺であることを理解できない人が増えていくからです。

ソーシャルメディアには、ヒューリスティック（概ね正しい答えを導き出すための経験則）がありません。新聞なら自分がどこを見ているのか、視覚を頼りに論説欄なのか漫画を読んでいるのかすぐにわかりますが、オンラインの世界は違います。

例えば、米国にはThe Onionという非常に人気の高い風刺サイトがあります。しかし、これ以外にどんなサイトが知られているでしょうか？ Wikipedia英語版の「Satirical websites／風刺サイト」では、2020年9月の時点で60サイトがリストアップされており、そのうち21件が米国のものでした。FacebookやInstagramでリシェアされている投稿を見ると、そのような文脈上の手がかりはほとんど記されていません。そして、これらが拡散されるとスクリーンショットやミームに変わり、最初の発信者との関連性が瞬時に失われてしまうことが多々あります。

フランスでは2017年の選挙に先立ち、コンテンツを「風刺」に分類する手法が意図的な戦術になっていることが判明しました。ジャーナリストのAdrien Sénécat氏が日刊紙『ル・モンド』に掲載した一例では、この方法で風刺を利用しようとする人々の段階的アプローチが次のように記されています。

フェーズ1：風刺サイトのLe Gorafiが、フランス大統領候補（当時）のエマニュエル・マクロン氏は、貧しい人々と握手をすると自分が汚れたように感じていると「報じる」。これは、普段から世間の実情を把握していないエリート主義者と見なされているマクロン氏に対する一種の攻撃として作用した。

フェーズ2：Facebookの極めて党派性の強いページがこの「主張」を利用し、工場を訪れたマクロン氏が手を拭っている映像を含む新たなレポート動画を作る。

フェーズ3：この動画が一気に拡散し、別の工場で働く作業員が「労働階級者の汚れた手」でマクロンと握手を試みる。このニュースは長らく話題となった。

ブラジルでも2018年10月の総選挙中に同じような状況が確認されました。実際、ジャーナリストのEthel Rudnitzki氏は自身の記事において、ブラジルで報道機関や著名記者の名前をもじったTwitter（現X）アカウントが急増していることを考察しています。各アカウントのプロフィールにはパロディであることが明記されていたにせよ、これらのアカウントはRudnitzki氏が指摘したように、誤解を招く虚偽コンテンツの拡散に使われていました。

2019年には米国でも、ジョー・バイデン現大統領が2020年大統領選の民主党候補者選挙に向けて活動していた際、対立政党である共和党の政治工作員によってバイデン陣営の公式Webサイトに見せかけたパロディサイトが作られています。このサイトは「joebiden.info」というURLを持ち、現大統領が選挙運動を開始した2019年4月の時点ではGoogleで公式サイト「joebiden.com」より上位にインデックスされていました。この工作員は過去にドナルド・トランプ前大統領のコンテンツ制作に携わったことがあるものの、トランプ陣営のためにこのサイトを作成したわけではないと弁明しています。

このパロディサイトは冒頭に「アメリカの諸問題に立ち向かう準備を整え、ジョーおじさんが帰ってくる！」という一文を掲げ、若い女性や少女にキスし、ハグするバイデン候補の画像をふんだんに使用。ページの最後に「本サイトは政治的論評を行う場であり、大統領選に臨むジョー・バイデン候補のWebサイトのパロディ版です。ジョー・バイデン候補の公式Webサイトではなく、娯楽と政治的論評のみを目的としています」と記されていました。

風刺とパロディを巡る複雑さと緊張は、Babylon Bee（キャッチフレーズは「キリスト教ニュース風刺の信頼できる情報源」）とSnopes（定評ある事実究明サイト）による公開オンライン論争でも部分的に顕在化しています。SnopesはBablyon Beeの主張を何度か「事実検証」していますが、最初にファクトチェックを行った記事は「CNN、公開前のニュースを遠心脱水すべく業務用サイズの洗濯機を購入」というものでした。

Snopesはその後、Babylon Beeに掲載された「ジョージア州議員、チックフィレイ従業員に『国へ帰れ』との暴言浴びたと主張」という記事を検証。ここではトランプ前大統領が自身に批判的な新任女性議員4人に「国へ帰ったらどうだ」とツイートした一件を踏まえて、この風刺サイトが読者を欺くためにジョークをひねり出している可能性があると示唆しています。

バイデン陣営の公式サイトと偽サイト（2019年8月14日に保存）を初見で判別するのはほぼ不可能。スクリーンショット／テキストオーバーレイ：ファースト・ドラフト

米国の日刊紙『ワシントン・ポスト』は2018年11月、デマ発信者として有名なChristopher Blair氏のプロフィールを掲載した際に、こうした風刺にまつわる問題の複雑さについて説明しています。

Blair氏は2016年、極右派の過激な思想を揶揄するリベラル派の友人たちと冗談を楽しむ場として、風刺的なページをFacebookに開設しました。同氏はそのページが風刺目的であることを明記するために細心の注意を払い、「このページの内容に真実は一切含まれていません」など14の免責事項を記しました。

しかし、このページは大きな反響を呼び続けることになります。Blair氏自身が記していたように、「どれほど人種差別的で偏屈かつ攻撃的になり、明らかに間違ったことを書いても、読者は必ず戻ってくる」のです。「風刺」と呼ばれるものはますます憎悪に満ち、人々を二極化させ、対立を煽るようになっています。

風刺をカテゴリーの1つとすることには異論があるかもしれませんが、その一方で、これらの例が示すように、情報がどのように歪められて再構成され得るか、またこれを受け取る側にどんな影響が及び得るかをめぐる議論の論点として風刺が含められるようになった根拠はいくつも存在します。

②誤った関連付け

「情報秩序の混乱」に関する議論の一環として、報道業界は自らに求められる高い基準を満たさないコンテンツを作っていることや、その結果として各方面から攻撃されるようになったことについて、業界としての役割を認識する必要があります。これではジャーナリストが「国民の敵」とみなされることになりかねませんし、実際にそうなりつつあります。

こういった雑音を増幅するばかりか、さらなる混乱を引き起こし、「第四の権力」である言論界への信頼を最終的に損ないかねない報道機関の慣行にも焦点を当ててみましょう。その1つが「クリックベイト」コンテンツで、筆者はこれを「誤った関連付け」と呼んでいます。報道機関がクリック数を増やすためにセンセーショナルな表現を、つまりそのサイトにアクセスした読者を欺くような言葉を使うことは、ある種の公害なのです。

「こうした技法で短期的にトラフィックを増やすことはできても、人々とニュースの関係性には間違いなくそれ以上に長期的な影響が及ぶ」

読者側がこの慣行に慣れてしまえば、その弊害は最小限で済むと主張することもできますが、手法としては「情報秩序の混乱」の一形態とみなされるべきものです。確かに、私たちは注目を多く集めた者が勝つ時代に生きており、報道機関も生き残りを懸けてもがいています。一握りの定期購読者に読まれるのか、あるいはより広い読者の目に留まるのか、その違いとなるのは多くの場合、見出しのインパクトの強さなのです。

2014年、Facebookはニュースフィードのアルゴリズムを変更し、特にクリックベイトの見出しを使ったサイトのランクを下げました。2019年にも行われたアップデートでは、Facebookが調査結果を利用して、ユーザーにとってより「価値がある」と判断したリンクを含む投稿を優先的に表示する方法について詳述しています。2016年にEngaging News Projectが行った調査では、「読者があるニュースの題材に多かれ少なかれ好意的に反応し、将来その製品に関心を持つかどうかについて、見出しの種類と見出しのソースが影響を及ぼす可能性がある」ことが実証されました。

トラフィックやクリックが必要という事実は、今後もクリックベイトの技法が廃れる見込みはないことを意味しています。しかし偏見に満ち、読者の感情を揺さぶるような言葉を使ってトラフィックを増やす方法は、これらの研究で説明されているような、もっと大きな問題に直結します。こうした技法で短期的にトラフィックを増やすことはできても、人々とニュースの関係性には間違いなくそれ以上に長期的な影響が及ぶことになるのです。

③ミスリーディング（誤解を招く）コンテンツ

誤解を招く情報は決して歴史が浅いものではなく、さまざまな方法で使われています。見出しで記事の趣旨を変えたり、より広範な要点を裏付けるために引用を断片的に使ったり、あるいは特定の立場に沿う形で数値を並べたり、主張が損なわれないように情報を取捨選択したりすることは、たとえ公正性に問題があるとしても、すべて技法として認められています。誰でも何かを主張する際、その主張全体を裏付けるコンテンツを引っ張り出してくるものです。

数年前、ある大手テクノロジー企業のエンジニアに「ミスリーディング」について定義してほしいと頼まれました。私は瞬間的に思考が停止してしまい、この言葉を定義しようとするたびに「ええと、ご存知ですよね、『ミスリードするもの』ですよ」と言いそうになりました。

背景情報や微妙な意味合い、そして引用部分がどれだけ省略されているのか。統計はどの程度改ざんされていて、画像もその意味が変わるほど大幅にトリミングされているのか。そういったことが重要なため、「ミスリーディング」を正確に定義することは困難です。

この複雑さは、この種のコンテンツを人工知能に判定させる試みの大きな障壁となっています。

だからこそ、先ほどのエンジニアも明確な定義を求めたのです。コンピューターが理解できるのは「True（真）」と「False（偽）」であって、「ミスリーディング」は明確に線引きできないことばかり。コンピューターはコンテンツの素材（引用、統計、画像）を理解し、それが断片であることを認識した上で、その断片が素材の意味を大きく変えているかどうかを解読しなければなりません。

センセーショナルで思想や主義の極端な偏重が見受けられるコンテンツと、問題の趣旨を微妙にすり替え、画像の解釈に影響を与えるかもしれない、わずかに誤解を招くようなキャプションの間には、明らかに大きな隔たりがあります。とはいえ、メディアへの信頼は急速に低下しており、これまで無害と思われていたミスリーディングコンテンツに対する認識も改めるべきでしょう。

2018年9月に米ナイト財団と調査会社のギャラップ社が行った調査では、米国国民の大半がメディアに対する信頼を失くしつつあり、その多くが正確性や偏見を理由に挙げていることが判明しています。

画像入手元：ナイト財団（2018年9月）ニュースメディアの信頼に関する指標

ミスリーディングコンテンツにはさまざまな形態がありますが、この『ニューヨーク・タイムズ』紙が掲載した例は、図表などのビジュアルも同じく誤解を招く恐れがあることを示しています。下図は米国の歴代大統領が承認した連邦控訴裁判判事の人数を表していますが、バラク・オバマ元大統領（15人）とドナルド・トランプ前大統領（24人）の木槌を比較すると、人数に対して持ち手の長さの「縮尺」が同じではありません。

大統領に承認された控訴裁判判事の人数を比較したこの図は、木槌の持ち手が一定の縮尺で描かれていないために誤解を招くものになっている。トランプ前大統領の木槌は、オバマ元大統領の2倍以下になっていなければならないはず。画像入手元：「How the Trump Administration Is Remaking the Courts（トランプ政権はどのようにして司法の場を作り替えたのか）」. ニューヨーク・タイムズ. 2018-08-22（保存  2019-09-06、筆者によるスクリーンショット）

④誤った文脈

偽情報ではないものの、危険な形に再構成されているコンテンツがこのカテゴリーに分類されます。この手法における最も強烈な事例の1つは、2017年にロンドン中心部で発生した、イスラム教関連のテロ攻撃の直後に公開された投稿です。ウェストミンスター橋上の歩道に乗り上げた車が暴走し、さらに英国国会議事堂の防護策に突っ込んだこの事件では、少なくとも50人が負傷、5人が死亡しました。車はその後、英議会の柵に衝突しました。

このテロ攻撃の後、あるツイートが広く拡散されました。添えられた画像は本物であり、フェイクではありません。このツイートは広く共有され、#banislam（イスラム教徒を排除しろ、の意）など多数のハッシュタグとともに反イスラム的な思想を助長する内容になっていました。

写真に写っていた女性は後にインタビューを受け、心的外傷を受けたことを明らかにしました。この女性は家族に電話で連絡しているところであって、被害者に配慮して視線を外していたのです。今となっては、このTexas Lone Starというアカウントがロシアの偽情報キャンペーンに関与していること、そしてその後に閉鎖されたことがわかっています。

ロシアの偽情報キャンペーンに関連するアカウントにより、このムスリムの女性が被害者に無関心であることを示唆する投稿が行われましたが、実際は、被害者に配慮して目をそらしていました。このアカウントはもう削除されていますが、『ガーディアン』でこの話題が報じられています。

ロシアの偽情報キャンペーンに関連するアカウントにより、写真に写ったムスリムの女性が被害者に無関心であることを示唆する投稿が行われた。しかし実際は、被害者に配慮して視線を外していた。（保存  2019-09-06）

もう1つの深刻な物議を醸した事例は、ケージに入れられた子供の写真です。この写真は2018年の夏に出回りました。

ケージに入れられた子供が写っているこの写真は、移民政策に対する抗議活動の中でパフォーマンスとして撮影された演出写真。（保存 2019-09-06、筆者によるスクリーンショット）

この投稿は2万回以上リツイートされ、Facebook上の同様の投稿も1万回以上シェアされました。この写真は、投稿の2日前にダラス市庁舎で行われた移民政策に対する抗議活動の一環として演出された一幕を写したものです。これもまた、画像自体は本物でありながら、撮影された当時の状況が違う形で捉えられ、歪められてしまった事例の一つだと言えます。しかしこの時、投稿作成者は、画像を共有する際にこの写真が抗議活動の中で「創られた」場面を写したものであることを認識していませんでした。つまりこれはディスインフォメーションでなく、ミスインフォメーションの事例です。

同様の例に、米国の中間選挙前のものがあり、この時期には中米諸国から米国へ移動する移民「キャラバン」をめぐって非常に多くの報道が行われています。共有された画像は本物でしたが、内容はミスリードするような構成になっていました。その1つが、Facebookにアップされたこの投稿です。この画像は2015年に撮影されたもので、実際にはギリシャのレスボス島にいるシリア難民を写したものでした。

この写真は米国の移民「キャラバン」に関するコンテクストのもと投稿されたが、実際には2015年に撮影されたもので、写真に写っているのはギリシャのレスボス島にいるシリア難民。オリジナル画像は撮影者によってTwitter（現X）で共有された。（保存  2019-09-06、スクリーンショット：筆者）

誤った文脈に関する別の事例として、2018年に行われた中間選挙の投票日に出回ったツイートがあります。これはボタンを押すと違う候補者の名前がハイライトされる、壊れた投票機の本物の動画に基づいて作成されました。この機械は使用が中止され、撮影者は正しく動作する機械で投票し直すことができています。しかし、Qアノンの陰謀論に言及したユーザー名を持つ人物が投稿したこのツイートは、その動画を使って「これはターゲットを絞った不正投票に関するさらに深刻な例である」という主張を推し進めました。

広く行われている不正投票の証拠として、あるユーザーがこの壊れた投票機の映像を拡散した。実際にはこの機械は使用が中止され、動画の撮影者は投票し直すことができている。このツイートは削除されたが、BuzzFeedがこれについて報道した。（保存  2019-09-06、BuzzFeedのJane Lytvynenko氏によるスクリーンショット）

⑤なりすましコンテンツ

先述したように、人間の脳はある情報について、その情報の信憑性のようなものを把握するために、常にヒューリスティックを探しています。ヒューリスティックとは、私たちが物事を理解しようとする際に用いるメンタルショートカット（※）のことです。例えば、自分にとってすでに馴染みのあるブランドが目に入れば、それは非常に強力なヒューリスティックとして働きます。なりすましコンテンツ（よく知られたロゴが使われていたり、著名な人物やジャーナリストを出どころとするニュースが使われていたりする誤ったコンテンツ、あるいはミスリーディングコンテンツ）が増加しているのは、このヒューリスティックがあるためです。

（※訳者注：ヒューリスティックとは、経験則や先入観に基づいて概ね正しいであろうと思われる答えを導き出す思考法のことを言います。さまざまな情報を集めた上でそれらを吟味して論理的に判断するのではなく、直感的に素早く判断を行うものであるため、「精神的な近道」という意味で「メンタルショートカット」と表現されることがあります）

危害を加えることを意図したなりすましコンテンツを筆者が初めて目にしたのは、国連難民機関のUNHCRで働いていた2014年のことです。私たちはいつも、Facebookに上がってくる数々の詐欺的な投稿に対応していました。これらの投稿では密入国あっせん組織がUNHCRのロゴを使ったページを作成していて、美しいヨットの画像を載せ、「こういった船で地中海を安全に航行するために、こちらへ連絡して座席を確保してください」と難民に伝える内容になっています。

それ以来私たちは、権威あるニュースブランドのロゴを使った誤ったコンテンツおよび誤解を招くコンテンツを広める、偽情報の作成者に関する事例を目にし続けています。ここでは、このような方法でBBCが利用されたケースを2件取り上げます。1つは2017年の英国総選挙前に出回ったもので、ソーシャルメディア上に投稿されました。この画像には選挙が2日間かけて行われることや、支持政党に票を投じるにはそれぞれの投票日を間違えないようにと記されています。

英国の選挙について誤解を招く情報を広める、BBCのロゴを使用したなりすましニュースサイト。（保存  2019-09-06、筆者によるスクリーンショット）

もう1つの事例は、2017年のケニア総選挙が始まる前にWhatsAppで拡散されたものです。ここでもBBCのブランドが巧みに利用されていましたが、BBCは事実確認を行い、この動画は自社のものではないと発表しました。

WhatsAppで拡散された2017年のケニア総選挙に関する動画には、BBCが自社番組に使用する帯が使われた。（保存  2019-09-06、筆者によるスクリーンショット）

 より悪質な例は、2016年の米大統領選のさなかに見つかったものです。NowThisのロゴを使った捏造動画が出回ったことから、NowThisもBBCと同様、これが偽物であることを発表する羽目になりました。

メディア会社NowThisのロゴを使い、同社が制作したコンテンツに見せかけたクリントン家に関する偽動画。（保存  2019-09-06、筆者によるスクリーンショット）

2017年には、ベルギー日刊紙『Le Soir』の報道を装った巧妙ななりすましコンテンツが登場しました。その内容は、フランスのマクロン大統領がサウジアラビアから資金援助を受けているというもの。この情報は、すべてのハイパーリンクが『Le Soir』の公式サイトに飛ぶものであったため、本物の情報と見紛うほどでした。

『Le Soir』を装った偽サイトは、すべてのリンクが『Le Soir』の公式サイトに飛ぶものだったため、とりわけ巧妙だった。この偽サイトはテイクダウンされたが、オリジナルの報道はクロスチェックのフランス版Webサイトで閲覧できる。（保存  2019-09-06）

 2018年2月14日に米フロリダ州パークランドで発生した銃撃事件は、なりすましコンテンツというカテゴリーをめぐって、非常に憂慮すべき2つの手法の偽情報が登場するきっかけとなりました。その1つは米国の日刊紙『Miami Herald』のある記事を加工し、（ほかの学校も同じような銃撃の脅迫を受けていたことを示唆する）別の文章を追加。それをスクリーンショットしてSnapchatで拡散するというものです。

何者かが『Miami Herald』の記事に新たな文章を挿入し、ほかの複数の学校も銃撃の脅迫を受けていたかのように装った。しかし実際は脅迫されていない。（保存  2019-09-06、筆者によるスクリーンショット）

もう1つの例にも『Miami Herald』が絡んでおり、このケースでは記者のAlex Harris氏という個人がターゲットになりました。特定のユーザーのハンドルネームを入力すると、そのアカウントの本物の写真とプロフィールを追加できる偽ツイートの生成サイトを使い、何者かが攻撃的なツイートを2件作成。これらはツイートのスクリーンショットとして拡散されました。Harris氏のTwitter（現X）ページを訪問した人なら同氏がそのようなツイートを行っていないことを確認できるのですが、物議を醸す内容の（スクリーンショットとされる）ツイートが消される前は、同氏がこれらのメッセージを投稿していないことを確実に証明する直接的な方法がありませんでした。この事例は、記者がこのような形で攻撃を受ける可能性があることについて注意を促すものでした。

何者かが攻撃的なツイートを2件作成し、これらを記者のAlex Harris氏が投稿したかのように見せかけた際、同氏は自身のアカウントでTwitter（現X）のユーザーに注意を呼びかけたが、これらのツイートが偽物だということを確実に証明する方法がなかった。（保存  2019-09-06、筆者によるスクリーンショット）

なりすましコンテンツに関する別の有名な事例は、2016年の米大統領選前に確認されています。何者かがヒラリー・クリントン氏の公式ロゴを使って以下のような画像を作成し、投票を妨害するために、特定の有色人種のコミュニティにマイクロターゲティングを行う目的でこれを利用しました。

この広告ではヒラリー・クリントン氏の大統領選挙活動は同氏支持者の投票を不当に有利にしていると述べられているが、これはまったくの嘘である。このアカウントはその後削除されたものの、『ワシントン・ポスト』でオリジナル報道と各種リンクを閲覧できる。（保存  2019-09-06、筆者によるスクリーンショット）

携帯電話やEメール、ソーシャルメディアの通知、プッシュ通知など、人々が日常的に取り入れる情報量の多さによって、ヒューリスティックがより大きな影響力を持ち始めていることを忘れてはなりません。だからこそ、本来それほど重大な意味を持つわけではないはずのロゴや免責事項に関する厳密な文言、そして有名記者の署名といったものが、信憑性に関する人々の判断に対して強い影響力を持つのです。

テキストや動画、画像に加えて、人を欺く音声の力についても、これまで以上に意識する必要があります。2018年10月のブラジル大統領選に向けた選挙運動中に、候補者のジャイル・ボルソナロ氏がナイフのようなもので刺される事件がありました。同氏は17日間入院しましたが、その間にある音声メッセージが拡散されています。それはボルソナロ氏とされる人物が看護師を罵倒し、「芝居は終わりだ」と述べている内容のもので、これにより同氏は大統領候補として同情、ひいては支持を集めるために、刺傷事件を演出したのではないかと疑われることになりました。音声のフォレンジック調査に関する専門家が録音された音声を分析した結果、この声はボルソナロ氏本人のものではなく、非常によく似た声を使った「なりすまし」であることが確認されました。

最後に、Snopesが調査した別の手法として、『TheOhio Star』や『The Minnesota Sun』など米国の専門的なローカルニュースサイトに似せて作られたサイトがあります。これらのサイトのネットワークは共和党のコンサルタントによって立ち上げられ、権威ある地元紙のサイトに見えるようになっています。

Star News Digital Mediaネットワークにはこういったサイトが5件存在し、各サイトが支援する共和党の候補者から一部資金提供を受けています。

このサイトはオハイオ州のローカル新聞に似せてあるが、実際には共和党のコンサルタントによって立ち上げられた。（取得  2019-09-06、筆者によるスクリーンショット）

権威ある地元紙を思わせる4件のWebサイトは、共和党のコンサルタントが立ち上げたサイトのネットワークの一部である。（保存  2019-09-06、筆者によるスクリーンショット）

⑥改ざんされたコンテンツ

改ざんされたメディアとは、本物のコンテンツのある部分が改変されたものを指します。多くの場合、写真や動画がこれに関連しています。ここで取り上げるのは2016年の米大統領選前の例で、2つの本物の画像が合成されています。場所はアリゾナ州で、投票のために並んでいる人々の画像は、同年3月に行われた予備選挙時のもの。米移民関税捜査局（ICE）の職員が逮捕を行っている画像は、当時Googleで「ICE 逮捕」というキーワードで画像を検索した際、検索結果の先頭に表示されていたストック画像です。この2枚目の画像をトリミングし、1枚目の画像に重ねたものが選挙前に広く拡散されました。

この2枚の画像が合成され、ICE職員が投票所にいたかのように見せかけている。（保存  2019-10-16）

 改ざんされたコンテンツで注目すべき別の事例に、フロリダ州パークランドの高校で起きた銃乱射事件の生存者、Emma González氏と3人の同級生を対象としたものがあります。彼女たちを表紙に使った雑誌『Teen Vogue』は、González氏が射撃の的（まと）を半分に引き裂く動画を作成し、これをTwitter（現X）上で宣伝しました。

『Teen Vogue』誌の表紙に使われた本物の画像。パークランドの銃乱射事件の生存者Emma González氏が射撃の的を引き裂こうとしている。（保存  2019-09-06）

この動画には手が加えられ、González氏が米合衆国憲法を半分に引き裂いているように見える映像となり、俳優のアダム・ボールドウィン氏やその他の著名人を含む多くの人々にシェアされました。

パークランド銃乱射事件の生存者Emma González氏が、米合衆国憲法を引き裂く内容の偽動画。このツイートは削除されたが、BuzzFeedで報道された。（保存  2019-09-06）

もう1つの悪質な事例は、ナンシー・ペロシ米下院議長が2019年5月に行った演説に関する動画です。この映像は再生速度をわずかに落としてあり、同氏が酒に酔い、呂律が回っていないかのように見せかけるという、シンプルな改ざん動画です。

ナンシー・ペロシ米下院議長の動画。酩酊状態に見せかけるため、再生速度を落としている。本物の映像と比較した動画は『ワシントン・ポスト』が作成。（保存  2019-09-06、筆者によるスクリーンショット）

アルゼンチンでは2019年10月の選挙に先立ち、当時の治安相パトリシア・ブルリッチ氏を対象に同じ手法が使われました。

アルゼンチンの元治安相パトリシア・ブルリッチ氏の動画。これも同氏が酔っているように見せるため、再生速度を落としている。（保存  2019-09-06、筆者によるスクリーンショット）

⑦捏造されたコンテンツ

捏造されたコンテンツとは、100％事実でない内容のものを指します。例えば、2016年の米大統領選の前に、ローマ法王がドナルド・トランプ候補を支持するという偽の主張が拡散され、これが大きな注目を集めました。この見出しはWTOE5というサイトに掲載されたもので、このサイトは同選挙に先立って多数のデマを流していました。

この記事では、ローマ法王がドナルド・トランプ候補の大統領就任を支持したと主張されているが、事実ではない。このサイトはもうオンラインにはないが、Snopesが反証を行った。（保存  2019-09-06、筆者によるスクリーンショット）

2012年の古い動画ですが、悪意を持って作られたものではない動画があります。それは公園で赤ちゃんがワシに連れ去られようとしている瞬間とされる動画で、4千万回以上再生されました。その後この動画は、視聴者をうまく騙すコンテンツを作るという授業の一環で作成されたことが明らかになっています。学生たちはCGで作成されたワシを使っていましたが、ワシの翼が胴体から一瞬だけ離れていたり、映像の背景にどこからともなくワシの影が現れたりしているところなどは、フレーム単位で分析して初めて確認できたほどであり、本物の映像だと信じてしまうほど非常に巧妙な動画でした。

もう1つ、2014年に登場したある動画も、100％事実でないコンテンツの一例です。この動画にはシリアの銃撃戦や、ある少年が1人の少女を助けているところが映されているように見えます。この動画のスチール写真は『ニューヨーク・ポスト』紙の表紙になり、動画の作成者は映画制作者であること、撮影はマルタで行われたこと、セットは映画『グラディエーター』と同じものが使われていることが明らかにされました。制作者側は人々がシリアで起きている惨劇に目を向けることを望んでいたのですが、この行動は人権活動家に「この種の作り話は実際の残虐行為を記録する我々の努力を台無しにするものだ」と非難されました。

そのように重い話を取り上げたものではありませんが、次の動画は最も話題を呼んだ偽動画の1つに挙げられます。これはコメディ・セントラルの番組『ネイサン・フォー・ユー』が作成した動画で、池で溺れるヤギを救う子豚の姿が収められていました。この動画は広く共有され、ニュース番組の最後に心温まる話題を伝えるコーナーで数多く取り上げられることになります。それから半年以上経った後、コメディ・セントラルはこのクリップの作成工程を明かす動画を公開しました。そこに映し出されていたのは、水中にアクリル板の「ボウリングレーン」を作り、子豚がヤギの元へ泳いで行くようダイバーに指示させる様子でした。

溺れるヤギを子豚が助けたかのように見せるため、コメディ・セントラルは水中に手の込んだセットを作成した。人々はこれを本物の映像だと信じ、この動画は広く共有された。画像入手元：コメディ・セントラルのYoutubeチャンネル、保存  2019-09-06、筆者によるスクリーンショット）

最後に未来へ目を向け、人工知能によって作られる最新型の捏造コンテンツ「ディープフェイク」について考えてみましょう。私たちはジョーダン・ピール氏が作成したバラク・オバマ元米大統領のディープフェイクを通じ、どんなことが可能になるのかを目の当たりにしてきました。

最近では、複数のドキュメンタリー作家がマーク・ザッカーバーグ氏の偽動画を作成し、投稿先のInstagramに削除されるかどうかをテストしました。皮肉なことに、Instagramがこの動画はポリシーに違反していないと判断したにもかかわらず、動画にはCBSのロゴが使われていたため、CBSがこれはなりすましのコンテンツだと注意喚起を行うことになりました（チャプター4を参照）。

Facebookはマーク・ザッカーバーグ氏の偽動画を削除しなかったものの、ロゴを使われたCBSがこのコンテンツについて注意を呼びかけた。（保存  2019-09-06）

結論

「情報秩序の混乱」とは複雑なものです。ユーザーの興味を引く扇情的な見出しや、いい加減なキャプション、あるいはおどけた風刺など「低レベルの情報汚染」と表されるものもあれば、高度で、かつ巧妙に人を騙すような内容のものもあります。

こういった課題を理解・説明し、対処していくためには、私たちが使う言葉、つまり用語と定義が重要です。

本ガイドでご説明したように、コンテンツを異なる文脈に当てはめたり、人を騙したり、改ざんを行ったりするために利用する手法には、さまざまな事例があります。そのすべてを一括りにして考えるのではなく、それぞれの手法を個別に分析していくことが、ニュースを報じる側にとっても、そして私たちが直面している課題について視聴者に理解を深めてもらう上でも役に立つのです。

クレジット

著者：Claire Wardle

本記事は、クリエイティブ・コモンズ・ライセンス（表示4.0 国際/CC BY-SA 4.0 DEED）のもとで掲載されています。

• 本記事のオリジナルコンテンツは、ファースト・ドラフトのWebページに2022年9月22日付で掲載されたガイダンス記事「Understanding Information disorder」です（PDF版は2019年10月に公開）。
• ファースト・ドラフトは、ソーシャルウェブを出どころとするコンテンツをどのように発見し、検証し、公開するかについて、実践的かつ倫理的なガイダンスを提供することを目的に、2016年9月から2022年6月にかけて活動していた公益非営利団体です。詳しくはこちらのページをご覧ください。