脅威インテリジェンスにおける偽情報と誤情報

*本記事は、弊社マキナレコードが提携する英Silobreaker社のブログ記事を翻訳したものです。

誤情報とは？

誤情報とは、相手を欺く意図なく拡散される虚偽または不正確な情報を指します。誤情報を共有する者はその情報を正しいものだと信じており、他者をミスリードしようなどとは考えていません。誤情報を共有する人々はそれが正確な情報だと思い込んでおり、ファクトチェックや情報源の検証を行っていない場合がほとんどです。

誤情報を共有してしまう原因は、トピックの理解不足や誤解釈から確証バイアス（自分が持っている信念を支持する情報にばかり目を向けてしまう傾向のこと）に至るまでさまざまです。

誤情報の例には、誤った内容を事実だと思い込んでソーシャルメディア上で共有することや、情報の正確性を検証せずに怪しい情報源を基にした噂を拡散することが挙げられます。

偽情報とは？

偽情報は人々を欺いたり誤解させたりすることを目指して意図的に作られ、拡散されます。これは社会の分断をあおったり、世論に影響を与えたり、特定の考え方を広めたりするなど、悪意のある目的で使われる場合が多く、商売目的で利用されることさえあります。

偽情報の例には、でっち上げられた情報源や偽のニュース記事、ディープフェイクを使って誤った情報を拡散する行為のほか、ソーシャルメディア上でボットを使ったキャンペーンを展開して特定のナラティブを広めるというものがあります。

偽情報は各機関の信頼を損なわせ、ヘイトスピーチを拡散し、さらには選挙にも影響を及ぼす場合があるため、深刻な問題となる可能性があります。

誤情報と偽情報の違い

誤情報と偽情報の主な違いは、その「意図」に関係しています。誤情報は人を欺くことを意図せず広められる、虚偽または不正確な情報のことです。誤情報を共有する者はほとんどの場合、その情報を正しいと信じており、不正確な情報であることに気づいていません。その一方でミスリードしたり、人を騙したりする意図で作り上げられ、作為的に拡散されるのが偽情報です。

例えば、誰かが政治的に対立している者の信頼を失墜させるためにフェイクニュースをでっち上げた場合、それは「偽情報」となります。ただし、その情報が誤った内容だと気づいていない別の人物によって同じニュースが拡散された場合、それは「誤情報」となります。

また不正確な情報だと知った後でも誤情報を引き続き共有していた場合、人を欺く意思があることになるため、その情報は「誤情報」から「偽情報」へと変化し得ます。

誤情報と偽情報の種類

誤情報と偽情報にはさまざまな種類があります。両者の根本的な違いは、コンテンツに人を騙す意図があるかどうかです。以下に主なタイプを取り上げます。

• エラー – 名声のあるニュース機関が報道時に犯すミスは通常は意図的なものでなく、発見された際に訂正されるが、それでも誤情報の拡散を後押しする可能性がある。

• 誤った関連付け – コンテンツに付随するヘッドライン、キャプション、または画像が内容と一致していない場合、誤解を招く恐れがある。

• ミスリーディング（誤解を招く）コンテンツ – 事実情報として提示される意見やコメントなど、情報の受け手をミスリードするような形で表される情報。

• 誤った文脈 – 事実上正しいコンテンツだが、誤った文脈で提示されるもの。誤解を招く恐れがある。

• なりすましコンテンツ – よく知られた機関のブランドやスタイルを使って、本物の情報源を装ったコンテンツ。ミスリードを目的にしている。

• 捏造されたコンテンツ – 実際に起こっていない有名人のスキャンダルに関する偽のニュースなど、人を騙す目的で作られた完全に嘘の情報。

• 改ざんされたコンテンツ – 対象者を欺くことや注目を集めること、または感情的な反応を引き起こすことを目的として、本物の情報や画像を改変したもの、またはその内容を歪めたもの。

• 風刺・パロディ – ユーモアや誇張表現を含むコンテンツで、真剣に受け取られることを意図していないが、一部の閲覧者がうのみにしてしまう可能性があるもの。人を騙す目的はないものの、風刺やパロディは文脈を理解していない者に対して誤解を与える恐れがある。

• スポンサー付きのコンテンツ – 本物のニュース記事やレポートに見えるように作られた広告または広報資料。しかし実際は特定の商品やサービスを宣伝したり、特定の思想を広めたりしている。

• プロパガンダ – 特定の思想が有利になるように、また世間の認識や世論を操作するために、考え方や価値観、認識に影響を与えることを意図したコンテンツ。

偽情報キャンペーンとは？

偽情報キャンペーンとは、特定の層に向けて誤った情報、またはミスリードするような情報を拡散するため、意図的かつ組織的に行われる運動のことです。対象となるグループを欺き、ターゲットの意見や行動、意思決定を操作したり、これらに影響を与えたりすることを目的にしています。キャンペーンには分断をあおる、さまざまな機関の信頼を失墜させる、特定の政治的思想を広めるといった行為が含まれることもあります。

偽情報キャンペーンでは誤った情報、あるいはミスリードを意図した情報が故意に拡散されます。例えば一からまったく新しい情報をでっち上げたり、虚偽のナラティブを作るために事実を捻じ曲げたり、文脈を無視した情報の切り取りなどが行われます。

偽情報キャンペーンで使われる手口は状況や目的によってさまざまですが、共通しているのは感情操作が行われる点です。恐怖や怒りといった強い感情を引き出すようにコンテンツが作成されることで、エンゲージメントを増やし、情報の拡散を促します。さらによく採られる戦略の1つとして、分断を利用する手法もあります。既存の社会的または政治的な分断を強めることで、対立をあおるというものです。

偽情報キャンペーンでは、以下の手口が共通して使われています。

• フェイクニュース – 一般大衆の誤解を招くために捏造された、イベントやシチュエーションに関する記事。

• ディープフェイク – 本人が言っていない、あるいはやっていないことをあたかもやったかのように見せるために改ざんされた動画や音声。

• 不正に加工された画像や動画 – 現実に起こっていないことを事実であるかのように見せるために加工された画像や動画。

• ソーシャルメディア上のボット・荒らし – 誤った情報を流布したり、ネット上の会話を操作したりする自動アカウントや個人。

• 捏造された統計情報・データ – 特定のナラティブを裏付けるためにでっち上げられた統計情報やデータ。

誤情報とソーシャルメディア

誤情報（人を欺く意図がなく共有される、虚偽または不正確な情報）がソーシャルメディア上で蔓延していることには、いくつかの原因があります。まずソーシャルメディアにおける拡散スピードとリーチ率はほかに類がなく、1件の投稿がわずか数時間のうちに数百万ユーザーに届くようになっています。またソーシャルメディアのアルゴリズムによって、ユーザーを惹きつけるコンテンツが優先的に表示されることで、この問題はさらに悪化しています。このようなコンテンツには多くの場合、センセーショナルな情報や、感情を刺激するような内容が含まれています。

確証バイアスも深刻な影響を与えます。というのも、人には自らの信念と一致する情報を共有し、それを信じる傾向があるからです。これにより、誤情報はさらに拡散されてしまいます。またこういったプラットフォームは、ユーザーの信念を強化する情報に多く触れる「エコーチェンバー」を形成できるため、ファクトチェックを行ったり、反対意見に接したりする可能性が低くなります。従来のメディアに見られる編集者やファクトチェッカーのようなゲートキーパーがいないことで、内容の正確性に関係なく、誰でも何でも投稿できる状況が生まれてしまいます。

ソーシャルメディア以外における誤情報

ソーシャルメディアは誤情報の主要な拡散経路の1つですが、ほかのチャネルを通じて拡散される場合もあります。WhatsAppやTelegramのようなメッセージングアプリは、ファクトチェックが行われにくい閉鎖的なグループ内で情報を素早く共有することを簡単にします。

同様に、特にネット上での情報検証にあまり慣れていない高齢世代の間では、転送されたメールやテキストメッセージが誤った情報を急速に広めてしまう可能性があります。

隠れた目的を持つ、あるいは編集上の監督が不十分なWebサイトやブログも誤情報を広める恐れがあります。これらは正規の情報源を装っている場合がほとんどですが、従来のメディアでさえも、検証のなされていないソースに頼ったり、レーティングを上げるために扇情的な記事を書いたりして誤情報を広めてしまうことがあります。

ソーシャルメディアが問題になる理由

ソーシャルメディアはその規模の大きさとリーチ率の高さから、誤情報の拡散において特に大きな影響を与えています。こういったプラットフォームでは誤情報に触れる可能性のあるユーザーが非常に多いため、世間一般の人々の意見に影響を及ぼす上で強力なツールとなっています。ソーシャルメディアプラットフォームはユーザーの積極的な参加を促す性質を備えていることから、いいねやシェア、コメントを通じて、誤った情報が急速に拡散されてしまいます。また分散型構造によって、一度誤情報が拡散され始めると、追跡や抑制が難しい状態になっています。

偽情報はどのように拡散されるのか？その対策とは？

偽情報はさまざまな方法で拡散されます。その一部を以下にご紹介します。

• ソーシャルエンジニアリング – 出来事、インシデント、問題、および公共政策に関わる議論を歪めて描写し、内容を改ざんすることで、特定の思想に世論を誘導する。

• 捏造された情報の拡散 – いわゆる「釣り」やスパムボット、偽アカウント（ソックパペット）、有料アカウントのほか、強力なインフルエンサーを使って有害コンテンツの認知度やリーチ率を上げる。

• マイクロターゲティング – ソーシャルメディア上の広告掲載位置やエンゲージメントツールを利用し、偽情報をさらに拡散してくれそうなユーザーを特定して引き込む。

• ハラスメントと弾圧 – サクラのユーザーや偽アカウント、荒らしを利用してジャーナリストや反対意見、透明性の高いコンテンツを隠蔽・無視したり、かき消したりする。こういった手法は偽情報を組織的に、広範かつ効果的に拡散することを可能にする。

偽情報の対策には、技術的な解決策と人間による監視を組み合わせることが必要です。人工知能と機械学習は、大量の情報の分析に使うことができます。こういったツールはパターンを特定し、異常をフラグ付けすることで、偽情報キャンペーンの可能性のあるものを検知するのに役立ちます。同じくウォーターマーク（電子透かし）やプロビナンス情報（コンテンツの出どころや更新履歴を追跡できるもの）などの技術を使ったコンテンツ検証でも、デジタルコンテンツの信ぴょう性を評価することが可能です。

偽情報の特徴や誤った情報の見分け方、そして批判的思考を高めることの大切さを教育することは極めて重要です。情報を共有する前に検証を行うことをユーザーに推奨し、ネット上での振る舞いに責任を持つよう促すことで、偽情報の拡散に大きな影響を与えられるようになります。十分な情報を持った用心深いユーザー層は、より強靭で操作されにくいオンラインコミュニティを作り上げることができます。

脅威インテリジェンスにおける誤情報と偽情報

脅威インテリジェンスにおいては、誤情報も偽情報も深刻な課題をもたらします。誤情報は意図して広められるものでないとはいえ、なお脅威インテリジェンスアナリストの作業を妨害する可能性があります。偽情報と同様、誤情報は不確実性を生み出し、虚偽の情報と本物の脅威の区別を困難にします。誤情報も偽情報も、本来はアナリストが本物の脅威を特定するために使えたはずの時間とリソースを、潜在的脅威ではないものの調査に浪費させてしまいます。

偽情報キャンペーンはほとんどの場合、まず攻撃の糸口として誤情報を使い、誤情報によって引き起こされる混乱を利用して目標を達成します。

脅威インテリジェンスで誤情報と偽情報の継続的なチェックを必要とする理由

矛盾する情報が過剰に存在すると、アナリストは実用性のある脅威インテリジェンスを作成することが困難になり、潜在的な脅威に対して十分な情報に基づいた意思決定を下せなくなります。脅威インテリジェンスアナリストは誤情報および偽情報キャンペーンを特定し、除外することに熟練していなければなりません。これには情報源を注意深く検証することや、信頼できる複数のソースで情報を相互参照すること、情報の背景にある意図を分析することが求められます。

加えて、特定の脅威を浮かび上がらせることだけに終始しないのが効果的な脅威インテリジェンスです。ただ、そのためには武器として偽情報が使用される可能性を含め、1つの紛争の背後にあるより広範な文脈を理解することが求められます。これを経て得られたインテリジェンスを用いることで、より豊富な情報と背景知識に基づいて全体的な状況へ対応することができるようになります。

誤情報キャンペーンの特定にSilobreakerがどう役立つのか

誤情報および偽情報に対抗するため、インテリジェンスチームは多様な情報源を利用する必要があります。つまり可能な限り、包括的かつ特徴的な情報を集めなければなりません。しかしながら、膨大な数の情報源から誤情報と偽情報を手動で選別・特定する作業は時間がかかる上、ミスの発生しやすいプロセスです。

Silobreakerは主な検索機能を通じて迅速にエンティティを関連付け、それぞれの関係性を繋ぎ合わせることで大量のデータを簡素化し、処理します。これによりインテリジェンスの正確性が向上し、誤検出も減らすことができます。

Silobreakerは構造化されていない生のデータをタイムリーかつ実用的な知見に変換するため、サイバー、物理セキュリティ、地政学的脅威およびリスクの各分野に分類しており、これによって情報環境を包括的にとらえることを可能にしています。また、単一の統合プラットフォームでインテリジェンスの収集、処理、集約、分析、配布を自動化し、オープンウェブやダークウェブ、完成されたインテリジェンスなど無数のソースからPIRに基づいて非構造化データや構造化データを集めることで、関連性が高く集約された真の情報源を提供します。