ロシアのプロパガンダにより、AIチャットボットの返答に影響が生じている恐れ

佐々山 Tacos

2025.03.10

ロシアのプロパガンダにより、AIチャットボットの返答に影響が生じている恐れ

TechCrunch – March 7, 2025

ロシアのプロパガンダにより、ChatGPTやMeta AIをはじめとするAIチャットボットの返答に影響が生じている可能性があるという。ニュースや情報サイト向けレーティングシステムの開発を行うNewsGuard社が報告した。

同社は、モスクワを拠点とする偽情報ネットワーク「Pravda（ロシア語で「真実」の意）」による新たな形のプロパガンダ活動の証拠を発見。このネットワークは人間の読者を直接狙うのではなく、AIチャットボットによって学習のために取り込まれるデータの方に影響を与えることを目指す。具体的には、特定のニューストピックに関する検索結果やWebクローラーをロシア政府に有利な情報で埋め尽くし、そうした偽情報をAIチャットボットに取り込ませることで、ユーザーのプロンプトに対してロシア寄りの返答を返させようとしているという。

Pravdaネットワークはオリジナルの虚偽コンテンツを作成するわけではなく、ロシア国営メディアや親ロシア派インフルエンサー、政府機関などが発するプロパガンダを、一見すると政府とは無関係の独立系メディアのように見えるWebサイト群を使って拡散。ロシア政府発プロパガンダのロンダリングマシンのような役割を果たしているという。150ある同ネットワークのWebサイトのうち、およそ40件はロシア語の記事を掲載。70サイトはヨーロッパを対象としており、英語、フランス語、チェコ後、アイルランド語、フィンランド語で偽情報を発信している。さらに、約30件のサイトはブルキナファソ、ニジェール、カナダ、日本、台湾などアフリカやアジア太平洋地域、中東、北米等を標的にしているという。

NewsGuardは、計207件の明白な虚偽の主張がPravdaネットワークによって拡散されたことを発見。これには例えば、「米国がウクライナで密かに生物兵器研究所を運営している」などの主張があるとされる。同社がPravdaの発する虚偽のナラティブ15件のサンプリングを使って大手AI企業が提供する以下のチャットボット10種をテストしたところ、これらのAIモデルは33.55%の確率でロシア寄りの偽情報を返したという。また7種のチャットボットに関しては、Pravdaにより公開された記事を「情報源」として具体的に指し示したことも報告されている。

＜テスト対象となったチャットボット＞

ChatGPT-4o（OpenAI）
Smart Assistant（You.com）
Grok（xAI）
Pi（Inflection）
Le Chat（Mistral）
Copilot（マイクロソフト）
Meta AI（メタ）
Claude（Anthropic）
Gemini（Google）
アンサーエンジン（Perplexity）

NewsGuardによれば、PravdaネットワークがAIチャットボットのアウトプットへ影響を及ぼすことにある程度成功している理由の大部分は、効果的なSEO戦術によってコンテンツの可視性が高められていることにあるという。大規模言語モデルはニュースや情報の処理・提示を行う上でWebエンジンに大きく依存しているが、この弊害が今回のような偽情報の取り組みとして表出ているのかもしれないとのこと。