過激派グループがAIの試用開始、懸念されるリスクの拡大

yab

2025.12.16

過激派グループがAIを使った活動を推進、懸念されるリスクの拡大

SecurityWeek – December 15, 2025

イスラム国のような過激派組織がAIを実験的に取り入れ始める中、AIは新たなメンバーの勧誘やディープフェイク画像の大量生産、サイバー攻撃の洗練化を行うための強力な手段になり得ると専門家が警告した。AIを使用することで、資金の乏しい小規模なグループであっても影響力を発揮できるようになると推測されている。

今年11月、イスラム国（IS）支持者のWebサイトに、AIを積極的に使用するよう呼びかける投稿があった。ISは暴力的なイデオロギーを共有する過激派グループの結びつきであり、組織の影響力を拡大するために生成AIの試用を開始しているものとみられている。具体的な用途としてはプロパガンダやディープフェイクの大規模発信などが考えられるという。

実際にこのような武装組織は、ChatGPTのような生成AIを使って写真や動画を作成し、ソーシャルメディアに投稿することで新たな支持者を集め、敵対組織を混乱させている。例えば、イスラエル・ガザ戦争で爆撃された建物に乳幼児が取り残された様子を写した画像は人々の怒りと分断を招くために使用された。ほかにも、ISの支部組織がロシアのコンサート会場を襲撃した数日後、AIが生成したプロパガンダ画像がソーシャルメディアや掲示板に投稿された。また、ISのAI利用を調査している研究者によると、ISは自らの指導者が経典を朗読するディープフェイク音声を作成し、AIを使ってメッセージを複数の言語に翻訳しているという。

米政府と連携するサイバーセキュリティ企業のCEOによると、このような過激派グループは中国・ロシア・イランに遅れをとっており、より高度なAIの利用についてはまだ「目標段階」とみている。しかし、安価で強力なAIの利用が拡大するにつれてリスクは増大する可能性が高いと述べた。

事実、サイバー領域においてはすでに、ハッカーによってAIで生成された合成音声や合成動画が企業や政府に対するフィッシング攻撃に利用されており、コード生成や攻撃の自動化もAIで実現している。こうした背景から、過激派グループが生物兵器や化学兵器を製造する際に専門知識の不足を補うためにAIを利用する可能性も懸念されており、このことは米国土安全保障省が今年の初めに公開した「国土脅威評価」に盛り込まれている。

高まるリスクに対抗するため、米議員らはいくつかの提案を行なっている。上院情報委員会に所属する民主党の上院議員は、過激派組織や犯罪ハッカー、外国のスパイなど、悪意のある人物がAI製品をどのように使用しているかについて、開発者が情報を共有できるようにする必要があると述べた。また、過激派の脅威に関する最近の公聴会では、ISとアルカイダが支持者にAIの使い方を教えるためのワークショップを開催していたことが下院議員に知らされた。さらに、11月に米国下院を通過した法案は、国土安全保障当局に対し、過激派グループがもたらすAIリスクを毎年評価することを義務付けたとのこと。