AI脅威レポート：不法コミュニティにおける人工知能の利用状況

この月次レポートでは、Flashpoint独自のインテリジェンスだけでなく、脅威アクターの実環境から直接収集した情報を活用した上で、不法コミュニティにおける人工知能（AI）の利用状況を分析します。

*本記事は、弊社マキナレコードが提携する米Flashpoint社のブログ記事（2026年7月更新分）を翻訳したものです。

ごくありふれた火曜日の朝のことでした。ある企業の財務担当者が、CFOや数人の同僚とのビデオ会議に参加します。依頼内容はごく日常的な業務のように見え、画面に映る顔も本人と一致し、声も本物そのものでした。しかしその数分後、2,500万米ドルもの資金が送金されてしまいます。後に判明したのは、会議の参加者のうち一人を除き、全員がAIによって生成された存在だったという事実でした。

このようなインシデントの背後にある技術、つまり合成動画や音声クローン、スクリプト化されたやり取りは、脅威アクターがツールや手法を交換する環境で公然と議論されるようになっています。Flashpointのアナリストは2026年6月だけで、不法行為の文脈でAIについて言及している投稿を470万件以上特定しました。

この数値は、これまで以上に大きな変化が起きていることを示唆しています。人工知能（AI）は今やサイバー犯罪のエコシステムに深く浸透し、詐欺やなりすまし、ソーシャルエンジニアリング、侵害作戦に大きな影響を与えるようになりました。有害コンテンツの生成にIDの複製、そして自動ワークフローを実行・改善する方法など、あらゆる場面でAIが変革をもたらしています。

この進化を追跡するため、Flashpointの月次レポートでは、さまざまなフォーラムやマーケットプレイス、チャットサービスなどの一次情報源から直接収集したデータを分析しています。AIの悪用方法を形成する戦術・ツール・運用パターンを特定することで得られた最新データからは、プロンプトの共有とAIジェイルブレイク（脱獄）の手法に加え、通常のモデレーション制御を欠いた代替モデルにとりわけ重点を置いていることが読み取れます。

AI関連活動の量とその意味

2026年6月、Flashpointのアナリストはフォーラムやマーケットプレイス、チャットサービスにおいて、不法行為の文脈でAIについて言及している投稿を471万8,651件確認しました。5月に観測された投稿は291万12件だったため、前月比で62％増となっています。

主な活動は、以下の典型的なユースケースに集中していました。

• 本人確認の回避
• 詐欺行為に必要な環境構築とスクリプト作成
• 合成メディアによるなりすまし
• プロンプト共有と脱獄ワークフロー

AI関連活動が集中する場所

AI関連の議論はごく少数のプラットフォームに集中しており、観測された活動の圧倒的多数をTelegramが占めていました。これにReddit、GitHub Gist、Pastebin、4chan、Discord、Mastodonが続きましたが、活動量を比較するとTelegramに大きな差をつけられています。

Telegramへの膨大な量の投稿は、同プラットフォームが極めて活発な配信レイヤーであることを物語っています。Telegramはプロンプトや脱獄方法、詐欺ツール、サービス広告などの主要マーケットプレイスとして機能しており、脅威アクターたちはより多くの人の目に留まるよう、さまざまなチャンネルへ大量のメッセージを頻繁に送信しています。

月間を通じて、同じオファーやワークフローがさまざまなチャンネルで繰り返し出現し、ユーザーからのフィードバックやプラットフォームのアップデートを基に微調整したものも多く見られました。一方、その他のプラットフォームは、より具体的な役割を担っていました。

• GitHub Gistとペーストサイトはスクリプトや関連資料をホスト
• 各アンダーグラウンドフォーラムは評判構築や技術面の長期的な議論を支援
• DiscordとRedditの各コミュニティは特定のモデルやプロンプト集、脱獄ワークフローを中心に活動

これらの環境間で関係性が維持されていることから、あるコミュニティで紹介された技法は、生成される出力の信頼性が高い、あるいはモデレーション制御を回避するために役立つことがわかると、ほかの場所でも繰り返し登場し、その後も継続して注目を集めるとともに、より広く運用される傾向があります。

AIを活用した詐欺活動と本人確認の回避

Flashpointのアナリストは6月を通じ、AIを活用したKYC（顧客確認）回避方法を宣伝・議論する投稿が急増し、353万3,769件に達したことを確認しました。これにはディープフェイクを用いた認証ワークフローも含まれ、前月比では98％増と驚異的な伸びを記録しています。

これらの活動はなりすまし詐欺に特化したTelegramチャンネル全体で活発に取り上げられており、投稿では継続的に以下の宣伝が行われていました。

• ライブ認証の動作を真似るよう設計された合成動画の生成
• 音声クローンとスクリプト化された対話プロンプト
• オンボーディングと認証のワークフローに合わせてカスタマイズされた「KYCバイパスキット」

一部のオファーには、特定の金融プラットフォームに合わせて応答を調整する方法の詳細な解説が含まれていました。また、合成動画と偽造文書の照合、さらにAI生成スクリプトを組み合わせ、なりすまし行為を終始サポートすることを意図したサービスもありました。

この活動は、より広範なアクセスエコシステムと直接結び付いています。盗まれた認証情報、セッショントークン、フィッシングインフラ、そしてAIを利用したなりすまし手法は、ますます同じワークフロー内で連携して動作するようになっています。これはセキュリティチームにとって、これらの手法が交換・改良されるのと同じ環境で、認証システムやオンボードディングプロセス、アカウント復旧レイヤーが積極的にテストされ、体系的に狙われていることを意味します。

有害なLLMの使用とプロンプトベースのワークフロー

確認された有害な大規模言語モデル（LLM）や安全対策のないLLM利用に関する議論の内容は、脱獄方法やプロンプト共有型のワークフロー、そして主流プラットフォームよりも制限が少ないとみなされる代替モデルへのアクセスに重点が置かれていました。脅威アクターたちはフィッシングリンクの生成、有害なコードの作成、あるいは攻撃的なメディアの制作において、制限のないモデルを引き続き多用しています。

アンダーグラウンドマーケットは使いやすさと出力の信頼性を重視しており、以下のような投稿が頻繁に観測されています。

• 安全対策を回避するための脱獄用プロンプト
• フィッシングや詐欺に使えるプロンプト集
• 特定の生成物を得るための段階的な手順
• ソーシャルエンジニアリングキャンペーンに合わせたプロンプトのリクエスト

これらのプロンプトの多くは、更新版や改訂版、サポートチャンネルを含めてコレクションされ、共有されています。プロンプトが機能しなくなったり、プラットフォームに新たな制限が導入されたりした場合、ユーザー同士でフィードバックを交換し、数時間以内に更新版が公開されます。

この振る舞いは、プロンプトエンジニアリングが不法コミュニティ全体にわたる独自のサービス層へ発展してきた経緯を改めて示しています。引き続き重視されているのはアクセシビリティ、ポータビリティ、使いやすさであり、独自モデルをゼロから開発することではありません。

セキュリティチームが理解すべきこと

本レポート内で追跡したアンダーグラウンドでの活動から、公開前の技術の開発・実験・共有が行われる脅威アクターの環境内で、AIがどのように運用されているのかが明らかになりました。

これらの手法は容易に展開できるように考案されているため、フォーラムでの議論から攻撃ベクターとして実用する段階へ移る際にも、修正をほとんど必要としません。セキュリティチームが優先すべきは、これらの手法がどう進化しているかを常に把握することです。制御レイヤーにおいてより早く、より焦点を絞った防御体制を構築するには、実際に広く出回っている技法を理解すること以外に道はありません。

この活動が企業や組織の環境に与える影響を詳しく知るには、デモをリクエストしてください。

よくある質問（FAQ）

Flashpoint AI脅威レポートとは何ですか？

「Flashpoint AI脅威レポート」は、脅威アクターが不法コミュニティでAIをどのように実用化しているかを追跡する月刊インテリジェンス分析レポートです。Flashpointが有するPrimary Source Collections（一次情報コレクション、PSC）に基づき、アンダーグラウンドフォーラムやダークウェブ上のマーケットプレイスについて独自の知見を提供します。本レポートではサイバー犯罪の新たな傾向や脱獄ワークフローに加え、ディープフェイクなどの合成メディアを悪用した詐欺、そして言語モデルの不正使用といった事象を特定・分析しています。

AIは現時点でサイバー犯罪にどう悪用されていますか？

脅威アクターたちは多くの場合、既存の攻撃手法を自動化・高度化する目的でAIを利用しています。主なユースケースとしては、次のようなものが挙げられます。

• 本人確認の回避：ディープフェイク動画や音声クローンを作成し、KYCプロセスを回避
• ソーシャルエンジニアリング：違和感のないなフィッシング用スクリプトを複数言語で生成、または経営幹部になりすます
• プロンプトエンジニアリング／ジェイルブレイク：プロンプトを駆使して主要LLMのガードレールを回避

AIの不正利用はどのような勢いで拡大していますか？

AIの不正利用は飛躍的に増えています。Flashpointのアナリストチームは、AIと犯罪活動について言及した投稿を2026年6月に471万8,651件確認しました。これは前月の2026年5月に記録された291万12件と比べて62％増となり、AIツールがアンダーグラウンドの脅威エコシステムの日常活動にどれほど深く組み込まれるようになったのかを物語っています。

AI悪用に関する議論が最も活発に行われているメッセージングプラットフォーム／フォーラムは？

• Telegram：AIに関連する不法な活動の中心的拠点であり、プロンプト、ジェイルブレイク用スクリプト、KYC回避キットなどを売買する活発な市場として機能しています。
• GitHub GistおよびPastebin：関連スクリプトや技術的なコードスニペットが掲載されています。
• DiscordおよびReddit：プロンプト集や特定のLLMに関する議論の場となっています。

※日本でのFlashpointに関するお問い合わせは、弊社マキナレコードにて承っております。

また、マキナレコードではFlashpointの運用をお客様に代わって行う「マネージドインテリジェンスサービス（MIS）」も提供しております。

FlashpointやVulnDBについて詳しくは、以下のフォームからお問い合わせください。