AI脅威レポート：不法コミュニティにおける人工知能の利用状況

この月次レポートでは、Flashpoint独自のインテリジェンスだけでなく、脅威アクターの実環境から直接収集した情報を活用した上で、不法コミュニティにおける人工知能（AI）の利用状況を分析します。

*本記事は、弊社マキナレコードが提携する米Flashpoint社のブログ記事（2026年5月19日付）を翻訳したものです。

ある経理担当者が、最高財務責任者（CFO）と同僚数名の参加するビデオ会議に招待されました。リクエストに不自然さはなく、出席者の顔や声にも違和感はありませんでした。数分後、2,500万ドルの送金が承認されます。その後にわかったのは、参加者1人を除く全員がAIで生成された人物だったことでした。

このようなインシデントの背後にある技術、つまり合成動画や音声クローン、スクリプト化されたやり取りは、脅威アクターがツールや手法を交換する環境で公然と議論されるようになっています。Flashpointのアナリストは2026年4月だけで、不法行為の文脈でAIについて言及している投稿を232万8,958件特定しました。

この数値は、これまで以上に大きな変化が起きていることを示唆しています。AIは今やサイバー犯罪のエコシステムに深く浸透し、詐欺やなりすまし、ソーシャルエンジニアリング、大規模な侵害作戦に影響を与えるようになりました。コンテンツ生成にIDの複製、そしてワークフローを実行・改善する方法など、あらゆる場面でAIが存在感を示しています。

だからこそFlashpointは、実世界の不正環境におけるAIの利用状況を調査し、この月次レポートにまとめました。本レポートではFlashpoint独自のインテリジェンスに加え、フォーラムやマーケットプレイス、チャットサービスなどの一次情報源から直接収集したデータを活用した上で、AIの有害な使用方法を形成する戦術・ツール・運用パターンを分析しています。4月の活動分析からは、プロンプトの共有と脱獄手法、そして安全対策やモデレーション制御の少ない代替モデルに重点を置いていることが読み取れます。

AI関連活動の量とその意味

2026年4月、Flashpointのアナリストはフォーラムやマーケットプレイス、チャットサービスにおいて、不法行為の文脈でAIについて言及している投稿を232万8,958件確認しました。

2026年4月に確認された、不法行為についての宣伝または議論に関連するAIの言及数（画像入手元：Flashpoint）

主な活動は、以下の典型的なユースケースとワークフローに集中していました。

• 本人確認の回避
• 詐欺行為に必要な環境構築とスクリプト作成
• 合成メディアによるなりすまし
• プロンプト共有と脱獄ワークフロー

しかし、4月にはこうした議論の焦点がいくつかの点で変化しました。

• 安全対策を回避する方法や、より信頼性の高い出力を生成する方法、あるいは制限の少ないプラットフォームに活動を移行する方法など使い勝手についての議論と比べ、有害なカスタムLLM開発に関する投稿の頻度が減少
• 脱獄方法やフィッシング関連の出力に関する要望と並行し、代替モデルやプロンプト集に関する言及が月間を通じて増加

この活動は、AI利用がより成熟した段階に入ったことを示しています。焦点は全く新しいツールの構築を目指すのではなく、既存のワークフローにおける信頼性、移植性、利便性を向上させることに移っています。

このパターンは、監視対象の情報源全体で繰り返し見受けられます。ユーザーはプロンプトを交換し、機能する方法を再投稿し、直接的なフィードバックを通じて出力を改良しています。多くの場合、基盤となる同じ技術が流通し続けており、プラットフォームやコミュニティに合わせてわずかに変更が加えられています。4月の活動全体を分析すると、継続的に需要があるのはどの手法なのか、脅威アクターはプラットフォームの制限をどう回避しているのか、そしてどのワークフローが複数の環境で引き続きアクティブなのかを特定できます。

AI関連活動が集中する場所

4月のAI関連活動は引き続き少数のプラットフォームに集中していたものの、3月と比べて分布に顕著な変化が見られました。

活動の大部分を占めたのはTelegramで、AI関連のサービスや議論についての投稿数は139万5,075件を数えました。一方、RedditやGitHub Gist、Pastebin、Discord、小規模フォーラムでの投稿数は大幅に少なくなっています。

2026年4月にTelegramで観測されたAI関連サービスを販売する投稿（赤）と購入を希望する投稿（青）（画像入手元：Flashpoint）

Telegram上の投稿量が減少しても、AIを活用した活動への関心が低下したことを意味するわけではありません。このプラットフォームは依然として、プロンプトや脱獄方法、詐欺ツール、サービス広告などの主要な配信レイヤーとして機能しています。

4月を通じて、同じプロンプトやオファー、ワークフローがさまざまなチャンネルで繰り返し出現し、内容をわずかに調整しただけで再投稿されたものも多く見られました。購入する側から特定の出力内容やプラットフォームに関連した修正が求められる中、販売者側はユーザーからのフィードバックに基づいて出品情報を更新しています。

その他のプラットフォームは、より具体的な役割を担っていました。

• GitHub Gistとペーストサイトはスクリプトや関連資料をホスト
• 各フォーラムは評判構築や技術面の長期的な議論を支援
• Discordの各コミュニティは特定のモデルやプロンプト集、脱獄ワークフローを中心に活動

この活動は、さまざまな環境の間で関係性を維持しています。あるコミュニティで紹介された手法は、生成される出力の信頼性が高い、あるいはユーザーがモデレーション制御を回避するために役立つ場合、ほかの場所でも繰り返し登場します。こうした議論がソース間でどう移動しているのかを追跡することで、その後も継続して注目を集めるのはどのワークフローなのか、より広く運用される手法はどれなのかを特定するために役立ちます。

AIを活用した詐欺活動と本人確認の回避

Flashpointのアナリストは4月を通じ、ディープフェイクを用いた認証ワークフローを含め、AIを活用したKYC（顧客確認）回避方法を宣伝・議論する投稿を6万3,763件確認しました。

これらの手法は、本人確認回避サービスに特化したTelegramチャンネル全体で活発に取り上げられていました。

投稿では引き続き以下の宣伝が行われていました。

• ライブ認証の動作を真似るよう設計された合成動画の生成
• 音声クローンとスクリプト化された対話プロンプト
• オンボーディングと認証のワークフローに合わせてカスタマイズされた「KYCバイパスキット」

一部のオファーには、特定のプラットフォームや認証要件に合わせて応答を調整する方法の解説が含まれていました。また、合成動画と偽造文書の照合、さらにAI生成スクリプトを組み合わせ、なりすまし行為を終始サポートすることを意図したサービスもありました。

より広範なワークフローは変化がなく、AIがIDの複製方法や認証チェックの進め方、さまざまなサービス間における不正行為の拡大をサポートしています。

この活動は、不法コミュニティ全体ですでに観測されている広範なアクセスエコシステムと直接結び付いています。盗まれた認証情報、セッショントークン、フィッシングインフラ、そしてAIを利用したなりすまし手法は、ますます同じワークフロー内で相互に連携して動作するようになっています。

4月の間、これらの手法に関連する投稿は、ユーザーからのフィードバックや再投稿、プラットフォームの特徴に合わせた内容を通じて盛んに改良が続けられました。

セキュリティチームにとって、この活動は引き続きアクセス制御に関連する問題となっています。そのため認証システム、オンボードディングのワークフロー、アカウント復旧プロセスは、これらの手法が交換・改良されるのと同じ環境で継続的にテストされています。

有害なLLMの使用とプロンプトベースのワークフロー

4月中に確認された有害LLMや安全対策のないLLM利用に関する議論の内容は、脱獄方法やプロンプト共有型のワークフロー、そして主流プラットフォームよりも制限が少ないとみなされる代替モデルへのアクセスに重点が置かれていました。

Flashpoint Collections内で2026年4月に確認された有害LLMに関する言及件数（画像入手元：Flashpoint）

Flashpointのアナリストは、VeniceAIに関する議論が大幅に増加していることを確認しました。その一因としてはRedditとDiscordにVeniceAIプラットフォーム専用のコミュニティが新たに作成されたことが挙げられ、ChatGPTやGeminiといったサービスよりも安全対策やモデレーションが少ないと思われるモデルへの関心が依然として高いことを示しています。

活動では、使い勝手と出力内容の信頼性が重視されています。

観測された投稿の内容は以下の通りです。

• 安全対策を回避するための脱獄用プロンプト
• フィッシングや詐欺に使えるプロンプト集
• 特定の生成物を得るための段階的な手順
• なりすましやソーシャルエンジニアリングのワークフローに合わせたプロンプトのリクエスト

これらのプロンプトの多くは、更新版や改訂版、サポートチャンネルを含めてコレクションされ、共有されています。プロンプトが機能しなくなったり、出力結果の質が低下したり、プラットフォームに新たな制限が導入されたりした場合、ユーザー同士でフィードバックを交換した後、往々にして短期間のうちに更新版が公開されます。

この種の活動は、プロンプトエンジニアリングが不法コミュニティ全体にわたる独自のサービス層へと発展してきた経緯を改めて示しています。活動の中心はモデルそのものにとどまらず、詐欺やフィッシング、なりすましといったワークフローに直接利用できるような、再現性のある出力を生成する能力にも当てられています。

4月を通じて、同じ構造のプロンプトや脱獄方法が複数の情報源で繰り返し投稿されていました。そのほとんどはプラットフォームやターゲットに合わせた微調整が施されているのみでした。

つまり、カスタムモデルの開発よりも、可用性・移植性・利便性に引き続き力点が置かれています。

活動のパターンと情報源にみられる共通点

4月の間、わずかな違いはあるものの、同じような活動が複数の環境で継続的に見られました。

Telegramチャンネルやフォーラム、Discordコミュニティ、ペーストサイトでは、プロンプト集や脱獄方法、フィッシングワークフロー、そしてアイデンティティ認証バイパス技術に関する情報が拡散されています。プラットフォームによって文体がわずかに異なるものの、基本的な構造や、出力内容には一貫性が見られます。

このような情報の再利用は、複数の情報源の間をコンテンツが移動する際に明確に認識できます。あるチャンネルで共有された脱獄用プロンプトが別の場所で投稿される際、文体が調整され、手順に関する情報が追加されました。また、あるフォーラムに投稿されたフィッシングワークフローは、ペーストサイトにコピーされ、Telegramを通じて再配布されました。AIの安全策が変更されたり、ある手法が使えなくなったりすると、ユーザーは修正のリクエストや、出力のテストを行い、更新版を再度投稿します。

こういったサイクルは4月中に何度も観測されました。

さらに、使い勝手についての強力なフィードバックループが活用されていることも明らかになりました。確認された議論では、どのプロンプトが信頼性の高い出力を生成するのか、どのモデルだと制約が少ないのか、どのワークフローが使用前の調整を最も必要としないのかといった話題を重点的に取り上げていました。

Flashpointが観測した複数の情報源では、以下のような作戦上の優先事項が一致していました。

• 出力内容の信頼性
• 再利用のしやすさ
• 安全対策を回避する能力
• 従来の詐欺やなりすましのワークフローとの互換性

4月の活動を概観すると、反復やイテレーション、関連コミュニティへの配布を通じて、AIを利用した手法が引き続き発展していることがわかります。

セキュリティチームが理解すべきこと

本レポート内で追跡した活動から、公開前の技術の開発・実験・共有が行われる脅威アクターの環境内で、AIがどのように使われているのかが明らかになりました。

詐欺・なりすまし・侵入に関する技術は、これらのコミュニティ全体で再利用、調整されるとともに、ほかの脅威アクターも直接使用できる形式で拡散されています。このプロセスにおいて、議論の段階から実用への移行に大きな変化は必要ありません。

セキュリティチームが優先すべきは、これらの手法がどのように進化し、どこで利用されているかを常に把握することです。その可視性を維持することで、出回っている技術をより早く検出し、さらに具体的な対応が取れるようになるだけでなく、これまで以上に明確な理解につながります。

こうした情報源の監視を通じて、そのコンテキストを汲み取ることができます。観測された活動と使われた手法をこの文脈で結びつけることにより、手法の変遷を長期にわたって追跡できるようになります。

この活動が企業や組織の環境に与える影響を詳しく知るには、デモをリクエストしてください。

日本でのFlashpointに関するお問い合わせは、弊社マキナレコードにて承っております。

また、マキナレコードではFlashpointの運用をお客様に代わって行う「マネージドインテリジェンスサービス（MIS）」も提供しております。

FlashpointやVulnDBについて詳しくは、以下のフォームからお問い合わせください。