不法行為に特化したAI「MessiahGPT」がBreachForumsに登場
Trellixの調査によると、サイバー犯罪向けAIサービス「MessiahGPT」がBreachForumf上で宣伝されている。マルウェアやフィッシング用素材などサイバー犯罪向けコンテンツを生成できるとのこと。
MessiahGPTは「messiahgpt[.]de」上で運営され、Telegramにも関連コミュニティが存在。Trellixが調査を行った時点でこのプラットフォームは稼働中で、登録を行わなくとも使える50回分の無料クエリを提供していた。有料プランは月額8ドル(約1,300円)からで、暗号資産による支払いが可能。本人確認は不要だという。
このサービスでは、RLHF(人間のフィードバックによる強化学習)やConstitutional AIのような倫理的なトレーニング手法を採用しないことで、有害コンテンツの生成を可能にしているそう。運営者によると、マニュアルやダークウェブのアーカイブ、流出した文書、生のインターネットデータを用いてゼロから学習させ、学習後のフィルタリングは行っていない。アーキテクチャは混合専門家(MoE)モデルで、計128のエキスパート(専門家)のうち処理されるトークンごとに16のエキスパートがアクティブ化されるという。しかしTrellixはこの主張を検証できていないため、真偽のほどは不明。
また、MessiahGPTは多種多様なサイバー犯罪を支援することができるだけでなく、実世界での物理的な攻撃の計画や、爆発物や劇物を用いた攻撃の指示も行えると宣伝されているが、MessiahGPTを使ったテストや攻撃の事例については、Trellixから報告されていない。
Trellixは今年、複数のAI搭載ツールを発見しており、MessiahGPTのほかにもロシア語のTelegramチャンネルで宣伝されていたDarkGPTや、セルフホスト型システムのAPEX AIなどを特定している。また、正規AIプラットフォームへのアクセス権やセッションクッキーなどもダークウェブ上のマーケットプレイスで頻繁に取引されている。













