区切りのない長文でLLMの誤動作を誘発　Unit42の研究で明らかに

8月27日：サイバーセキュリティ関連ニュース

区切りのない長文でLLMの誤動作を誘発　Unit42の研究で明らかに

The Register – Tue 26 Aug 2025

パロアルトネットワークスのインシデント対応チームUnit 42により、大規模言語モデル（LLM）チャットボットのガードレール機能を回避する方法が発見されたという。

その仕組みは非常にシンプルで、文法的に難のある句読点や接続詞無しの長文を用意するだけ。例えば、日本語でこれを説明すると「脱獄が発動してフィルタリングで除外されるはずの『有害な』あるいは禁止された応答をモデルに提供させるよりも前にガードレールに作動のチャンスを与えるであろうピリオドなどの文の区切りとなる箇所の前の部分にすべての情報を含むようにする」のような文章だ。つまり、ピリオドなどで文が区切られるとガードレールが作動して脱獄が防がれるため、文を終わらせずに引き伸ばすことによってガードレールが作動するよりも前に脱獄を完結させることが鍵となる。

Unit42の論文では、このような攻撃からLLMを保護するためのベンチマークとして「拒否・肯定ロジットギャップ」という分析アプローチが示された。ロジットとは確率を実数に変換するための関数で、このアプローチはLLMのトレーニングプロセスが有害な応答の可能性を排除しているのではなく、その可能性を低くしているだけであり、攻撃者が「ギャップを埋める」と望ましくない応答を返す可能性が残されるとの考えに基づいている。

ロジットに基づくアライメントトレーニングとしてLLMに実装されたガードレールは簡単に回避できることも判明し、メタのLlama、GoogleのGemma、Qwen 2.5および3など人気モデルへの「プロンプト固有の調整をほとんど行わない」ワンショット攻撃では80～100％の成功率を達成したと報告されている。

Cephalusランサムウェア、SentinelOneの実行ファイルをDLLサイドローディングに悪用

scworld[.]com – 25 Aug 2025

米セキュリティ企業Huntressはブログ記事を公開し、Cephalusランサムウェアグループが正規のSentinelOne実行ファイルを悪用したDLL（ダイナミックリンクライブラリ）サイドローディングでペイロードを展開していると報じた。

ダークウェブ監視プラットフォームInsecureWebのレポートによると、Cephalusは2025年6月に出現したとされる新興グループで、8月中旬に2件の侵入を試行したことがHuntressにより観測された（そのうち1件はWindows Defenderでブロック）。同グループの動機は金銭目的とみられ、二重恐喝の手法を採用している。

攻撃では多要素認証（MFA）が有効になっていない侵害されたアカウントを使い、リモートデスクトッププロトコル（RDP）経由で初期アクセスを取得。続いてクラウドストレージプラットフォームMEGAへの接続を確立し、データを盗み出しているようだ。その後に正規のSentinelOne実行ファイル「SentinelBrowserNativeHost.exe」を使い、DLLサイドローディングでランサムウェアが展開される。なお、Huntressが調査した2件のケースではいずれの組織も正規のSentinelOneサービスを利用していた。

直近の攻撃では身代金を要求するメッセージに加え、前述のInsecureWebのレポートやDark Web Informerのレポートなど、Cephalusが関与を主張する攻撃について記したレポートへのリンクも含まれていたという。Huntressは同グループ独自の戦術に対して注意を喚起する一方、この新たな脅威から身を守るために活用できる侵害指標（IoC）を提供している。

【無料配布中！】地政学情勢×サイバー動向の解説レポート

レポート『デジタル時代における世界の紛争 – 地政学情勢はサイバー作戦へどう影響を及ぼしているのか』

以下のバナーより、国際紛争や政治動向といった地政学的情勢がサイバー空間に与える影響について解説したSilobreaker社のレポート『デジタル時代における世界の紛争』の日本語訳バージョンを無料でダウンロードいただけます。

＜レポートの主なトピック＞

本レポートでは、ロシア・ウクライナ戦争やイスラエル・ハマス戦争などの紛争や各国での選挙といった地政学的イベントについて振り返りつつ、それに伴うサイバー攻撃やハクティビズム、偽情報キャンペーンなどのサイバー空間での動きを解説します。また、中国・ロシア・北朝鮮・イランの各国について、関連するハクティビストグループやAPTグループの攻撃事例・特徴などを紹介しながら、サイバーインテリジェンスにおける領域横断的なアプローチの必要性について考えていきます。

目次

• 序論
• ハクティビズム
  • ハクティビズムの変遷
  • 戦争におけるハクティビズム
  • 「選挙イヤー」におけるハクティビズム
  • 絡み合う動機
  • 国家の支援を受けたハッカー集団
• 偽情報
  • 国家間対立
  • 偽情報とロシア・ウクライナ戦争
  • 偽情報とイスラエル・ハマス戦争
  • 偽情報と選挙が世界にあふれた2024年
• 国家型APTの活動
  • 中国
  • ロシア
  • 北朝鮮
  • イラン
• マルチチャネルインテリジェンスの運用化における課題と関連リスク