ディープシークの人気が早くもマルウェア配布や詐欺行為に悪用される | Codebook|Security News
Codebook|Security News > Articles > Threat Report > ディープシークの人気が早くもマルウェア配布や詐欺行為に悪用される

Threat Report

AI

Silobreaker-CyberAlert

中国

ディープシークの人気が早くもマルウェア配布や詐欺行為に悪用される

nosa

nosa

2025.01.30

1月30日:サイバーセキュリティ関連ニュース

ディープシークの人気が早くもマルウェア配布や詐欺行為に悪用される

Help Net Security – January 29, 2025

中国の新興企業ディープシークから先日リリースされたオープンソース推論モデル「DeepSeek-R1」が多くの反響を呼んでいるが、同時にさまざまな問題や懸念も生じているようだ。

まずこの新しいAIツールは数日前から「大規模で有害な攻撃」によって機能停止やパフォーマンス低下に陥り、新規登録も一時的に制限されていることが明らかになった。

※詳しくはこちらの記事で:DeepSeek、サイバー攻撃により新規アカウントの登録を制限

また、iOSとAndroidの人気アプリで早くもトップに立ったとされるDeepSeek-R1だが、その関心の高さがすでに悪用の対象となっており、ディープシークとはまったく関係ない偽の暗号トークンがいくつか出回っているという。そのほかにも同社を装ったクローンサイトで正規アプリ(モバイル版とデスクトップ版)またはブラウザ拡張機能に見せかけたマルウェアが配布される、あるいは個人情報やアカウント情報を共有させるフィッシングキャンペーンが観測されるなど、ChatGPTが登場した直後と同じような脅威に対して注意が呼びかけられた。

加えて、サイバーセキュリティ会社KELAの研究者がジェイルブレイクに成功したように、DeepSeek-R1はデータセキュリティとプライバシーに大きなリスクがあると指摘されている。その他のAIベースのチャットボットと同様、機微情報や機密情報が入力される恐れなどさまざまなリスク要因が存在するため、米海軍では隊員が「職務関連のタスクや個人的な目的」で使うことを禁止したようだ。安全な使用法としては、個人や会社のコンピューターにローカルにインストールして使うことが推奨されている。

ディープシークのAIモデル、中国に関する「デリケートな話題」の85%に回答せず

TechCrunch – January 29, 2025

中国のヘッジファンドHigh-Flyerから派生したディープシークのDeepSeek-R1が世界を席巻し、アプリストアの人気チャートでトップに立つ一方、中国産AIならではとも言える「特性」も明らかになってきた。

DeepSeek-R1はコストパフォーマンスが高く、OpenAIのような既存企業の製品と比べて印象的な数字を残している。しかし、この推論モデルから回答を得られないNGワードが次々と報告されており、それは「天安門での事件と虐殺」や「台湾」などにとどまらないようだ。

AIアプリの脆弱性検出ビジネスを支援するスタートアップ企業PromptFooの最新レポートによると、DeepSeek-R1はセンシティブな話題を含むプロンプト1,360件の約85%に回答を拒み、「極端に国家主義的な口調」で定型応答を返してきたという。

研究者らはまた、DeepSeek-R1のジェイルブレイクを簡単に実行できることを証明しており、ディープシークの研究所が「CCP(中国共産党)の検閲を粗っぽく強引な方法で実装した」と指摘している。

【無料配布中!】インテリジェンス要件定義ガイド

インテリジェンス要件定義に関するガイドブック:『要件主導型インテリジェンスプログラムの構築方法』

以下のバナーより、優先的インテリジェンス要件(PIR)を中心とした効果的なインテリジェンスプログラムを確立するためのポイントなどを解説したSilobreaker社のガイドブック要件主導型インテリジェンスプログラムの構築方法の日本語訳バージョンを無料でダウンロードいただけます。

<ガイドブックの主なトピック>

本ガイドブックでは、優先的インテリジェンス要件(PIR)の策定にあたって検討すべき点と、PIRをステークホルダーのニーズに沿ったものにするために考慮すべき点について詳しく解説しています。具体的には、以下のトピックを取り上げます。

  • 脅威プロファイルの確立
  • ステークホルダーの特定・分析
  • ユースケースの確立
  • 要件の定義と管理
  • データの収集と処理
  • 分析と生産
  • 報告
  • フィードバック
  • 実効性の評価

Special Feature特集記事

Cyber Intelligenceサイバーインテリジェンス

Security情報セキュリティ