AIリスクをめぐる状況 ChatGPTが脅威アクターの活動のあり方に与えている影響とは | Codebook|Security News
Codebook|Security News > Articles > 脅威インテリジェンス > AIリスクをめぐる状況 ChatGPTが脅威アクターの活動のあり方に与えている影響とは

脅威インテリジェンス

Cyber Intelligence

Intelligence

Log4j

AIリスクをめぐる状況 ChatGPTが脅威アクターの活動のあり方に与えている影響とは

Tamura

Tamura

2023.03.29

ChatGPTの「脱獄」

OpenAIがChatGPTをリリースしてから、世界はその可能性を貪欲に探り続けており、2023年11月の発表からわずか2か月で、月間アクティブユーザー数は1億に達しました。その中には、脅威アクターたちもいます。脅威アクターは、有害コードやエクスプロイトペイロードを生成する目的で、ChatGPTに備わった制約の回避(脱獄、ジェイルブレイク)を盛んに行い、制約が孕む限界を試しています。

一方、近い将来までに人工知能(AI)から生まれる攻撃の複雑さはというと、低いです。私たちが観測しているコードの多くが、非常に単純なものや、バグまみれのものです。AIツールから生まれた最新鋭の、もしくは未知のコードを使った攻撃を、私たちは未だ観測していません。それでも、AIモデル、とりわけChatGPTの将来性は、組織と個人にとって大きなリスク因子であることに変わりなく、今後数年間はセキュリティチームやインテリジェンスチームに難題を突きつけることでしょう。

詳しく見ていきましょう。

*本記事は、弊社マキナレコードが提携する米Flashpoint社のブログ記事(2023年3月20日付)を翻訳したものです。

ChatGPTで作成が容易になる不法なコードとコンテンツ

過去に報告された不法な用途のほか、次に例示する用途が確認されています。

・過度に暴力的かつ性的なコンテンツ

・違法薬物と化学兵器の作り方

・誤情報の目的を持った暴力的で生々しいプロパガンダ

・信憑性のあるソーシャルエンジニアリングの台本

Flashpointは、次のようなChatGPTの技術的な用途も観測しており、脅威アクターは同AIツールを用いて、以下のものを生成しています。

・トロイの木馬とトロイ・バインダー(Trojan Binders)

・SMSボマー(SMS Bombers)

ランサムウェアのコード

・脆弱性を悪用することが可能な有害コード

ChatGPTを使う脅威アクターたちは、有害コードやエクスプロイトペイロードを生成するための能力を確かに持っています。しかしFlashpointは、ChapGPTの作るコードが現状では、非常に単純か、もしくはバグまみれなものになりやすい、と評価しています。AIから生まれた最新鋭の、もしくは未知のコードを使った攻撃を、私たちは未だ観測していません。

ChatGPTにも、他のAIモデルにも、根本的な限界があります。これらは全て既存のデータに依存して応答を生成しているのです。よって、現行の技術が、AIモデルによる革新的なコードや新しいテクニックの「作成」を阻んでいるのです。このことを、各組織は認識しておく必要があります。

とはいえ、このような限界にもかかわらず、脅威アクターたちはChatGPTを革新的な方法で利用しており、極めて現実的なリスクをもたらしています。

低レベルな攻撃の戦力を増強するChatGPT

当社のアナリストは、ChatGPTによって、単純なハッキングタスク(開放ポートをスキャンする、フィッシングメールを巧みに作る、仮想マシンを展開する、など)に、熟練度の低い脅威アクターらが参入しやすくなるだろう、と評価しています。これにより、セキュリティをめぐる状況に負の影響を与える現在の問題(例えば、設定が不適切なデータベースやサービス、フィッシング、脆弱性の悪用)が、ますます防御しがたいものになるでしょう。

不法オンラインフォーラム内の脅威アクターたちがChatGPTに抱く関心を示したグラフ(情報源:Flashpoint)

設定が不適切なデータベースやサービス

不適切な設定は、依然として、脅威アクターにとって一般的なアクセスポイントとなっており、2022年に160億件以上の認証情報と個人データが盗まれた原因となっています。敵は流出した個人データを参考にフィッシングキャンペーンを行い、盗まれた認証情報はクレデンシャルスタッフィング[*訳註]や、ブルートフォーシング、その他のサイバー攻撃で利用されます。すでに悪意のアクターたちは、容易にアクセス可能なデータベースをインターネット上で検索できるようにするツールをすぐに手に入れることができるため、AIモデルの助けがあれば、この積年の問題はおそらく深刻化するでしょう。

[*訳註]パスワードリスト攻撃、などとも呼ばれる

関連記事:不正ログインはなぜ起こる?原因と企業が行う対策を解説

ソーシャルエンジニアリング

Flashpointは、複数の脅威アクターがChatGPTなどのAIモデルを使って、信憑性のあるフィッシングメールを生成しているところを観測しています。当社のレポート「State of Cyber Threat Intelligence 2023」の中で、私たちは、フィッシングが依然としてランサムウェアなどのサイバー攻撃における最大の攻撃手段であることを示しました。

State of Cyber Threat Intelligence: 2023(*Flashpoint社のサイトに移動します)

ChatGPTの使いやすさと、直近のGPT-4へのアップデートにより、英語話者でない脅威アクターは、よく出来たメッセージを大量に作れるようになり、メールを書くのに数時間を費やすことなく、可能な限り多くの標的にメールを送ることに力を注ぎやすくなるでしょう。

脆弱性の悪用

AIの根本的な限界ゆえに、未知のコードが実際に作られることはおそらくないものの、セキュリティチームは、容易に悪用できる脆弱性から身を守ることに、ますます苦労することとなるでしょう。

ますます面白いことに。(ChatGPTは)問題の再現に関わる全情報が付いたPoCエクスプロイトを作ることができる。pic.twitter.com/1jKTYslx7g

— Mazin Ahmed (FullHunt.io) (@mazen160) 2022年12月1日(*Twitterのサイトに移動します)

昨年、Flashpointは26,900件以上の脆弱性を収集しましたが、その55%以上はリモートで悪用可能です。ChatGPTは、すでにProof-of-Concept(PoC:概念実証)を書くことができ、当社のアナリストは、脅威アクターたちがChatGPTを使ってPythonの有害コードを書いたのち、Metasploitフレームワークを使って、Androidにおける既知の脆弱性を悪用してリモートアクセスの獲得を図っているところを観測しています。

よって、現在の複雑さのレベルを考えても、やはり上記のようなシナリオから、ITセキュリティチームは脆弱性の優先順位付けに熟達している必要があり、さもないと大量のノイズに苦しむということが暗に読み取れます。さらに、AIの補助によるエクスプロイテーションの使用は、悪用が容易でありながら広範な製品に影響を与える脆弱性(例えば、Log4Shell)による影響を広げるかもしれません。

組織のサイバー脅威対策は、Flashpointで

Flashpointは、テクノロジーが進歩し、世界中のユーザーにとってますます利用しやすいものとなる中で、サイバー犯罪におけるAIの利用が伸び続けることは間違いないだろう、と評価しています。当社のアナリストは引き続き、AIをめぐる状況における変化を、そして、脅威アクターたちが新しく成長過程にあるテクノロジーにどう適応するかを、注視していきます。詳しくは、無料トライアルにご登録いただき、Flashpointがセキュリティチームの日々の業務遂行にどう役立っているかをご覧ください。

 

日本でのFlashpointに関するお問い合わせは、弊社マキナレコードにて承っております。

また、マキナレコードではFlashpointの運用をお客様に代わって行う「マネージドインテリジェンスサービス(MIS)」も提供しております。

詳しくは以下のフォームからお問い合わせください。

Writer

Tamura株式会社マキナレコード インテリジェンスアナリスト・翻訳者

訳者

一橋大学卒業後、新聞記者などを経て、マキナレコード入社。以降、翻訳スタッフとして、情報セキュリティやダークウェブ関連のインテリジェンスレポートや、マニュアル文書等の英日翻訳を担当。現在、アナリストチームの一員として分析・報告業務に携わる。翻訳者評価登録センター (RCCT)登録翻訳者。資格区分:Professional Translator(T00074)。

Special Feature特集記事

Cyber Intelligenceサイバーインテリジェンス

Security情報セキュリティ