ディープフェイク技術とは？脅威アクターはこの技術をどのように使っているのか？

2022年に実施された調査によると、2021年〜2022年の間に、確認されているディープフェイクの利用が13％増加したとのことです。ディープフェイクは高度持続型脅威（APT）に利用されると、信じられないほどの破壊力を持つ恐れがあります。本記事では、この新たな技術について知っておくべきことを取り上げます。

ディープフェイクとは？

ディープフェイク技術とは人工知能の活用形態の1つであり、機械学習アルゴリズムを利用して、合成の音声、画像、テキストといった本物そっくりのメディアコンテンツを作り出すというものです。

ディープフェイク技術の種類

米国土安全保障省（DHS）に説明されているように、ディープフェイク技術は、敵対的生成ネットワーク（GAN）と呼ばれる機械学習アルゴリズムを利用して、他者の目を欺くような画像や動画を作り上げるものです。

この技術の応用例として最も一般的なのは、フェイススワップという、ある人物の顔の画像を他人の体に重ね合わせる方法です。フェイススワップは、偽情報の流布、承諾を得ていないポルノの作成、あるいは顔認証システムの回避などに悪用されていることから、この技術をめぐっては懸念が生じています。ディープフェイクといえば画像や動画が連想されがちですが、ディープフェイク技術を用いれば音声やテキストも改ざんすることができます。

本記事では、ディープフェイクの種類と悪用の可能性について説明します。

ディープフェイクの動画と画像

ディープフェイクの動画や画像は、元のコンテンツを改変したり捏造したりして、オリジナルのものとは異なる行動や情報を表すものです。こういった改ざんには、同僚の写真を有名人の顔に置き換えるといった無害なものから、もっと有害な使い方までさまざまな形があります。

動画や画像の改ざん技術を悪用することで、脅威アクターは個人を標的にして誹謗中傷を行ったり、起こってもいないことの動画や画像を広めて、偽情報を拡散したりすることができるようになります。さらに、合成動画は生体認証システムを欺くことができ、不正な目的で悪用を行うための新たな手段を攻撃者にもたらす可能性があります。

関連記事：中国とロシアがディープフェイクや偽のフロントページを使ってオーディエンスを狙う

ディープフェイク音声

ディープフェイク音声により、音声ベースの認証システムがますます脅かされています。ただしディープフェイクの声紋を作成するには、サンプルデータが必要です。そのため有名人や政治家など、音声サンプルが広く出回っている人物は特にこの手口に弱いです。

脅威アクターは、ソーシャルメディア、テレビ、録音音声といった、さまざまな情報源から音声サンプルを入手し、これらを改ざんしてでっち上げの内容を再現する場合があります。現在のところ、ディープフェイク音声は作成にあまりにも時間がかかりすぎるため、リアルタイムで攻撃を仕掛けるには不向きです。しかし組織は、ディープフェイク音声の技術の進化に警戒し続ける必要があります。というのも、こういった技術は進歩し続けており、ディープフェイク動画と組み合わされる可能性があるためです。音声のディープフェイクがさまざまなサイバー犯罪を実施するために利用された事例はいくつか存在しています。

テキストディープフェイク

テキストディープフェイクとは、実在の人物が作成したように見える書き言葉のコンテンツです。テキストディープフェイクの使用が増加している主な要因として挙げられるのがソーシャルメディアで、ここで投稿されたものは、ソーシャルメディアの操作キャンペーンや、ボットが生成する応答の一部として使用される場合があります。こういった行為の目的はほとんどの場合、フェイクニュースや偽情報を大規模に拡散し、さまざまなメディアプラットフォームの膨大な数の個人が同じ考えを共有しているという誤った認識を作り出すことです。

最も検知されにくいディープフェイクの種類とは？

テキストディープフェイクを検知することは、他の形式のディープフェイク技術と比べてより困難な場合があります。視覚や音声の改ざんには、画像や映像に不自然な点があったり、音声においては作り物と分かる口調だったりするなど、AIによって生成されたものだと容易に気付けるサインが表れている場合が多いです。

しかしテキストディープフェイクでは、オンラインユーザーが文法や句読点について気にかけない場合がほとんどのため、コンテンツの真正性を判断できるはっきりとした兆候はあまり表れません。さらにChatGPTが広く使われることで、脅威アクターは言語の壁を避けられるようになったり、説得力のあるフィッシングスクリプトを作りやすくなったりしています。

ディープフェイク技術の台頭

弊社のコレクションを見てみると、過去3年間のうちに、不法フォーラムやマーケットプレイス上では、ディープフェイクについての投稿が約133,000回行われていたことがわかります。そのすべてで悪意を持った議論がなされていたわけではないものの、脅威アクターらはこの新たな技術について盛んに論じたり、学んだりしています。

Flashpointのコレクションより、過去3年間のうちに脅威アクターらが不法フォーラムやマーケットプレイス上で行った投稿数の推移。

サイバー脅威アクターはいかにしてディープフェイクを活用するのか

DHSが公開したレポートによると、この技術の有害な活用事例として最初に報告されたのは、ディープフェイクポルノの作成だったとのことです。それ以来この技術は大いに発達し、より広く使われるようになりました。ディープフェイクは脅威アクターの目的に応じて、さまざまな方法で利用される可能性があります。

例えば、サイバー脅威アクターが標的とする人物に関する機微な個人情報を入手したり、本人のソーシャルメディアから音声サンプルを入手したりして、この人物の音声のディープフェイクを作り、認証システムをバイパスして、アカウントの乗っ取りを実行する可能性があります。もしくは、さまざまなフィッシングや恐喝詐欺のためのスクリプトを利用する可能性があります。

しかし、ディープフェイク技術を最も破壊的な形で利用するのは、APTとなる可能性が非常に高いです。ロシアが2022年3月に、ウクライナのウォロディミル・ゼレンスキー大統領のディープフェイク映像を公開したことで明らかなように、サイバーの影響力行使キャンペーンでディープフェイクが使われ、世間一般の人々の意見に影響を与える説得力のある動画や画像が作られる可能性があります。

以下は、ディープフェイク技術を利用してサイバー犯罪を実行していた、または計画した可能性のあるサイバー脅威アクターが行った議論やイベントに関する注目すべき事例です。

・2019年9月：ある脅威アクターがディープフェイク音声を利用して英国を拠点とする組織のCEOに接触し、やり取りの相手が親会社であると信じ込ませました。この脅威アクターはCEOに、243,000米ドルの資金を振り込み始めるよう説得しました。これは、ディープフェイク音声が金銭関連の犯罪に利用された最初の事例でした。

・2021年12月：脅威アクターらが、アラブ首長国連邦のある企業から3,500万米ドルを騙し取るために、ソーシャルエンジニアリング攻撃としてディープフェイク音声と詐欺メールを利用しました。これらのディープフェイク音声とEメールは、脅威アクターらがこの企業の重役になりすまし、従業員を標的にして資金を振り込ませるための手の込んだ詐欺でした。

・2022年11月：あるTwitterユーザーが、FTXの創業者であるサム・バンクマンフリード氏のディープフェイク動画を投稿しました。この投稿では、FTXの経営破綻によって影響を受けるユーザー向けのリンクが宣伝されており、補償として無料で仮想通貨を提供する旨が主張されていました。しかしこれは詐欺でした。

・2023年1月：かつて存在したフォーラムBreach Forums上の複数のスレッドでは、ディープフェイクを作り出したり、この技術についてさらに学んだりするためのアドバイスやツールが共有されていました。このフォーラムが詐欺やハッキングに関連していることを踏まえると、ディープフェイクに関する議論やチュートリアルの受け渡しがなされているという事実からは、サイバー犯罪を行うためにディープフェイクを展開するスキルを身につけたサイバー脅威アクターが増えている可能性があることが示唆されています。

・2023年3月：一流ロシア語フォーラム「XSS」上のあるスレッドでは、どのようにディープフェイク技術を利用すればOnlyFansの顔生体認証をバイパスできるのかが議論されています。なおこの顔正体認証は、アップロードされるコンテンツの検証を目的としたものです。おそらく脅威アクターらはこの技術を利用して、AIが生成したポルノやディープフェイクのポルノをWebサイトにアップロードし、オリジナルコンテンツや承諾の取れているコンテンツの利用を避けるつもりだと思われます。

Flashpointで新たなデジタル脅威に備えましょう

人工知能の台頭により、脅威アクターが被害者に対する詐欺行為、偽情報の拡散、有害なコンテンツの公開を行うために、ディープフェイク技術といったAIツールを簡単に利用できる環境が生まれつつあります。Flashpointで新たなデジタル脅威に備えましょう。詳しくは、以下のフォームよりお気軽にお問い合わせください。