プライバシーの悪夢?Windows 11のAI新機能「Recall」に懸念の声 | Codebook|Security News
Codebook|Security News > Articles > Threat Report > プライバシーの悪夢?Windows 11のAI新機能「Recall」に懸念の声

Threat Report

AI

Bitlocker

Copilot

プライバシーの悪夢?Windows 11のAI新機能「Recall」に懸念の声

佐々山 Tacos

佐々山 Tacos

2024.05.23

プライバシーの悪夢?Windows 11のAI新機能「Recall」に懸念の声

(情報源:BleepingComputer – May 22, 2024

マイクロソフトが先日発表した、AIを利用したWindows 11の新機能である「Recall(回顧)」。Windows上でユーザーが見たものや行った動作をすべて記録し、後から検索できるようにするという強力な機能だが、一方でセキュリティ業界や一般ユーザーからはプライバシーリスクを懸念する声も上がっているという。

Recallとは?

Recallは、マイクロソフトの新PC製品「Copilot+ PC」で利用可能な、AIを使った新機能。「思い出す、思い起こす」といった意味の英単語が名称として採用されている通り、ユーザーはこの機能を使うことで、PC上で自らが行った過去のあらゆる動作を「思い出す」ことができる。具体的には、Recallはアクティブなウインドウのスクリーンショットを数秒ごとに撮影してWindows内で行われるすべての操作を記録する。これらのスナップショットはデフォルトで最大3か月間ローカルに保存され、データ抽出のためにNPUとAIモデルによって分析される。抽出されたデータはセマンティックインデックスに保存され、Windowsユーザーはスナップショットの履歴を閲覧したり、キーワード検索をかけたりすることができる。

関連記事:Windows 11のAI新機能「Recall」はPC上のすべての行動を記録

Recallをめぐるプライバシー/セキュリティ上の懸念

マイクロソフトによると、スナップショットのデータはすべてBitLockerを使って暗号化され、同じデバイス上の他のユーザーと共有されることはないという。同社はまた、Recall用のデータはローカルでのみ利用可能でクラウドには保存されず、「マイクロソフトがこのデータにアクセスすることはない」とも述べて安全性を強調している。

しかし、主に以下に挙げるような理由から、ユーザーや専門家の間では懸念の声が多く聞かれている。なおBleepingComputerによれば、同紙がRecallについてのツイートをしたところ90件以上のコメントが寄せられたが、そのすべてがネガティブな反応だったという。

マイクロソフトへの不信感

BleepingComputerによると、サイバーセキュリティの専門家や研究者、アナリストらがRecallへの強い不安感を抱いている最大の理由は、マイクロソフトへの不信感があるからだという。これまでにも、数々の大企業がユーザーのデータを自社の利益のために食い物にしてきたという経緯があるために、たとえマイクロソフトが「Recallのデータにはアクセスしない」と主張したとしても、ユーザー側としてはそう簡単にこの言葉を信じることはできないという現状がある。

ユーザーのみならず、英国のデータ保護機関であるICO(情報コミッショナーオフィス)もこの新機能に関する声明を出しており、「ユーザーのプライバシーを守るためにどのような防護対策が講じられるのかについて理解するため、マイクロソフトに問い合わせを行っている」と述べている。

コンテンツモデレーション不在=パスワードなど機微なデータがそのまま記録されることに

Recallでは、取得されたデータはモデレーションが行われることなくそのまますべて保存されることになる。つまり、例えば画面上でパスワードマネージャーを開けばそこに記載されたパスワードがそのまま保存される。またオンラインバンキングの操作も記録されるので、口座番号などの情報もデータとして残ることになる。さらに、Wordで契約書などの機密文書を作成すれば、そのスクリーンショットも撮影されることになる。このため、家族などとPCを共有していて、ユーザーを分けていない場合、こうした情報が共有相手にも見られてしまう恐れがある。

もちろん、どのような画面を撮影させるか、あるいは撮影させないかは設定可能だが、ほとんどのユーザーはそうした細かな設定をせずにデフォルト状態でRecallを使用することになるだろうと思われる。

脅威アクターやマルウェアがデバイスを侵害するというシナリオも

脅威アクターやマルウェアなどは、PCを侵害することに成功すれば、Bitlockerによってすでに復号された状態のRecallデータにアクセスできるようになる。このようなシナリオでは、アクターはRecallのデータベースを窃取して自らのサーバーにアップ・分析し、得られた情報を使ってユーザーを恐喝する可能性がある。また、データ内に認証情報が含まれていれば、ユーザーのさまざまなアカウントが侵害される恐れもある。

さらに、著名なサイバーセキュリティ専門家であるKevin Beaumont氏に至っては、Recallを「Windowsに組み込まれたキーロガー」に喩え、この新機能が甚大なアタックサーフェスを生むであろうことを危惧。同氏は、スティーラー(情報窃取型マルウェア)がローカルに保存されたパスワードなどの情報を盗んできたというこれまでの歴史を踏まえ、Recallに記録された情報を盗む性能も取り入れられるだろうと述べている。

関連記事

Threat Report

Threat Report

AI

Bitlocker

Copilot

高まる懸念:Windows Recallから全データを抽出できるツールを、研究者がリリース

佐々山 Tacos

佐々山 Tacos

2024.05.23

関連記事

Threat Report

Threat Report

AI

Bitlocker

Copilot

スティーラーマルウェアの進化と隆盛

佐々山 Tacos

佐々山 Tacos

2024.05.23

Special Feature特集記事

Cyber Intelligenceサイバーインテリジェンス

Security情報セキュリティ