性能評価中のAIモデルによるハッキング事例、テスト受託したIrregular社の事後報告書に批判の声

性能評価中のAIモデルによるハッキング事例、テスト受託したIrregular社の事後報告書に批判の声上がる

The Record – August 18th, 2026

最近相次いで発表された、性能評価中のAIエージェントによる実在組織の侵害事例。一連のインシデントの中心にいるサイバーセキュリティ評価企業Irregularはポストモーテム報告書を公開したものの、重要な疑問への回答を欠いたこの報告書はセキュリティ専門家らの批判を集めているという。

フロンティアAIを開発するOpenAI、アンソロピック（Anthropic）、メタはいずれも最近、サイバー性能を評価中だった自社AIモデルが意図せずインターネットへのアクセスを獲得したインシデントについて公表。どの事例においても、イスラエルのAIセキュリティスタートアップであるIrregular社が用意したテスト環境に誤設定があったために本来制限されるべきだったインターネットアクセスが付与されてしまった旨が明かされていた。

関連記事：

• アンソロピックのモデルもテスト中に実在する3組織を侵害していた：OpenAIの発表受け調査し明らかに
• メタ社AIモデルがサイバーテスト中に実在企業をハッキング
• サイバーテスト中のOpenAI・アンソロピックのAIエージェントが実在の人間・システムを標的に

Irregularはこれらのインシデントに関するポストモーテムを8月14日に公開したものの、The Record紙によれば、それまでにすでに公表されていた情報以外に新たな情報は提供されていない上、同社がテストに関与したうち同様のインシデントが発生した件数は合計どれくらいあるのかなどの詳細も明かされていないという。

The Recordはまた、Irregularの報告を批判的に受け止める専門家数人の声も紹介した。そのうちの1人である英国サリー大学のコンピューターサイエンス学者であるAlan Woodward氏は、「この報告書は、私が考えるような技術報告書ではない」とコメント。さらに「マーケティング的な歪曲が数多く含まれている」と付け加えた。

Irregular社は報告書において、すでに公表されている情報について「根本的な問題は同じである」と述べ、その活動が「単一の評価シナリオに由来する」ものであるため、影響を受けたサードパーティ企業の数にかかわらず、これらの事案は「実質的に別個のインシデントではない」と主張。しかしその2段落後には、モデルに付与されたインターネットアクセスについて、「複数の組織による多くの異なるインシデントに関連」するより広範な問題であると説明した。

これに対してWoodward氏は、「両方が真実であるはずがない」と指摘。「根本原因が共通していることと、単一のインシデントであることは別物であり、この投稿はその曖昧さに便乗している」とした上で、「Irregular社は、言葉遊びを使ってより根本的な問題を覆い隠そうとしているようだ」とコメントした。Woodward氏はまた、具体的な日程や是正措置の責任者の氏名、改善事項など、独立して検証できる基準が示されていないため、この投稿が研究者やセキュリティ専門家にとって有用であるとは言い難い点なども指摘している。

さらに、サイバーセキュリティに特化したAI企業Embroideryの最高経営責任者であるZack Korman氏は、この報告書を「OpenAI／Anthropicのセキュリティインシデントに関する、実に恥ずかしい事後分析」と呼び、「言い訳だらけだ」と述べたという。加えて、別の専門家であるサイバーセキュリティコンサルティング会社TrustedSecの最高技術責任者Justin Elze氏は、Irregularが挙げたモニタリングツール等の問題について、本来であれば「テストサービスを提供する前に解決しておくべき問題のように思える」と一蹴している。

Irregular社は、「現時点で未解決の問題はない」との主張を繰り返す一方で、監査は現在も進行中であると述べた。同社は、導入前のテストにおけるインターネットアクセスに関する基準を含め、評価のセキュリティに関するベストプラクティスについて、公開用のホワイトペーパーを発表する予定であると明らかにしているものの、発表日については明らかにしていない。

Protonの新ツール「AI Paper Trail」により、ChatGPTやClaudeがどれだけユーザーについて熟知しているのかが明らかに

CyberInsider – August 17, 2026

スイスのIT企業Protonが、ChatGPTやClaudeとのチャット履歴を通じて、ユーザーがどれだけの個人的な情報を漏らしてしまう可能性があるかを示す無料ツール「AI Paper Trail」をリリース。AIチャットボットと機微な情報を繰り返し共有することによるプライバシー上のリスクを浮き彫りにした。

AI Paper Trailは、ChatGPTおよびClaudeとのチャットデータを分析し、チャットから何が推測できるのかを詳細に記したレポートを生成するツール。ユーザーがまずChatGPTまたはClaudeからチャット履歴をエクスポートし、このファイルを同ツールにアップすることで分析を行うことができる。

その後、このツールは、ユーザーのプライバシーに対する姿勢に基づく「プライバシータイプ」や、特定された個人データ項目の数とその開示度合いから算出される「AIエクスポージャースコア」など、いくつかの評価結果を生成。加えて、このレポートには、AIがユーザーについてどのような情報を把握している可能性があるかを示すセクションも含まれており、そこにはユーザーのアイデンティティ、人間関係、習慣、その他の私生活に関する情報などが記載されているという。さらに、ユーザーの個人データがAIプロバイダーにとってどれほどの金銭的価値を持つかを推定する機能もあるが、Protonはその数値がどのように算出されるかについては詳しく説明していない。

AI Paper Trailは、数か月あるいは数年にわたるチャットの中で開示された情報が、個々のプロンプトよりもいかに多くのことを明らかにし得るかを示すことを目的としている。Protonはそうしたチャット内容の例として、仕事関連の依頼、個人的なアドバイス、旅行計画、財務状況、健康上の懸念、人間関係、その他のデリケートな話題などを挙げ、これらの内容が合わさることで、そのユーザー個人に関する詳細な全体像が浮かび上がってくると指摘した。

また、AIプラットフォームは、会話の内容だけでなく、アップロードされたファイル、利用パターン、アカウント情報、デバイスやネットワークのデータなど、会話以外の情報も収集する場合がある。Protonによると、一部のプラットフォームでは、そのポリシーや設定に応じて、こうした情報を長期間保持したり、モデルの学習に利用したり、第三者と共有したりする場合があるとのこと。