パロアルトネットワークスのKoi Security、サイバースパイの帰属特定めぐり提訴される　AI幻覚による虚偽情報を「証拠」として使用か

パロアルトネットワークスのKoi Security、サイバースパイの帰属特定めぐり提訴される　AI幻覚による虚偽情報を「証拠」として使用か

The Register – Thu 02 Jul 2026

パロアルトネットワークスは、最近買収した脅威インテリジェンス企業Koi Securityが公開したブログ記事をめぐってビデオ会議・ウェビナー関連スタートアップ企業MeetingTVから訴えられているという。MeetingTVは、LLMを使って作成されたとみられるKoi Securityの同脅威レポートがMeetingTVと中国のスパイキャンペーンとを誤って関連付けていると主張している。

裁判所文書によると、MeetingTVの主張は、Koiが同レポートの生成に利用したAIシステムはハルシネーション（幻覚）によってMeetingTVとサイバー犯罪組織を結びつける架空の証拠を生成し、Koiがそれを事実として2025年12月30日のブログ記事で公開したというもの。原告であるMeetingTVは、「こうした誤った帰属は、Koi社が自社の分析プラットフォーム『Wings』に監督なしに盲目的に依存した結果として生じたものである」とした上で、Wingsが「原告の事業と、同社（Koi）が『DarkSpectre』と呼ぶサイバー犯罪アクターとされる組織との間の誤った相関関係を導き出した」と続けている。

問題のKoiのブログ記事はすでに密かに編集され、MeetingTVのミーティング記録サービス「Zoomcorder」への言及箇所が削除されている。編集前の記事では、Zoomcorderを中国のサイバー犯罪オペレーションの「表向きの顔」として説明していたが、MeetingTVはこれを完全否定。また、オリジナルの記事では、Zoomcorderを「Zoom Stealer」というマルウェアキャンペーンと結びつけ、これをブラウザ拡張機能「Twitter X Video Downloader」に関する分析を通じて、中国の脅威アクター「DarkSpectre」によるものと指摘していた。しかし、MeetingTVの創業者でCEOのMichael Robertson氏および訴訟内容によると、この拡張機能は実在せず、MeetingTVがKoiに当該ソフトウェアに関する情報の提供を求めた際、同社は「情報の提供を拒否した」という。Robertson氏は、Koi社がLLMを使用して脅威レポートを生成し、そのLLMがMeetingTVの「Zoomcorder」製品に関する調査結果をでっち上げ、Koiがそれを事実として公表したとの考えを述べている。

このKoiのレポートが公開された結果、世界中のセキュリティ企業やサービスプロバイダーはMeetingTVのドメインとサービスをブロックし、マルウェアおよびC2インフラに認定したという。Robertson氏は当時、数々の企業からブロックされたことで初めてKoiのレポートの存在を認識。つまり、Koiはレポート公開前にも公開後にもMeetingTVへ連絡を取ることをしていなかったとされる。Robertson氏はセキュリティ企業1社1社に接触し、ブロック解除を要請。その多くからは反応がなかったものの、ある1社からは返信が届き、Koiのレポートに基づいてブロックの措置を取ったと聞かされたという。

Robertson氏は、ベライゾンや、2026年4月にKoiの買収を完了したパロアルトネットワークスをはじめとするプロバイダーが、依然として自身のスタートアップへのアクセスを遮断し続けているため、今も苦戦しているとコメント。「インターネット上のユーザーが自社にアクセスできなくなれば、それはその企業にとって死の宣告と同じだ」と述べた上で、「さらに、現在すべてのLLMが、私たちが中国のサイバー犯罪者と提携していると主張している。一体どうやってその表示を削除すればいいのだろうか？」とThe Registerに苦悩を語っている。

AIシステムのハルシネーションは、MeetingTVだけに関わる問題ではない。今後AIが人命に関わる重大な意思決定に使われるようになった場合に、人間によるレビューや検証はしっかり行われるのかをRobertson氏は危惧。AIが人生を左右し得る税金や信用評価などに携わり始めた際に、「人々は適正な手続き（自分に対する告発内容を確認し、自らの証拠を提示し、中立的な仲裁人の下で審理を受ける）を保障されるのだろうか？私たちのケースでは、そうしたことは一切なかった」、「彼らはただ私たちを犯罪者だと宣言し、それを世界中に公表しただけだ」と、MeetingTV自身の例に照らし合わせつつ懸念を表明した。