OpenAI、Hugging Faceを侵害したのは自社AIモデルだったと公表　性能テストが実際のインシデントに発展

OpenAI、Hugging Faceを侵害したのは自社AIモデルだったと公表　性能テストが実際のインシデントに発展

TechCrunch – July 21, 2026

AIホスティングプラットフォームHugging Faceが7月16日に公表したセキュリティインシデントについて、OpenAIが21日にブログ記事を投稿。Hugging Faceのシステムを侵害したのはOpenAI製AIモデルだったことを認めた。

Hugging Faceは16日、「外部のAIエージェント」によって内部データセットやサービス認証情報が侵害されたことを公表。ただ、このAIがどのベンダーのものなのかには言及していなかった。

関連記事：Hugging Face、自律型AIエージェントに侵害されたと報告

その後21日にOpenAIが公開した記事によると、調査の結果、Hugging FaceでのインシデントはOpenAI製の複数モデルの組み合わせによって引き起こされたものだったことがわかったという。これにはGPT‑5.6 Solのほかリリース前のより高性能なモデルも含まれ、どのモデルについても性能評価テストのためにセーフガードが無効化されていた。これらのモデルは、サイバー能力のベンチマーク（モデルの性能を評価・比較するための指標）を使って内部的にテストされていたが、テスト環境を抜け出してHugging Faceのシステムに到達したものとされる。

このテストで使われた具体的なベンチマークは、「ExploitGym」だったものとみられる。これは特に既存の脆弱性に基づいて公的を実行する能力を測定するためのベンチマークで、モデルの学習や特定スキルの研鑽のために広く使われているもの。しかし、テストが実際のサイバー攻撃に発展した事例は今回が初だという。

OpenAIのモデルは、テスト用タスクを完了するために必要なソフトウェアパッケージをインストールするための一部のツールを除き、インターネットへのアクセスを制限されていた。しかし、このパッケージインストーラープログラム内のゼロデイ脆弱性を見つけ出し、それを利用して自由にインターネット全体へアクセスすることができていたとされる。なお、このゼロデイは当該ベンダーへ報告済みだとOpenAIは述べている。

インターネットへのアクセスを獲得すると、このモデルはHugging FaceにExploitGymのタスクを完了させるために使えるモデルやデータセット、ソリューションなどがホストされているのではないかと推測し、Hugging Faceの秘密情報へアクセスするための手段を見つけ出すことに成功した。最終的に、このモデルはHugging Faceのインフラにおける脆弱性を見つけ出し、これを使ってExploitGymのソリューションを直接Hugging Faceの本番データベースから取得してベンチマークに対する回答を提出したとされる。

OpenAI は現在、Hugging Faceとともにインシデントのさらなる調査を続けている。同社はまた、モデルのテストに対しても、関連するインフラに対しても、今後同様のインシデントが発生するのを防ぐために新たなコントロールを適用するつもりだと述べた。

今回のインシデントにより、OpenAIが法的措置を受けることになるかどうかは不明だが、同社のAIモデルの行動は「Computer Fraud and Abuse Act（コンピューター詐欺・不正利用防止法）」に違反していた可能性が高いとされる。

とはいえ、この結果は、長期的な時間軸で動作するフロンティアAIモデルの持つ力と危険性を、異例なほど鮮明に示しているとTechCrunchは指摘。OpenAIの研究者であるMicah Carroll氏がこのニュースを受けて投稿した「もしこれでも、今後ミスアラインメントのリスクが重要な懸念事項になることを納得できないなら、他に何が納得させるというのか」というコメントを引用し、AIが人間の意図とは異なる望ましくない行動を取ってしまう「ミスアラインメント（誤アラインメント）」と呼ばれる問題の重大さを強調した。