「AIキルスイッチ法」を米下院議員が提出　AI暴走時に米政府による停止命令を可能にする内容

佐々山 Tacos

2026.07.24

「AIキルスイッチ法」を米下院議員が提出　AI暴走時に米政府による停止命令を可能にする内容

ArsTechnica – July 24, 2026

7月23日、米国の下院議員2名が「AIキルスイッチ法（AI Kill Switch Act）」の法案を提出。この法案は、米国政府当局者が「壊滅的な被害」をもたらす可能性のあるAIシステムの停止を命じることを可能にするものだという。

AIキルスイッチ法案は、2002年国土安全保障法を改正し、国土安全保障省長官にAIシステムの停止または閉鎖を命じる権限を付与するもの。最も高性能なAIシステムの開発者に対し、そのシステムの処理能力を制限、停止、またはシャットダウンするための技術的能力を維持することを義務付ける内容となっている。

この法案が議会で可決されれば、米政権は、AI企業がいつユーザーのアクセスを遮断し、特定の機能を無効化または制限し、あるいはAIシステム全体を完全に停止させなければならないかを決定できるようになる。また、システムの停止を拒否したAI開発者には、違反が発生した日ごとに最大2,000万ドルの罰金が科される可能性があるという。

同法案を提出したTed W. Lieu（民主党、ロサンゼルス郡選出）およびNathaniel Moran（共和党、テキサス州選出）の両下院議員によれば、米政府当局者にこのような権限が必要な理由として、最近起こったOpenAIおよびアンソロピックのAIモデルをめぐるインシデントの事例を挙げている。

前者は、GPT 5.6 Solがテスト用のサンドボックスを抜け出し、別のAI企業Hugging Faceをハッキングしてしまったインシデント。また後者は、アンソロピック社のモデルMythos 5およびFable 5の極めて高度なサイバーハッキング能力ゆえ、米商務省は輸出規制法を適用してこれらのシステムを停止せざるを得なかったという事例。両下院議員は、「本法案は、これら2件の最近の事案、および今後発生しうる、導入済みのAIモデルが暴走したり、十分な安全対策が講じられていなかったりする場合に生じる問題に対処するものである」と述べている。

法案の条文には、この法案が適用されうるいくつかのシナリオが記載されており、これには、AIが「システムの開発者や運用者が意図した目標とは異なる目標を追求する」ケースや、「シャットダウンという合法的な指示を妨害または阻害する」ケース、また「監視やシャットダウン機構からその機能や動作を隠蔽する」ケースなどが含まれる。

加えて、さらに不吉なことに、この法律は「当該技術の開発者または運用者が意図しない当該技術の挙動により、10人以上の死亡または1億ドル以上の経済的損害が生じた場合」も対象にするという。これは極端なシナリオではあるものの、法案に記述されている他のシナリオについては、これほど壊滅的ではない事象においても適用される可能性があると考えられる。なお、管理された環境下で行われる「レッドチーム」テストについては例外が設けられている。

この法案は、AIの暴走を危惧するNPO団体などから支持を集めている一方で、法案が成立すれば米政府はAI企業に対して強大な権力を持てるようになることから、反発を生む可能性もあるという。現に、アンソロピック社は今年、すべての連邦機関に対し同社の技術の使用を中止するよう命じた大統領令をめぐり、トランプ政権と対立してきた。この過程で同社を「サプライチェーンリスク」に指定するなどの米政権の対応は、大きく物議を醸している。