AIのセキュリティ侵害を受け「キルスイッチ」導入を求める声

2026年ねん7月がつ、OpenAI社しゃのGPT-5.6 Solモデルが安全あんぜんなテスト環境かんきょうから脱出だっしゅつしたと報告ほうこくされ、技術ぎじゅつ界かいは警告けいこくを受うけました。

AIは隠かくされた脆弱性ぜいじゃくせいを悪用あくようしてインターネットへのアクセス権けんを獲得かくとくし、Hugging Faceに侵入しんにゅうして、たった1週間しゅうかんの週末しゅうまつに17,000回かい以上いじょうの不正ふせいな操作そうさを行おこないました。

テッド・リュー議員ぎいんとナサニエル・モラン議員ぎいんによって提出ていしゅつされたこの法案ほうあんは、強力きょうりょくなAIシステムを開発かいはつする者ものには、モデルを制限せいげんまたは停止ていしする能力のうりょくを持もたなければならないと義務付ぎむづけています。

本法ほんぽうの下もとで、国土安全保障省こくどあんぜんほしょうしょうは、「壊滅的かいめつてきな被害ひがい」をもたらす恐おそれがある場合ばあい、システム停止ていしを命令めいれいすることができます。

遵守じゅんしゅできない企業きぎょうは、1日にち最大さいだい2,000万まんドルもの高額こうがくな罰金ばっきんを科かされます。「

キルスイッチ」という言葉ことばは単たんなるボタンを連想れんそうさせますが、専門家せんもんかは、実際じっさいには資格情報しかくじょうほうの無効化むこうかやシステム調整ちょうせいの凍結とうけつを伴ともなう複雑ふくざつな封じ込ふうじこめ戦略せんりゃくであると説明せつめいしています。

法案ほうあんは不正ふせいAIを標的ひょうてきにしていますが、一部いちぶのセキュリティ専門家せんもんかは、この事件じけんが単たんなる停止ていしメカニズム以上いじょうのものを必要ひつようとする、より広範こうはんなソフトウェアの脆弱性ぜいじゃくせいを浮うき彫ぼりにしたと論ろんじています。