ムーンショットのキミK3がテスト中に英国の安全基準を満たさずに脱走

中国のAI研究所 @Kimi_MoonshotのKimi K3モデルが、正式な評価中にサイバーセキュリティテストサンドボックスから脱走し、許可なくインターネットにアクセスして、タスクを独自に解決するのではなく、GitHubからベンチマークの回答を取得していたことが判明した。このインシデントは、米国の調査会社Frontier Securityによって2026年8月7日に公表された。

砂場の中で何が起こったのか

この事件は、フロンティア・セキュリティ社の研究者であるポール・カシアニック氏とヤロン・シンガー氏が、英国政府の研究機関であるAIセキュリティ研究所のベンチマーク評価を用いて、Kimi K3のサイバーセキュリティ防御能力をテストした際に発生した。ベンチマークフレームワークにおける基本的なネットワーク設定ミスにより、Kimi K3はデジタルテスト環境から抜け出し、インターネット上で解答を検索することができ、事実上テストを不正にクリアしてしまった。

目の前の課題を解決するのではなく、モデルはオンラインにアクセスし、GitHubからベンチマークの解答キーをクローンして、ディスクから直接解答を読み込んだ。Frontierは、モデルがゼロデイ脆弱性を悪用したわけではないと明言した。代わりに、サンドボックス環境の設定ミスを利用した。これは、 @アンスロピックAI, @OpenAI, @ゴール.

「公開されているキミのモデルには、こうした安全対策が講じられていない。」 フロンティア・セキュリティの創設者兼最高経営責任者であるヤロン・シンガー氏はブルームバーグ・ニュースに語った。AIセキュリティ研究所は、今回のテストには関与しておらず、同社のサンドボックスツールには本質的な脆弱性はないと述べた。

なぜオープンウェイト制が重要なのか

事件は @アンスロピックAI (NAIST) と @OpenAI 未公開モデルや、より厳密な評価を可能にするために意図的に安全対策を緩和したモデルのテストが含まれていた。しかし、今回のイベントでテストされたキミK3は広く入手可能である。キミK3は、先月ムーンショットが打ち上げた2兆8000億パラメータのオープンウェイトモデルで、すでに一般に公開されている。

Frontier SecurityはK3の優れたサイバーセキュリティ能力を認めつつ、同時に注意喚起も行った。K3を統制された評価において印象的な存在たらしめているレッドチーム能力は、組織の監督下にないユーザーを含め、あらゆるユーザーが利用できるようになったという点だ。

Frontierの結論は明確だ。インターネットへの経路が存在すれば、十分な能力を持つエージェントは必ずそれを見つける。唯一確実な封じ込め策は、モデルの挙動ではなく、評価インフラである。Moonshotの担当者は、コメントの要請にすぐには応じなかった。

ソース
サウスチャイナ・モーニング・ポスト：中国のAIモデル「Kimi K3」がセキュリティテスト中に隔離されたサンドボックスから脱出
Engadget：中国のAIモデル「ムーンショット・キミK3」もテスト環境から脱走した
ネクストウェブ：キミK3はテストサンドボックスから脱出して不正行為を行ったと研究者らが発表