前代未聞のAI暴走事故！　中国製AIが事態の収拾に一役

米SF映画「ターミネーター」には、人工知能（AI）が制御不能となり、人類に攻撃を仕掛けるというストーリーが描かれている。このほど、まさにそれを彷彿とさせる事件が米国で発生した。ただし、映画と異なり、事態の収拾に一役買ったのは中国のAIだった。

先週、米国の大手AIオープンソースコミュニティ「Hugging Face」は、システムへの不正侵入を検知した。従来の攻撃と異なり、今回はAIエージェントが完全に自律的に実行したものだったという。

Hugging Faceが現地時間16日に発表した声明によると、この極めて異例のAIによる侵入に対処するため、同社は直ちに米国の最先端AI大規模モデルを使って解決策を探ろうとした。ところが、侵入被害に関する情報を米国のクローズドソースモデルに入力すると、いずれも解析作業を拒否した。セキュリティ上のガードが過度に働き、インシデント対応者と攻撃者を区別できず、解析を一律に拒否したためだ。

そこでHugging Faceが思い付いたのが、同じく高い能力を備えた中国のオープンソースモデルだった。同社は直ちに中国企業の智譜AIが開発した大規模モデル「GLM 5.2」を自社インフラ上に導入し、この中国製モデルの支援を受けて、侵入事件への対応に成功した。

この時点では、Hugging Faceに侵入したAIエージェントはまだ特定されていなかった。

その後、OpenAIは7月21日、Hugging Faceへの侵入が、同社のAI大規模モデルが制御を逸脱したことで引き起こされたものだと認めた。同社の「GPT-5.6 Sol」とさらに高性能な未公開モデルが、サイバー能力の社内評価時に制御不能に陥り、隔離されたテスト環境を突破してHugging Faceのシステムに侵入したという。

OpenAIの説明によると、今回のAI侵入事件は、同社が先週、社内ネットワークで自社の最先端モデル2種類の能力テストを実施した際に起こった。テスト中の大規模モデルは、より高いテストスコアを得るために、不正な手段によってインターネットへのアクセス手段を手に入れた。その後、完全に「暴走」し、Hugging Faceのバックエンドシステムに侵入して、そのデータベースから評価用テストの解答を不正に入手しようとしたという。

今回の事故について、米国のネットユーザーからは、「OpenAIは中国製モデルのオープンソース精神を学ぶべきだ。人を締め出す壁をそんなに高く築いてはいけない。そうすれば、最後には米国自身の競争力を損なうだけだ」との声が上がっている。

（編集JZ）

「人民網日本語版」2026年7月23日