中国のオープンソースLLMに対する攻撃の76%が成功 - 広く展開されたモデルにおける安全性のギャップ

中国の主要なオープンソースLLMに対する構造化レッドチーム監査では、76%の攻撃再現率と一貫した拒否行動の欠如が判明しました。これらのモデルはグローバルな生産パイプラインに組み込まれており、安全性のギャップは理論的なものではありません。

簡単に言えば： セキュリティ研究者が中国の主要なオープンソースAIモデルに対し既知の攻撃を実行したところ、4分の3の攻撃が成功した。いずれのモデルも有害なリクエストに対し一貫して拒否することはなかった。これらのモデルは世界中の製品に組み込まれている。

事実

中国の主要なオープンソースLLMに対する構造化されたセキュリティ監査によると、既知の攻撃ベクトルに対し76%の脆弱性再現が見られ、テストされたシナリオ全体で一貫した拒否行動が一切記録されなかったとPandailyが報じている。クローズドAPIモデルとは異なり、オープンウェイトモデルは重みを直接公開しており、攻撃者がモデルの内部を探ることで、API表面だけを攻撃するよりも安全性の整合性を回避しやすくなる。

我々の見解

76%という攻撃成功率は高いが、オープンウェイトモデルにとっては驚くべきことではない。推論時に機能する整合性技術は、重みが利用可能な場合には簡単に回避される。より警戒すべきは「拒否ゼロ」という結果だ。これはこれらのモデルにおける安全性トレーニングが欠如しているか、効果がほとんどないことを示唆している。実務上のリスクは大きい。中国のオープンソースモデル（Qwen、DeepSeek、Kimi系統）は世界中のサードパーティアプリケーションに統合されている。整合性が取れていないベースモデルの上に製品を構築する開発者は、その整合性のギャップを引き継ぐことになる。EU AI法のコンプライアンス要件や企業のセキュリティレビューが、組み込みモデルの安全性文書を求め始める中、この監査は購入者にサプライヤーに対する具体的な質問を投げかける材料となる。

今後注目すべき点

企業の調達チームが、既存のSOC 2 / ベンテスト要件と並んで、展開の条件としてオープンウェイトモデルの安全性監査文書を要求し始めるかどうか。