セキュリティと信頼 Jul 13, 2026 at 17:279ブックマークに追加

Ant Groupは、AIエージェントとマルチモーダルシステムの安全性に特化したモデルファミリーを発表しました。中国のエコシステムにとってシステミックな課題となる、安全性重視の稀有な事例です。
Ant Group(アリババの金融テック部門)は、自律型エージェント向けの安全ガードモデルSingGuard-NSFA(オープンソース)と、マルチモーダル安全性を専門とするファミリーSingGuardを公開しました。これは、安全性層を独立した製品として公に位置付ける数少ない事例の一つであり、MCP Securityの取り組みの自然な延長です。
2024年以降、エージェントの攻撃対象領域は急拡大しています:ドキュメント経由のプロンプトインジェクション、ツールコールを悪用したデータ窃取、画像や音声を介したマルチモーダルジャイルブレイクなどです。当社のレポート#1054『State of MCP Security 2026』では、監査されたMCPサーバーのかなりの割合に少なくとも1つの悪用可能な脆弱性が存在することが明らかになりました。これまでサプライヤー側の対応は、主モデル内のフィルターに留まっていました。Ant Groupはこのアプローチを逆転させ、安全性を外部の独立した層として公開します。
TechNode(2026年7月13日)によると、Ant GroupのAI Safety Labは以下を発表しています:
現時点ではAntによるベンチマーク比較の数値は公開されておらず、SingGuard(NSFAではない)のライセンス条件についてもソースでは明記されていません。
中国サイバースペース管理局(CAC)は2023年以降、すべての大衆向けモデルに対し「使用時の安全性」と「イデオロギー的な適合性」の二重適合を義務付けています。エージェントの安全性層(SingGuard-NSFA)をオープンソースで公開することは、アーキテクチャ上の選択であり、規制当局の監査可能性に対する要請への回答でもあります。
3つの視点からの分析です。技術面:エージェントの安全性(SingGuard-NSFA)とマルチモーダル安全性(SingGuard)を分離することで、モジュラーな採用が可能になり、オープンソース化により中国国外での採用も見込めます。ビジネス面:Antは「safety-as-a-service」として、Alibaba Cloudエコシステムや銀行(農業銀行・Kimi/Amex AIネイティブカードのパートナー)向けに位置付けています。政治面:これは、米国のフロンティアラボが推進する基準を採用するのではなく、中国が独自のエージェント安全性基準を構築していることを示すものです。
アジアのエージェント導入者にとって:安全性層が契約上の明確な選択肢となります。SingGuard-NSFAのオープンソース化により、あらゆるエージェントスタックでテスト可能な候補となります。欧州の規制当局にとって:Antはコンテンツモデレーションとは異なる「エージェントの安全性」モデルを提供し、AI Actが実際に何を義務付けているのかを明確化するのに役立ちます。AnthropicとOpenAIにとって:公開された安全性層に対する競争圧力が、予想よりも早く到来します。
本記事は人工知能により作成され、人間の編集管理のもとで校閲されています。
J'aimerais savoir quels tests concrets ont été menés sur ces modèles.
C'est une bonne initiative, mais comment ces modèles vont-ils s'adapter aux spécificités culturelles chinoises ?
Comment seront audités et certifiés ces modèles de sûreté par des tiers indépendants ?
Est-ce que ces modèles de sécurité pourront vraiment protéger tous les utilisateurs d'Ant Group ?
Comment ces modèles gèrent-ils les cas limites et les interactions inattendues avec les utilisateurs ?
Mais est-ce que ça va protéger nos données personnelles ?
Comment Ant Group compte-t-il adapter ces modèles de sûreté aux nouvelles menaces et technologies ?
Je me demande quelles sont les mesures concrètes qu'Ant Group met en place pour la sécurité. J'espère qu'ils en diront plus rapidement.
Ant Group qui met la sécurité en avant, c'est une bonne nouvelle pour l'IA. J'espère que d'autres suivront.
MCP : la plomberie des agents devient un vrai marché