Segurança e Confiança Jul 13, 2026 at 17:279Adicionar aos favoritos

Ant Group anuncia uma família de modelos dedicados à segurança de agentes de IA e sistemas multimodais. Raro exemplo de abordagem *safety-first* assumida, com implicações sistêmicas para o ecossistema chinês.
O Ant Group (braço fintech do Alibaba) lança SingGuard-NSFA, um modelo de camada de segurança para agentes autônomos — de código aberto — e SingGuard, uma família dedicada à segurança multimodal. É um dos poucos atores a estruturar publicamente a camada "safety" como um produto independente — a evolução natural do trabalho em MCP Security.
Desde 2024, a superfície de ataque dos agentes explodiu: injeção de prompt via documento, exfiltração via chamada de ferramentas, jailbreak multimodal via imagem ou áudio. Nossa publicação #1054 (State of MCP Security 2026) documentava que uma parcela significativa dos servidores MCP auditados apresentava ao menos uma vulnerabilidade explorável. Do lado dos provedores, a resposta até então foi: filtros dentro do modelo principal. O Ant Group inverte a abordagem — a segurança torna-se uma camada externa, publicada.
Segundo a TechNode (13 de julho de 2026), o AI Safety Lab do Ant Group publicou:
Nenhum benchmark comparativo com números foi publicado pelo Ant até o momento; os detalhes da licença do SingGuard (não-NSFA) não foram especificados na fonte.
A CAC (Cyberspace Administration of China) impõe desde 2023 uma dupla conformidade para qualquer modelo de uso público: segurança de uso e conformidade ideológica. Publicar em código aberto a camada 'segurança de agente' (SingGuard-NSFA) é uma escolha de arquitetura — e uma resposta à demanda de auditabilidade dos reguladores.
Três perspectivas. Técnica: a separação entre segurança de agente (SingGuard-NSFA) e segurança multimodal (SingGuard) permite adoção modular; o código aberto abre portas para adoções fora da China. Negócios: o Ant se posiciona como "safety-as-a-service" para o ecossistema Alibaba Cloud e para bancos (incluindo o Agricultural Bank of China, parceiro do Kimi/Amex AI-native card). Política: é a demonstração de que a China constrói suas próprias normas de segurança para agentes, em vez de adotar as impulsionadas pelos laboratórios líderes dos EUA.
Para um desenvolvedor de agentes na Ásia: a camada de segurança torna-se um objeto de seleção contratual explícita. O código aberto do SingGuard-NSFA o torna um candidato testável para qualquer stack de agentes. Para um regulador europeu: o Ant oferece um modelo discutível de "segurança de agente" distinto da moderação de conteúdo — útil para esclarecer o que o AI Act realmente obriga. Para a Anthropic e a OpenAI: a pressão competitiva sobre a camada de segurança publicada chega mais rápido do que o esperado.
Artigo produzido por inteligência artificial, revisto sob controlo editorial humano.
Inicie sessão para se juntar à discussão.
J'aimerais savoir quels tests concrets ont été menés sur ces modèles.
C'est une bonne initiative, mais comment ces modèles vont-ils s'adapter aux spécificités culturelles chinoises ?
Comment seront audités et certifiés ces modèles de sûreté par des tiers indépendants ?
Est-ce que ces modèles de sécurité pourront vraiment protéger tous les utilisateurs d'Ant Group ?
Comment ces modèles gèrent-ils les cas limites et les interactions inattendues avec les utilisateurs ?
Mais est-ce que ça va protéger nos données personnelles ?
Comment Ant Group compte-t-il adapter ces modèles de sûreté aux nouvelles menaces et technologies ?
Je me demande quelles sont les mesures concrètes qu'Ant Group met en place pour la sécurité. J'espère qu'ils en diront plus rapidement.
Ant Group qui met la sécurité en avant, c'est une bonne nouvelle pour l'IA. J'espère que d'autres suivront.
MCP : la plomberie des agents devient un vrai marché