안트 그룹, 에이전트 및 멀티모달 시스템 안전 모델 공개

안트 그룹( Ant Group )은 AI 에이전트와 멀티모달 시스템의 안전성을 위한 전용 모델 패밀리를 발표했습니다. 중국 생태계에 시스템적 영향을 미칠 수 있는 드문 '안전 우선' 사례입니다.

간단히 말해

앤트 그룹(알리바바의 핀테크Bras fintech arm)은 SingGuard-NSFA라는 자율 에이전트를 위한 안전 장치 모델과 오픈소스로 공개했으며, SingGuard라는 멀티모달 안전 모델 패밀리도 함께 공개했습니다. 이는 ‘safety’를 독립된 제품으로 공개적으로 다루는 몇 안 되는 사례 중 하나로, MCP Security 작업의 자연스러운 연장선입니다.

배경

2024년 이후 에이전트의 공격 표면이 급격히 확대되었습니다: 문서로 인한 프롬프트 주입, 툴 호출을 통한 데이터 유출, 이미지나 오디오를 통한 멀티모달 탈옥 등입니다. 저희의 #1054(State of MCP Security 2026) 보고서에 따르면, 감사 대상 MCP 서버의 상당수가 적어도 한 가지 이상의 exploitable 취약점을 보유하고 있었습니다. 공급업체 측의 대응은 지금까지 주로 주요 모델 내부의 필터에 국한되어 있었습니다. 앤트 그룹은 이 접근법을 전환하여 안전 장치를 외부 레이어로 분리하고 공개합니다.

데이터

TechNode(2026년 7월 13일)에 따르면, 앤트 그룹의 AI Safety Lab은 다음과 같은 내용을 발표했습니다:

• SingGuard-NSFA: 자율 에이전트를 위한 안전 장치 모델. 오픈소스로 공개. 프롬프트 주입, 민감한 데이터 유출, 악성 코드 실행, 리소스 남용 등을 감지합니다.
• SingGuard: 멀티모달(이미지, 텍스트, 오디오) 안전 모델 패밀리.

현재까지 앤트 그룹은 비교 벤치마크 수치를 공개하지 않았으며, SingGuard(NSFA가 아닌)의 라이선스 세부 사항도 소스에서 명시되지 않았습니다.

분석

세 가지 관점에서 볼 수 있습니다. 기술적 측면: 에이전트 안전(SingGuard-NSFA)과 멀티모달 안전(SingGuard)을 분리하면 모듈식 채택이 가능하며, 오픈소스는 중국 외에서의 채택 기회를 열어줍니다. 비즈니스 측면: 앤트는 알리바바 클라우드 생태계와 은행(농업은행 등, Kimi/Amex AI 네이티브 카드 파트너)을 위한 ‘safety-as-a-service’로 포지셔닝하고 있습니다. 정치적 측면: 이는 미국 frontier labs가 주도하는 규범을 채택하기보다는 중국이 자체 에이전트 안전 규범을 구축하고 있음을 보여줍니다.

결론

아시아에서 에이전트를 배포하는 경우, safety 레이어는 계약상 명시적 선택 대상이 됩니다. SingGuard-NSFA의 오픈소스 공개는 어떤 에이전트 스택에서도 테스트 가능한 후보가 될 수 있음을 의미합니다. 유럽 규제 당국의 경우, 앤트는 콘텐츠moderation과는 별도의 ‘에이전트 safety’ 모델을 제공하여 AI Act가 실제로 규제하는 대상을 명확히 하는 데 도움이 됩니다. Anthropic과 OpenAI의 경우, 공개된 safety 레이어에 대한 경쟁 압력이 예상보다 빠르게 다가오고 있습니다.