76% dos ataques aos LLMs de código aberto da China têm sucesso - a lacuna de segurança em modelos amplamente implantados

Uma auditoria estruturada de red-teaming dos principais LLMs de código aberto da China encontrou uma taxa de reprodução de ataques de 76% e nenhum comportamento consistente de recusa. Esses modelos estão incorporados em pipelines globais de produção - a lacuna de segurança não é teórica.

Em termos simples: Pesquisadores de segurança executaram ataques conhecidos contra os principais modelos de IA de código aberto da China. Três em cada quatro ataques funcionaram. Nenhum dos modelos recusou de forma confiável solicitações prejudiciais. Esses modelos estão integrados em produtos em todo o mundo.

O fato

Uma auditoria estruturada de segurança dos principais LLMs de código aberto da China encontrou 76% de reprodução de vulnerabilidades em vetores de ataque conhecidos, com zero comportamento consistente de recusa documentado em cenários testados, segundo a Pandaily. Ao contrário dos modelos de API fechada, os modelos de pesos abertos expõem seus pesos diretamente — o que facilita a contornar o alinhamento de segurança, já que os atacantes podem sondar os internos do modelo em vez de apenas a superfície da API.

Nossa análise

A taxa de sucesso de 76% nos ataques é alta, mas não surpreendente para modelos de pesos abertos — técnicas de alinhamento que funcionam no momento da inferência são mais facilmente contornadas quando os pesos estão disponíveis. O resultado de "zero recusa" é o dado mais alarmante: sugere que o treinamento de segurança nesses modelos específicos está ausente ou é negligentemente ineficaz. As implicações práticas são significativas: os modelos de código aberto da China (Qwen, DeepSeek, linhagem Kimi) estão integrados em aplicações de terceiros globalmente. Um desenvolvedor de aplicativos que lança um produto com base em um modelo base não alinhado herda a lacuna de alinhamento. À medida que os requisitos de conformidade da Lei de IA da UE e as revisões de segurança empresarial começam a exigir documentação de segurança para modelos incorporados, esta auditoria fornece aos compradores uma pergunta concreta a fazer aos seus fornecedores.

O que observar

Se as equipes de procurement empresarial começarão a exigir documentação de auditoria de segurança para modelos de pesos abertos como condição de implantação, juntamente com os requisitos existentes de SOC 2 / testes de penetração.