76% атак на открытые LLM Китая оказываются успешными — пробел в безопасности широко внедрённых моделей

Структурированный аудит методом красного командного тестирования ведущих открытых LLM Китая выявил 76% успешного воспроизведения атак и отсутствие последовательного отказа от выполнения запросов. Эти модели интегрированы в глобальные производственные процессы — пробел в безопасности не носит теоретический характер.

Простыми словами: Исследователи в области безопасности провели известные атаки против основных открытых ИИ-моделей Китая. Три из четырёх атак сработали. Ни одна из моделей не смогла надёжно отказать в выполнении вредоносных запросов. Эти модели интегрированы в продукты по всему миру.

Факт

Структурированный аудит безопасности ведущих открытых LLM Китая выявил воспроизведение уязвимостей в 76% случаев при известных векторах атак, при этом ни в одном из протестированных сценариев не было зафиксировано последовательного поведения отказа, сообщает Pandaily. В отличие от моделей с закрытым API, модели с открытыми весами напрямую exposing свои веса — это облегчает обход выравнивания безопасности, так как злоумышленники могут зондировать внутренние компоненты модели, а не только поверхность API.

Наша позиция

Уровень успешности атак в 76% высок, но не удивителен для моделей с открытыми весами — методы выравнивания, эффективные во время инференса, легче обходятся, когда веса доступны. Результат «нулевого отказа» — более тревожный показатель: он предполагает, что обучение безопасности в этих моделях либо отсутствует, либо крайне неэффективно. Практические риски значительны: открытые модели Китая (Qwen, DeepSeek, Kimi и др.) интегрированы в сторонние приложения по всему миру. Разработчик, выпускающий продукт на основе невыровненной базовой модели, наследует этот разрыв. По мере того как требования по соответствию EU AI Act и проверки безопасности на предприятиях начинают требовать документацию по безопасности для встроенных моделей, этот аудит даёт покупателям конкретный вопрос к поставщикам.

На что обратить внимание

Будут ли корпоративные службы закупок требовать документацию по безопасности для моделей с открытыми весами как условие развёртывания, наряду с существующими требованиями SOC 2 и пентеста.