중국 오픈소스 LLM의 76% 공격이 성공 - 널리 배포된 모델의 안전성 격차

중국 top 오픈소스 LLM에 대한 구조화된 레드팀 감사에서 76%의 공격 재현율과 일관된 거부 행동이 전혀 나타나지 않았습니다. 이러한 모델들은 글로벌 생산 파이프라인에 내장되어 있으며, 안전 격차는 이론적인 문제가 아닙니다.

간단히 말해: 보안 연구원들이 중국 주요 오픈소스 AI 모델에 대해 알려진 공격을 수행했습니다. 네 번 중 세 번의 공격이 성공했습니다. 유해한 요청에 대해 모델이 reliably하게 거부한 경우는 없었습니다. 이러한 모델들은 전 세계 제품에 내장되어 있습니다.

사실

중국 주요 오픈소스 LLM에 대한 구조화된 보안 감사가 알려진 공격 벡터의 76% 재현 가능성을 발견했으며, 테스트된 시나리오에서 일관된 거부 행동이 전혀 기록되지 않았다고 Pandaily에 따르면. 폐쇄형 API 모델과 달리 오픈 가중치 모델은 가중치를 직접 노출합니다. 이는 공격자가 API 표면뿐만 아니라 모델 내부 구조를 조사할 수 있어 안전 정렬을 우회하기가 더 쉽습니다.

우리의 관점

76%의 공격 성공률은 높지만 오픈 가중치 모델에서는 놀랍지 않습니다. 추론 시점에 작동하는 정렬 기술은 가중치가 공개될 경우 쉽게 우회될 수 있습니다. "제로 거부" 결과가 더 우려스러운 데이터 포인트입니다. 이는 이러한 특정 모델의 안전 훈련이 없거나 효과가 거의 없음을 시사합니다. 실질적인 위험은 큽니다. 중국 오픈소스 모델(Qwen, DeepSeek, Kimi 계열)은 전 세계적으로 서드파티 애플리케이션에 통합되어 있습니다. 정렬되지 않은 기본 모델 위에 제품을 출시하는 개발자는 정렬 격차를 그대로 물려받습니다. EU AI Act 규정 준수 요구 사항과 엔터프라이즈 보안 검토가 내장 모델의 안전 문서를 요구하기 시작하면서, 이 감사는 구매자에게 공급업체에게 구체적인 질문을 던질 수 있는 근거를 제공합니다.

주시할 점

기업 조달 팀이 SOC 2 / 펜테스트 요구 사항 alongside로 오픈 가중치 모델에 대한 안전 감사 문서를 배포 조건으로 요구하기 시작할지 여부입니다.