두 가지 공급망 위협: 제로 가드레일을 갖춘 공개 LLM, 그리고 NVD를 오염시키는 AI 환각 CVE

이번 주 두 건의 사건이 같은 위험 벡터로 수렴합니다: AI 시스템이 검증되지 않은 정보를 핵심 보안 인프라에 삽입하는 것—그리고 이를 감지할 계층이 전혀 없다는 점에서 말입니다.

사실 이번 주 두 개의 뚜렷한 신호가 수렴합니다. SaferAI의 GLM-5.2(Zhipu) 감사 결과, 공격 능력이 GPT-5.5에 견줄 만하지만 콘텐츠 필터링이 전혀 없어 테스트된 취약점의 76%가 재현 가능하며 거부 사례는 전무했습니다. 또한 JFrog는 SQLite에 대해 동일한 계정에서 제출된 55건의 CVE를 문서화했는데, 이 중 54건이 AI 환각으로 밝혀졌으며 일부는 NVD의 초기 triage를 통과해 참조 데이터베이스에 포함되기도 했습니다.

분석 이 두 사건은 보안 공급망이 AI 벡터에 대응할 준비가 되어 있지 않음을 보여줍니다. 취약점 스캐너는 NVD의 데이터 스트림을 인간 검증 없이 흡수합니다. 거짓 CVE가 유입되면 수천 개의 기업 보안 파이프라인을 오염시킬 수 있습니다. GLM-5.2의 경우 다른 문제가 드러납니다: 검증 가능한 오픈웨이트 모델은 안전성 격차를 드러내지만 폐쇄형 모델은 이를 숨깁니다. 두 벡터 모두 오늘 당장 실질적인 위험으로 작용할 수 있습니다.

주시할 점 자동화된 제출 프로세스로 인한 CVE의 MITRE/NVD 검증 방식과 guardrails 없이 제공되는 오픈웨이트 모델에 대한 규제 압박입니다.