Two supply chain threats: open LLMs with zero guardrails, and AI-hallucinated CVEs poisoning NVD

Two incidents this week converge on the same risk vector: AI systems inserting unverified information into critical security infrastructure - with no detection layer in place.

Le fait Deux signaux distincts convergent cette semaine. Un audit SaferAI de GLM-5.2 (Zhipu) révèle des capacités offensives comparables à GPT-5.5 mais une absence totale de filtres de contenu : 76% des vulnérabilités testées sont reproductibles, zéro refus. Par ailleurs, JFrog documente 55 CVE déposés par un même compte pour SQLite - 54 sur 55 sont des hallucinations IA, dont certaines ont passé le triage initial de NVD et se retrouvé dans des bases de données de référence.

Notre lecture Ces deux incidents révèlent que la supply chain sécurité n'est pas armée pour les vecteurs IA. Les scanners de vulnérabilités ingèrent les flux NVD sans validation humaine - si des faux CVE s'y glissent, ils contaminent les pipelines de sécurité de milliers d'entreprises. Le cas GLM-5.2 soulève une question différente : les modèles open-weight auditables exposent les écarts de safety qui existent, mais que les modèles fermés dissimulent. Le risque n'est pas théorique : les deux vecteurs sont opérationnels aujourd'hui.

À surveiller La réponse de MITRE/NVD sur le processus de validation des CVE soumis par voie automatisée, et les pressions réglementaires sur les fournisseurs de modèles open-weight sans guardrails.