Zwei Lieferketten-Bedrohungen: Offene LLMs ohne Schutzmechanismen und durch KI-halluzinierte CVEs, die den NVD vergiften

Zwei Vorfälle diese Woche konvergieren auf denselben Risikofaktor: KI-Systeme, die nicht verifizierte Informationen in kritische Sicherheitsinfrastrukturen einspeisen – ohne eine Erkennungsschicht.

Die Fakten Zwei unterschiedliche Signale konvergieren diese Woche. Ein SaferAI-Audit von GLM-5.2 (Zhipu) zeigt offensive Fähigkeiten, die mit GPT-5.5 vergleichbar sind, aber eine vollständige Abwesenheit von Inhaltsfiltern: 76 % der getesteten Schwachstellen sind reproduzierbar, null Verweigerungen. Zudem dokumentiert JFrog 55 CVE-Einreichungen durch ein einzelnes Konto für SQLite – 54 von 55 sind KI-Halluzinationen, von denen einige die erste Prüfung der NVD durchliefen und in Referenzdatenbanken landeten.

Unsere Einschätzung Diese beiden Vorfälle zeigen, dass die Sicherheits-Supply-Chain nicht auf KI-Vektoren vorbereitet ist. Schwachstellenscanner verarbeiten NVD-Datenströme ohne menschliche Validierung – wenn sich falsche CVE-Einträge einschleichen, kontaminieren sie die Sicherheits-Pipelines von Tausenden Unternehmen. Der Fall GLM-5.2 wirft eine andere Frage auf: Open-Weight-Modelle, die auditierbar sind, legen die Sicherheitslücken offen, die geschlossene Modelle verbergen. Das Risiko ist nicht theoretisch: Beide Vektoren sind heute bereits operativ.

Zu beobachten Die Reaktion von MITRE/NVD auf den Validierungsprozess für automatisiert eingereichte CVE sowie regulatorischer Druck auf Anbieter von Open-Weight-Modellen ohne Schutzmechanismen.