76 % der Angriffe auf Chinas Open-Source-LLMs sind erfolgreich – die Sicherheitslücke in weit verbreiteten Modellen

Eine strukturierte Red-Teaming-Prüfung von Chinas führenden Open-Source-LLMs ergab eine Angriffsreproduktionsrate von 76 % und kein konsistentes Verweigerungsverhalten. Diese Modelle sind in globale Produktionspipelines eingebettet – die Sicherheitslücke ist nicht theoretisch.

In einfachen Worten: Sicherheitsforscher führten bekannte Angriffe gegen Chinas führende Open-Source-KI-Modelle durch. Drei von vier Angriffen waren erfolgreich. Keines der Modelle lehnte schädliche Anfragen zuverlässig ab. Diese Modelle sind weltweit in Produkten eingebettet.

Die Fakten

Eine strukturierte Sicherheitsprüfung von Chinas führenden Open-Source-LLMs ergab eine 76%ige Reproduzierbarkeit von Schwachstellen bei bekannten Angriffsmustern. Dabei wurde in keinem der getesteten Szenarien ein konsistentes Ablehnungsverhalten dokumentiert, wie Pandaily berichtet. Im Gegensatz zu Modellen mit geschlossenen APIs geben Open-Weight-Modelle ihre Gewichte direkt preis – was das Umgehen von Sicherheitsausrichtungen erleichtert, da Angreifer die internen Modellstrukturen untersuchen können, statt nur die API-Oberfläche zu nutzen.

Unsere Einschätzung

Die 76%ige Erfolgsquote bei Angriffen ist hoch, aber für Open-Weight-Modelle nicht überraschend – Ausrichtungstechniken, die zur Laufzeit funktionieren, lassen sich leichter umgehen, wenn die Gewichte zugänglich sind. Das „Null-Ablehnungs“-Ergebnis ist der alarmierendere Befund: Es deutet darauf hin, dass die Sicherheitstrainings dieser Modelle entweder fehlen oder kaum wirksam sind. Die praktischen Konsequenzen sind bedeutend: Chinas Open-Source-Modelle (Qwen, DeepSeek, Kimi-Linie) sind in Drittanbieter-Anwendungen weltweit integriert. Ein Entwickler, der ein Produkt auf Basis eines nicht ausgerichteten Basismodells veröffentlicht, übernimmt damit die Sicherheitslücke. Da die EU-KI-Verordnung und unternehmerische Sicherheitsprüfungen bald Nachweise zur Sicherheit eingebetteter Modelle verlangen, liefert diese Prüfung Käufern eine konkrete Frage an ihre Anbieter.

Worauf zu achten ist

Ob Beschaffungsteams in Unternehmen künftig Sicherheitsprüfberichte für Open-Weight-Modelle als Voraussetzung für den Einsatz verlangen – zusätzlich zu bestehenden SOC-2- und Penetrationstest-Anforderungen.