Hassabis schlägt eine FINRA für KI vor - 30 Tage vor jedem Release

In einfachen Worten

Der CEO von Google DeepMind schlägt die Schaffung eines unabhängigen Organs vor, das die fortschrittlichsten KI-Modelle vor ihrer Markteinführung bewertet. Das von ihm angeführte Modell ist das der amerikanischen FINRA: eine Struktur, die vom Sektor finanziert wird, den sie kontrolliert, aber autonom funktioniert.

Was genau vorgeschlagen wird

Demis Hassabis detaillierte den Mechanismus am 14. Juli 2026. Die Einrichtung würde schrittweise erfolgen: zunächst freiwillige Teilnahme der Labore, die ihre Modelle mit dem Organ bis zu 30 Tage vor der Veröffentlichung teilen. Seine Formulierung: „Initially, Frontier Labs would voluntarily share models with the Standards Body for review up to 30 days before release“. Sobald der Prozess erprobt ist, würde die Bewertung für jede Einführung in den USA verpflichtend. Das Organ würde auch kritische Schwachstellen verwalten, die nach dem Start entdeckt werden.

Der Kontext zählt: Der Vorschlag kommt nach den Kritikpunkten an den speziellen Regierungsüberprüfungen der Modelle Mythos (Anthropic) und Sol (OpenAI), die als technisch schwach und intransparent eingestuft wurden.

Under the hood

Die delegierte Selbstregulierung ist weder neu noch absurd. Die FINRA existiert, weil der öffentliche Regulierer nie die Mittel oder das Fachwissen hatte, um Zehntausende von Maklern in Echtzeit zu überwachen. Sie wird von den Einheiten finanziert, die sie kontrolliert, verfügt über Sanktionsbefugnisse und arbeitet unter der Aufsicht der SEC. Dieser letzte Punkt ist entscheidend: Eine Selbstregulierung funktioniert nur, wenn ein öffentlicher Regulierer sie ablehnen kann.

Übertragen auf die KI, ist die Argumentation vertretbar. Das Fachwissen zur Bewertung von Frontier-Modellen ist weltweit auf einige hundert Personen begrenzt, fast alle bei den Laboren beschäftigt. Ein unabhängiges Organ, das von der Industrie finanziert wird, ist vielleicht der einzige Weg, diese Menschen zum Marktwert zu bezahlen, ohne dass ein Staat ein Budget verabschiedet.

Die blinden Flecken

Drei, die man ohne Unterstellung nennen muss.

Die Übernahme. Wer ernnen den Rat? Wer entscheidet bei einem Streit zwischen dem Organ und einem Labor, das es finanziert? Ohne eine öffentliche Aufsicht wie die der SEC ist „unabhängig“ ein Adjektiv, keine Struktur.

Die 30 Tage. Das Fenster ist für eine Compliance-Prüfung kalibriert, nicht für eine gegnerische Suche nach Schwachstellen. Die Erinnerung kam diese Woche: IEEE Spectrum hat acht unterschiedliche Jailbreak-Techniken dokumentiert, die die meisten kommerziellen Industrien betreffen - gefunden nicht in einer Vorabprüfung, sondern nachträglich, von Forschern außerhalb der Labore. Eine Bewertung, die 30 Tage vor der Veröffentlichung beginnt, wird suchen, was man ihr beigebracht hat zu suchen. Die wichtigen Schwachstellen sind die, an die noch niemand gedacht hat.

Der nationale Geltungsbereich. Eine Verpflichtung, die auf die Einführung in den USA beschränkt ist, lässt die offenen Modelle, die anderswo veröffentlicht werden, unberührt - und die Zahlen von Hugging Face erinnern daran, dass der chinesische Anteil an der tatsächlichen Nutzung nicht mehr marginal ist. Man würde den sichtbarsten Kanal regulieren, nicht den größten.

So what

Der Vorschlag verdient mehr als den zynischen Reflex des „Fuchses, der den Hühnerstall bewacht“. Angesichts von improvisierten Regierungsüberprüfungen ist eine technische Einrichtung, die finanziert ist und eine verbindliche Frist hat, ein deutlicher Fortschritt.

Aber die Geschichte der FINRA lehrt auch, dass die echte Macht nicht in dem Organ liegt: Sie liegt in der öffentlichen Behörde, die es widerlegen kann. Solange diese Behörde nicht benannt ist, ist das, was Hassabis vorschlägt, ein sehr gutes Evaluierungslabor. Kein Regulierer.