Hugging Face hat früher Frauen und Kinder ausgebeutet - die Kosten für offene Gewichte sind jetzt auf der Plattform

Eine Berichterstattung dokumentiert, wie Hugging Face verwendet wird, um leicht nicht-einvernehmliche intime Bilder zu erstellen - einschließlich von Kindern. Die Kosten der Open Weights sind nicht mehr theoretisch.

In einfachen Worten - Ein Bericht von The Verge dokumentiert, wie Hugging Face verwendet wird, um leicht nicht einvernehmliche Nacktbilder - einschließlich von Kindern - zu erstellen und dass die Plattform sehr wenig unternimmt, um dies zu verhindern. Die Kosten offener Gewichte sind nicht theoretisch; sie sind auf der Plattform, jetzt.

Le fait

Laut einer Berichterstattung von The Verge vom 28. Juli 2026 beherbergt und verbreitet die Plattform Hugging Face - ein wichtiger Hub für Open-Source-Modelle - Modelle, die verwendet werden, um leicht "entkleidete" Bilder von Frauen und Kindern ohne deren Einwilligung zu generieren. The Verge schreibt explizit, dass Hugging Face "nicht viel unternimmt, um dies zu verhindern". Der Artikel ist Teil der breiteren Debatte, die durch den OpenAI/Hugging Face-Leak von Juli eröffnet wurde (Post #1460, Thread frontier-access-control), aber aus einer anderen Perspektive: die missbräuchliche Nutzung öffentlicher Artefakte, nicht der Modellvorfall.

Notre lecture

Drei Spannungen, die gleichzeitig gehalten werden müssen. Eins: Die Open Weights haben keine integrierte "Content Moderation" - die Moderation, wenn sie existiert, findet auf Ebene des Hubs (Entfernung von Modellen) statt, nicht auf Ebene des Modells selbst. Zwei: Die dokumentierte Nutzungsart (nicht einvernehmliche intime Bilder, CSAM) ist in den meisten Jurisdiktionen bereits illegal - es geht nicht in erster Linie um ein AI-Policy-Problem, sondern um ein Problem der effektiven Anwendung im großen Maßstab. Drei: Hugging Face ist nicht als Content-Moderator im juristischen Sinne konzipiert, aber die Skalierung macht Untätigkeit unhaltbar - es ist das Paradoxon des neutralen Hubs.

À surveiller

• HF-Antwort: explizite Rückzugspolitik, Drittprüfung der risikobehafteten Modelle.
• Regulatorische Maßnahmen (Ofcom UK, DSA in Europa), die HF direkt ins Visier nehmen könnten.
• Technische Gegenmaßnahmen (Pflicht-Watermarking der Ausgaben, Herkunft der Modelle).