Hugging Face used to strip women and children - the cost of open weights is on the platform now

Une couverture documente comment Hugging Face est utilisé pour créer facilement des images intimes non-consensuelles - y compris d'enfants. Le coût des open weights n'est plus théorique.

In plain terms - A report from The Verge documents how Hugging Face is being used to easily create non-consensual nude imagery - including of children - and that the platform is doing very little to prevent it. The cost of open weights is not theoretical; it is on the platform, now.

Le fait

Selon une couverture de The Verge du 28 juillet 2026, la plateforme Hugging Face - hub majeur de modèles open-source - héberge et redistribue des modèles utilisés pour générer facilement des images « déshabillées » de femmes et d'enfants sans leur consentement. The Verge écrit explicitement que Hugging Face « isn't doing much to prevent » les sorties de deepfakes sexualisés générés par les modèles hébergés. L'article s'inscrit dans le débat plus large ouvert par la brèche OpenAI/Hugging Face de juillet (publi #1460, fil frontier-access-control), mais sur un autre versant : l'usage adverse d'artefacts publics, non l'incident modèle.

Notre lecture

Trois tensions à tenir en même temps. Un : les open weights n'ont pas de « content moderation » intégré - la modération, quand elle existe, se joue au niveau du hub (retrait de modèles), pas du modèle lui-même. Deux : la classe d'usage documentée (non-consensual intimate imagery, CSAM) est déjà illégale dans la plupart des juridictions - ce n'est pas d'abord un problème de policy AI, c'est un problème d'application effective à l'échelle. Trois : Hugging Face n'est pas conçu comme un content moderator au sens juridique, mais l'échelle rend l'inaction intenable - c'est le paradoxe du hub neutre.

À surveiller

• Réponse HF : politique de retrait explicite, audit tiers des modèles à risque.
• Action du régulateur (Ofcom UK, DSA en Europe) susceptible de cibler HF directement.
• Contre-mesures techniques (watermarking obligatoire des sorties, provenance des modèles).