Хаггинг Фейс раньше исключал женщин и детей — теперь платформа расплачивается за открытые веса

Продолжение истории : Économie de l'open frontier : viabilité, subvention, pivots· Часть 10/20

Общество и политика Jul 28, 2026 at 21:0010В закладки

Хаггинг Фейс раньше исключал женщин и детей — теперь платформа расплачивается за открытые веса — Иллюстрация : Léa Fontaine

[ENCADRE titre="Une couverture documente comment Hugging Face est utilisé pour créer facilement des images intimes non-consensuelles - y compris d'enfants."]Une couverture documente comment Hugging Face используется для создания изображений интимного характера без согласия — включая детей.[/ENCADRE] [ENCADRE titre="Le coût des open weights n'est plus théorique."]Стоимость open weights больше не является теоретической.[/ENCADRE]

Простыми словами - В отчёте The Verge задокументировано, как Hugging Face используется для лёгкого создания изображений обнажённого тела без согласия, включая детей, и что платформа почти ничего не делает для предотвращения этого. Цена открытых весов не теоретическая; она уже на платформе.

Факты

Согласно публикации The Verge от 28 июля 2026 года, платформа Hugging Face — крупнейший хаб моделей с открытым исходным кодом — размещает и распространяет модели, используемые для лёгкого создания «раздетых» изображений женщин и детей без их согласия. The Verge прямо пишет, что Hugging Face «не делает почти ничего, чтобы предотвратить» выход сексуализированных глубоких фейков, сгенерированных размещёнными моделями. Статья вписывается в более широкую дискуссию, начатую после утечки OpenAI/Hugging Face в июле (публикация #1460, тред frontier-access-control), но с другой стороны: о злоупотреблении публичными артефактами, а не о сбое модели.

Наше понимание

Три противоречия, которые нужно держать в уме одновременно. Первое: у open weights нет встроенной модерации контента — модерация, если она есть, происходит на уровне хаба (удаление моделей), а не самой модели. Второе: задокументированный класс использования (изображения интимного характера без согласия, CSAM) уже незаконен в большинстве юрисдикций — это не столько проблема политики ИИ, сколько проблема эффективного правоприменения в масштабах. Третье: Hugging Face не предназначен для модерации контента в юридическом смысле, но масштаб делает бездействие недопустимым — это парадокс нейтрального хаба.

На что обратить внимание

Ответ HF: явная политика удаления, сторонний аудит моделей с высоким риском.
Действия регуляторов (Ofcom UK, DSA в Европе), которые могут напрямую нацелиться на HF.
Технические контрмеры (обязательная маркировка выходных данных, происхождение моделей).