Hugging Faceはかつて女性や子供を排除していた - オープンな重みのコストが今やプラットフォームにのしかかっている

ハガキは、Hugging Faceがどのように使用されて、同意のない、性的な画像（子どもを含む）を簡単に作成できるようになっているかを説明しています。オープンな重みモデルのコストはもはや理論的なものではありません。

簡単に言えば - The Vergeのレポートによると、Hugging Faceが同意なしのヌード画像（子供を含む）を簡単に作成できるモデルの拡散を防ぐための取り組みをほとんど行っていないことが明らかになった。オープンな重みのコストは理論的なものではなく、今まさにプラットフォーム上で現実となっている。

事実

The Vergeの2026年7月28日の報道によると、主要なオープンソースモデルのハブであるHugging Faceが、同意なしで女性や子供の「脱衣」画像を簡単に生成するモデルをホスティングし、再配布しているという。The Vergeは、Hugging Faceがホスティングするモデルによって生成された性的なディープフェイクの拡散を「ほとんど防ぐための取り組みをしていない」と明確に述べている。この記事は、7月のOpenAI/Hugging Faceのセキュリティ侵害（#1460、frontier-access-controlスレッド）に端を発するより広範な議論の一環だが、別の側面に焦点を当てている：公共の成果物の悪用、モデル自体のインシデントではない。

私たちの見解

同時に考慮すべき3つの緊張関係がある。1つ目：オープンな重みには「コンテンツモデレーション」が組み込まれていない。モデレーションが存在する場合でも、それはハブレベル（モデルの削除）で行われ、モデル自体ではない。2つ目：文書化された使用例（同意なしの性的画像、CSAM）は、ほとんどの法域で既に違法である。これはまずAIポリシーの問題ではなく、規模に応じた実効的な執行の問題だ。3つ目：Hugging Faceは法的な意味でのコンテンツモデレーターとして設計されていないが、その規模ゆえに無為は耐え難いものとなっている。これが中立的なハブのパラドックスだ。

要注目

• HFの対応：明確な削除ポリシー、リスクモデルの第三者監査。
• 規制当局（Ofcom UK、欧州DSA）によるHFへの直接的な対応の可能性。
• 技術的対策（出力への必須の透かし、モデルの出所の追跡）。