O Hugging Face costumava excluir mulheres e crianças - o custo dos pesos abertos está na plataforma agora

Uma cobertura documenta como o Hugging Face é usado para criar facilmente imagens íntimas não consensuais - incluindo de crianças. O custo dos pesos abertos não é mais teórico.

Em termos simples - Um relatório do The Verge documenta como a Hugging Face está sendo usada para criar facilmente imagens nuas não consensuais - incluindo de crianças - e que a plataforma está fazendo muito pouco para impedi-lo. O custo dos pesos abertos não é teórico; está na plataforma, agora.

O fato

Segundo uma cobertura do The Verge em 28 de julho de 2026, a plataforma Hugging Face - principal hub de modelos open-source - hospeda e redistribui modelos usados para gerar facilmente imagens "despidas" de mulheres e crianças sem o consentimento delas. O The Verge escreve explicitamente que a Hugging Face "não está fazendo muito para prevenir" a disseminação de deepfakes sexualizados gerados pelos modelos hospedados. O artigo se insere no debate mais amplo aberto pela falha OpenAI/Hugging Face de julho (publicação #1460, tópico frontier-access-control), mas em outro aspecto: o uso adverso de artefatos públicos, não o incidente do modelo.

Nossa análise

Três tensões a serem consideradas simultaneamente. Um: os pesos abertos não têm "moderação de conteúdo" integrada - a moderação, quando existe, ocorre no nível do hub (remoção de modelos), não do modelo em si. Dois: a classe de uso documentada (imagens íntimas não consensuais, CSAM) já é ilegal na maioria das jurisdições - não é, em primeiro lugar, um problema de política de IA, mas sim de aplicação efetiva em escala. Três: a Hugging Face não foi projetada como um moderador de conteúdo no sentido jurídico, mas a escala torna a inação insustentável - esse é o paradoxo do hub neutro.

A se observar

• Resposta da HF: política explícita de remoção, auditoria de terceiros de modelos de risco.
• Ação do regulador (Ofcom UK, DSA na Europa) suscetível de atingir diretamente a HF.
• Contra-medidas técnicas (marcação obrigatória das saídas, origem dos modelos).