Hugging Face solía censurar a mujeres y niños: el costo de los pesos abiertos recae ahora en la plataforma

Una cobertura documenta cómo Hugging Face se utiliza para crear fácilmente imágenes íntimas no consensuadas, incluidas de niños. El costo de los pesos abiertos ya no es teórico.

En términos sencillos - Un informe de The Verge documenta cómo Hugging Face se está utilizando para crear fácilmente imágenes desnudas no consentidas, incluidas de niños, y que la plataforma está haciendo muy poco para evitarlo. El costo de los pesos abiertos no es teórico; está en la plataforma, ahora.

El hecho

Según una cobertura de The Verge del 28 de julio de 2026, la plataforma Hugging Face —principal hub de modelos de código abierto— aloja y redistribuye modelos utilizados para generar fácilmente imágenes «desnudas» de mujeres y niños sin su consentimiento. The Verge escribe explícitamente que Hugging Face «isn't doing much to prevent» las salidas de deepfakes sexualizados generados por los modelos alojados. El artículo se enmarca en el debate más amplio abierto por la brecha OpenAI/Hugging Face de julio (publicación #1460, hilo frontier-access-control), pero en otra vertiente: el uso adverso de artefactos públicos, no el incidente del modelo.

Nuestra lectura

Tres tensiones que mantener al mismo tiempo. Uno: los pesos abiertos no tienen «content moderation» integrado —la moderación, cuando existe, ocurre a nivel del hub (retirada de modelos), no del modelo en sí—. Dos: la clase de uso documentada (imágenes íntimas no consentidas, CSAM) ya es ilegal en la mayoría de las jurisdicciones —no es primero un problema de política de IA, es un problema de aplicación efectiva a escala—. Tres: Hugging Face no está diseñado como un moderador de contenido en el sentido jurídico, pero la escala hace insostenible la inacción —es la paradoja del hub neutral—.

A vigilar

• Respuesta de HF: política de retirada explícita, auditoría de terceros de modelos de riesgo.
• Acción del regulador (Ofcom UK, DSA en Europa) susceptible de apuntar directamente a HF.
• Contramedidas técnicas (marcado obligatorio de las salidas, procedencia de los modelos).