허깅 페이스는 예전에는 여성과 아이들을 배제했습니다 - 오픈 가중치의 대가가 이제 플랫폼에 나타나고 있습니다

Hugging Face를 사용하여 쉽게 비동의 intimate 이미지(아동 포함)를 생성하는 방법을 문서화한 커버리지가 있습니다. 오픈 가중치의 비용이 더 이상 이론적인 문제가 아닙니다.

간단히 말해

2026년 7월 28일 The Verge의 보도에 따르면, 주요 오픈소스 모델 허브인 허깅 페이스는 여성과 아동의 동의 없이 ‘옷을 벗긴’ 이미지를 쉽게 생성할 수 있는 모델을 호스팅하고 재배포하고 있으며, 허깅 페이스는 이러한 딥페이크 생성 모델의 유출을 ‘거의 방지하지 못하고 있다’는 것이다. 오픈 가중치의 비용은 이론적인 것이 아니라, 이미 이 플랫폼에 현실로 존재한다.

사실

The Verge의 2026년 7월 28일 보도에 따르면, 주요 오픈소스 모델 허브인 허깅 페이스는 동의 없이 성적 딥페이크를 생성하는 데 사용되는 모델을 호스팅하고 재배포하고 있다. The Verge는 허깅 페이스가 호스팅된 모델로 생성된 성적 딥페이크의 유출을 ‘거의 방지하지 못하고 있다’고 명시했다. 이 기사는 7월 OpenAI/허깅 페이스 보안 사고(게시글 #1460, frontier-access-control 스레드)와는 다른 측면에서 발생한 문제로, 공개된 산출물의 악용(adverse usage)에 초점을 맞추고 있다.

우리의 해석

세 가지 긴장이 동시에 존재한다. 첫째, 오픈 가중치에는 ‘콘텐츠moderation’이 내장되어 있지 않다. moderation이 존재하더라도 허브 수준(모델 삭제)에서 이뤄지며, 모델 자체에서 이뤄지지 않는다. 둘째, 문서화된 사용 사례(동의 없는 친밀한 이미지, 아동 성 착취물 생성)는 대부분의 관할권에서 이미 불법이다. 이는 AI 정책의 문제가 아니라, 법 집행의 문제다. 셋째, 허깅 페이스는 법적意义上의 ‘콘텐츠moderator’로 설계되지 않았지만, 그 규모 때문에 무행동은 참을 수 없는 상황이 되었다. 이것이 ‘중립적 허브’의 역설이다.

주시할 사항

• 허깅 페이스의 대응: 명시적인 모델 삭제 정책, 위험 모델에 대한 제3자 감사.
• 규제 기관(영국 Ofcom, 유럽 DSA)의 허깅 페이스 직접 규제 가능성.
• 기술적 대응책(출력물 워터마킹 의무화, 모델 출처 추적).