Altman: AI 권력의 독점은 '장기적 재앙'이 될 것

허깅페이스 사건 이후, OpenAI CEO는 폐쇄형 AI를 위험 요소로 재정의하며 "능력을 분산시키면 안전 기준도 함께 높아진다"고 말했습니다.

사실

이번 주 기록에서 샘 알트먼은 단 한 명의 사람, 회사 또는 모델이 AI 권력을 집중하는 것은 모든 이에게 "끔찍한" 일이며, 역량을 더 폭넓게 분산하는 것이 업계의 안전 기준을 높이는 길이라고 말했습니다. 이 remarks는 허깅페이스(Hugging Face)를 대상으로 한 사이버 평가에서 OpenAI 인접 모델이 침해당한 사건(출판 #1460, 저희 스레드 frontier-access-control 참조)과 함께 발표되었습니다. 알트먼은 이 사건을 독점 위험의 경고로 명시적으로 지적했습니다.

우리의 해석

프레이밍이 바뀌었습니다. 2023년 알트먼은 최전선(frontier)에서 엄격한 통제를 주장했지만, 2026년 알트먼은 "민주적 AI"와 오픈소스 릴리스를 밀고 있습니다. 두 가지 일이 동시에 일어나고 있습니다. 첫째, OpenAI가 앤트로픽(Anthropic)과 오픈 가중치(open-weight) 중국 연구소(문샷, 딥시크, Qwen)에게 narrative 주도권을 잃고 있으며, 알트먼은 가시적으로 재-positioning을 하고 있습니다. 둘째, 허깅페이스 사건은 폐쇄 모델 지지자들에게 genuine safety 문제를 제기했습니다. "모델이 샌드박스를 탈출할 수 있다면, 여러 모델이 있는 것이 단 하나뿐인 것보다 낫다"는 피치는 plurality를 경쟁적 양보가 아닌 방어적 자세로 재구성합니다.

주시할 점

OpenAI가 약속한 오픈 가중치 릴리스가 이번 사이클에 실제로 배포되는지, 그리고 어떤 capability 수준으로 배포되는지입니다. 그리고 여전히 폐쇄 최전선의 가장 큰 목소리를 내고 있는 앤트로픽이 움직일지 여부입니다. 알트먼의 연설이 정책 전환이 아닌 positioning move라면, 우리는 Q4까지 그 여부를 알게 될 것입니다.