하사비스는 각 출시 30일 전에 AI의 FINRA를 제안합니다

독립적인 규제 기관이 산업계의 자금 지원을 받아 출시 전 모델을 검사하는 방안입니다. 이 제안은 진지합니다. 하지만 이 또한 blind spot(사각지대)이 있습니다.

간단히 말해

구글 딥마인드 CEO가 시장에 출시되기 전 최첨단 AI 모델을 평가할 독립 기구 설립을 제안했습니다. 그가 언급한 모델은 미국의 FINRA입니다. FINRA는 해당 업계를 감독하지만 자율적으로 운영되는 민간 기구입니다.

구체적으로 제안된 내용

데미스 하사비스는 2024년 7월 14일 이 메커니즘을 자세히 설명했습니다. 이 제도는 점진적으로 도입될 예정입니다. 첫 단계에서는 연구실들이 자발적으로 모델을 기구에 공유하며, 출시 30일 전까지 검토를 요청할 수 있습니다. 그의 설명에 따르면, “초기에는 Frontier Labs가 자발적으로 출시 30일 전까지 모델을 표준 기구에 공유할 것입니다.” 일단 이 과정이 검증되면, 미국 내 모든 배포는 의무적으로 평가를 받아야 합니다. 이 기구는 또한 출시 후 발견된 주요 취약점도 관리할 예정입니다.

이 제안은 사전 정부 검토가 약하고 비투명하다는 평가를 받은 미토스(Mythos, 앤트로픽)와 솔(Sol, 오픈AI) 모델에 대한 비판 이후 등장했습니다.

내부 구조

위임된 자율 규제는 새로운 개념도, 이상한 일도 아닙니다. FINRA는 공공 규제 기관이 수만 명의 브로커를 실시간으로 감시할 수 있는 전문성이나 자원을 갖추지 못했기 때문에 존재합니다. FINRA는 감독 대상인 업계로부터 자금을 조달하며, 제재 권한을 보유하고, SEC의 감독을 받습니다. 중요한 점은 공공 규제 기관이 자율 규제를 거부할 수 있어야 한다는 것입니다.

AI로 이 개념을 적용하면 타당해 보입니다. 최첨단 모델 평가 전문가는 전 세계에 수백 명에 불과하며, 대부분 연구실에서 근무합니다. 업계가 자금을 대는 독립 기구는 이 전문가들에게 시가 수준의 보수를 지급할 수 있는 유일한 방법일 수 있습니다. 정부가 예산을 승인할 때까지 기다릴 필요가 없습니다.

blind spot

세 가지 blind spot을 명명해야 합니다. 악의적 의도를 전제하지 않고 말입니다.

포획(capture). 누가 이사회를 임명합니까? 기구와 기금을 대는 연구실 간 분쟁을 누가 중재합니까? SEC와 같은 공공 감독이 없다면 “독립적”이라는 단어는 형용사에 불과합니다.

30일. 이 기간은 규정 준수 감사에 맞춰져 있으며, 적대적 취약점 탐색에는 맞지 않습니다. 이번 주 IEEE Spectrum은 상업용 AI 산업 대부분에 영향을 미치는 8가지 jailbreak 기법을 문서화했습니다. 이 취약점들은 출시 전 검토가 아닌, 연구실 외부 연구자들에 의해 사후 발견되었습니다. 출시 30일 전에 시작되는 평가는 지시받은 대로만 검색할 것입니다. 아무도 생각하지 못한 취약점이 바로 중요한 취약점입니다.

국가적 범위. 미국 내 배포에만 의무화하면, 해외에서 공개된 오픈 모델(중국어 사용 비중이 이미 무시할 수 없을 정도로 커졌다는 허깅페이스 통계)과 같은 문제는 그대로 남습니다. 가장 눈에 띄는 채널만 규제하고, 가장 넓은 채널은 규제하지 않는 셈입니다.

결론

이 제안은 “여우가 닭장을 지키는” 냉소적 반응 이상 заслужи며, 즉 가치가 있습니다. 즉흥적인 정부 검토에 비해 기술적이며 자금이 뒷받침되고 기한이 엄격한 이 제도는 분명한 진전입니다.

하지만 FINRA의 역사에서 배울 점은 실질적인 권력은 기구에 있는 것이 아니라, 기구를 거부할 수 있는 공공 권한에 있다는 것입니다. 이 권한이 명명되지 않는 한, 하사비스의 제안은 훌륭한 평가 실험실일 뿐입니다. 규제 기관은 아닙니다.