Anthropic은 클로드의 '가치'를 언어에 따라 측정합니다: 모델은 도덕적 억양을 가집니다

Anthropic에서 발표한 연구에 따르면, 클로드( Claude )의 언어 및 버전에 따른 행동 변화가 정량화되었습니다. 이러한 결과는 윤리적 논쟁보다는 평가 설계에 더 흥미로운 시사점을 제공합니다.

간단히 말해

Anthropic은 2026년 7월 15일 클로드(Claude)가 표현하는 '가치'가 모델 버전과 프롬프트 언어에 따라 어떻게 달라지는지에 대한 연구를 발표했다. 결과: 그렇다, 달라진다. 그러나 '거울' narrative가 암시하는 것처럼 무작위로 달라지는 것은 아니다. 이는 방향성이 있는 거울로, 그 방향성은 말뭉치와 RLHF에 따라 달라진다.

연구가 하는 일

Anthropic이 제시한 프로토콜: 동일한 도덕적 딜레마와 규범적 프레임 질문을 여러 언어와 여러 모델 버전에 걸쳐 클로드에 제출한다. 가치 분류(자율성, 전통, 안전, 보편주의 등)와의 정렬을 측정하고 비교한다.

두 가지 효과가 확인되었다:

1. 버전 효과: 언어가 고정되어 있을 때, 측정된 점수가 한 버전에서 다른 버전으로 달라진다. 즉, 모델의 '도덕적 입장'은 시간이 지나면서 안정적이지 않다—훈련에 따라 변동한다.
2. 언어 효과: 모델이 고정되어 있을 때, 특정 언어의 프롬프트가 일부 점수를 변화시킨다. 연구는 왜 그런지, 어떤 주제가 가장 많이 변하는지 특정하지 않는다.

내부 메커니즘

가능한 두 가지 원인(배타적이 아님):

• 사전 훈련 말뭉치의 불균형(영어가 다수를 차지하며, 다른 언어는 문화적으로 특화된 하위 말뭉치를 가짐)
• 주로 영어를 구사하는 어노테이터에 의해 주도되는 RLHF가 영어에 더 강한 흔적을 남김

연구는 결론을 내리지 않는다—정직하게도 그렇다. 연구가 제공하는 것은 이전 논쟁이 일화에 그쳤던 곳에 측정의 틀을 마련했다는 점이다.

결론

엔지니어 평가 담당자: 챗봇을 영어로만 테스트하지 마라. 인도, 한국, 브라질에 배포된 챗봇은 민감한 주제에서 서로 다른 응답을 반환한다. 배포 언어와 현지 어노테이터로 테스트하라.

정렬 팀: 영어 안전이 프랑스어 안전과 같지 않다. 문화적 jailbreak가 존재한다—안전 훈련의 범위는 배포 언어 범위에 맞춰야 한다.

윤리적 논쟁: 모델의 보편성을 과대평가하지 마라. 현재 어떤 다국어 모델도 문화적으로 중립적이지 않다—이는 측정 가능하며 더는 의견이 아니다. 진짜 과제는 이러한 비중립성을 어떻게 다룰 것인가이다.