Anthropic 根据语言测量 Claude 的“价值观”：该模型具有道德倾向

简单来说

Anthropic于2026年7月15日发表了一项研究，探讨Claude表达的「价值观」如何随模型版本和提示语言的变化而变化。结果：是的，它们会变化。但并非像「这是一面镜子」的叙事所暗示的那样。这是一面有方向性的镜子，其方向取决于语料库和RLHF。

研究内容

Anthropic呈现的研究协议：在多种语言和多个模型版本中，向Claude提交相同的道德困境和规范性问题集。测量与价值观分类（自主性、传统、安全、普遍主义等）的对齐程度。进行比较。

研究识别出两种效应：

1. 版本效应：在固定语言的情况下，测量的分数会随着Claude的不同版本而变化。换句话说，模型的「道德立场」并非稳定——它会随着训练而变化。
2. 语言效应：在固定模型的情况下，使用特定语言的提示会使某些分数偏离。尽管研究并未声称解释原因，也未绘制出哪些主题变化最为显著。

幕后

两个可能的、非排他性的原因：

• 预训练语料库的失衡（以英语为主，其他语言的子语料库具有文化典型性）。
• 主要由英语母语标注员驱动的RLHF，在英语上留下更强的印记。

研究并未得出结论——这很诚实。它带来的是一个测量框架，而之前的讨论仅依赖于轶事。

那么呢

对于评估工程师：停止仅用英语测试您的聊天机器人。在印度、韩国、巴西部署的聊天机器人会对敏感主题给出不同的回答。在部署语言中测试，并使用本地标注员。

对于对齐团队：英语中的安全性并不等同于法语中的安全性。文化越狱存在——安全训练的覆盖范围必须与部署的语言覆盖范围相匹配。

对于伦理辩论：停止将普遍性投射到模型上。当前的任何多语言模型都不是文化中立的——这是可衡量的，不再是观点。真正的工作是决定如何处理这种非中立性。