Anthropic измеряет «ценности» Claude в зависимости от языка: модель имеет моральный акцент

Исследование, опубликованное Anthropic, количественно оценивает изменения в поведении модели Claude в зависимости от языка и версии. Результаты представляют больший интерес для разработки оценок, чем для этических дебатов.

Простыми словами

Anthropic публикует 15 июля 2026 года исследование о том, как «ценности», выражаемые Claude, варьируются — в зависимости от версии модели и языка промпта. Результат: да, они меняются. Нет, не так, как это преподносит нарратив «это зеркало». Это направленное зеркало, ориентация которого зависит от корпуса данных и RLHF.

Что делает исследование

Протокол, представленный Anthropic: предоставить Claude один и тот же набор дилемм и вопросов с нормативной рамкой на нескольких языках и версиях модели. Измерить соответствие таксономиям ценностей (автономия, традиция, безопасность, универсализм и др.). Сравнить.

Выявлены два эффекта:

1. Эффект версии: при фиксированном языке измеренные показатели варьируются от одной версии Claude к другой. Иными словами, «моральная позиция» модели нестабильна во времени — она меняется вместе с обучением.
2. Эффект языка: при фиксированной модели промпт на определённом языке смещает некоторые показатели. Исследование не претендует на объяснение причин или выявление тем, которые меняются сильнее всего.

Под капотом

Две правдоподобные, но не исключающие друг друга причины:

• Дисбаланс корпуса данных для предобучения (английский преобладает, с культурно специфичными подкорпусами на других языках).
• RLHF, который преимущественно курируют англоязычные аннотаторы, оставляя более сильный отпечаток на английском языке.

Исследование не даёт однозначного ответа — и это честно. Оно предлагает систему измерений там, где предыдущие споры ограничивались anecdotal evidence.

Так что

Для инженеров eval: перестаньте тестировать своего чат-бота только на английском. Чат-бот, развёрнутый в Индии, Корее или Бразилии, будет давать разные ответы на деликатные темы. Тестируйте на языке развёртывания с локальными аннотаторами.

Для команды alignment: безопасность на английском — не то же самое, что безопасность на французском. Существуют культурные jailbreak — покрытие safety training должно соответствовать языковому покрытию развёртывания.

Для этического дискурса: перестаньте навязывать модель как универсальную. Ни одна из современных мультиязычных моделей не является культурно нейтральной — это измеримо, и это больше не мнение. Настоящая задача — выбрать, что делать с этой ненейтральностью.