Anthropic misst die „Werte“ von Claude je nach Sprache: Das Modell hat einen moralischen Akzent

Modelle & WerkzeugeNur für Abonnenten Jul 15, 2026 at 19:298Zu Lesezeichen hinzufügen

Anthropic misst die „Werte“ von Claude je nach Sprache: Das Modell hat einen moralischen Akzent
Illustration : Léa Fontaine

Eine von Anthropic veröffentlichte Studie quantifiziert die Verhaltensunterschiede von Claude je nach Sprache und Version. Die Ergebnisse sind für die Gestaltung von Bewertungen interessanter als für die ethische Debatte.

In einfachen Worten

Anthropic veröffentlicht am 15. Juli 2026 eine Studie darüber, wie die von Claude ausgedrückten „Werte“ variieren - je nach Modellversion und je nach Sprache des Prompts. Ergebnis: Ja, sie variieren. Nein, nicht so, wie die Erzählung „es ist ein Spiegel“ vermuten lässt. Es ist ein orientierter Spiegel, dessen Ausrichtung vom Korpus und vom RLHF abhängt.

Was die Studie macht

Das Protokoll, wie von Anthropic präsentiert: Claude wird eine Reihe von Dilemmata und normativen Fragen in mehreren Sprachen und über mehrere Modellversionen hinweg vorgelegt. Die Ausrichtungen werden mit Taxonomien von Werten (Autonomie, Tradition, Sicherheit, Universalismus usw.) gemessen und verglichen.

Zwei Effekte werden identifiziert:

  1. Versionseffekt: Bei fester Sprache variieren die gemessenen Werte von einer Version von Claude zur anderen. Mit anderen Worten, die „moralische Position“ des Modells ist nicht stabil im Zeitablauf - sie ändert sich mit dem Training.
  2. Spracheffekt: Bei festem Modell lässt das Prompting in einer bestimmten Sprache bestimmte Werte abweichen. Ohne dass die Studie behauptet, warum, oder abzubilden, welche Themen sich am stärksten verändern.

Under the hood

Zwei plausible, nicht ausschließende Ursachen:

  • Das Ungleichgewicht des Pre-Training-Korpus (überwiegend Englisch, mit kulturell typischen Subkorpora in anderen Sprachen).
  • Der RLHF, der hauptsächlich von englischsprachigen Annotatoren gesteuert wird und stärkere Spuren im Englischen hinterlässt.

Die Studie entscheidet nicht - und das ist ehrlich. Was sie liefert, ist ein Messrahmen, wo frühere Debatten sich mit Anekdoten begnügten.

So what

Für den Inge Eval: Hören Sie auf, Ihren Chatbot nur auf Englisch zu testen. Ein in Indien, Korea, Brasilien eingesetzter Chatbot gibt unterschiedliche Antworten auf sensible Themen. Testen Sie in der Sprache des Einsatzes, mit lokalen Annotatoren.

Für das Alignment-Team: Safety auf Englisch ist nicht Safety auf Französisch. Kulturelle Jailbreaks existieren - die Abdeckung des Safety-Trainings muss der linguistischen Abdeckung des Einsatzes folgen.

Für die ethische Debatte: Hören wir auf, die Universalität des Modells zu projizieren. Kein aktuelles mehrsprachiges Modell ist kulturell neutral - das ist messbar, es ist keine Meinung mehr. Die echte Arbeit besteht darin, zu entscheiden, was man mit dieser Nicht-Neutralität macht.

Inhalt Mitgliedern vorbehalten

Erstellen Sie ein kostenloses Konto, um auf alle unsere Inhalte und die Wochenrevue zuzugreifen.

Artikel von künstlicher Intelligenz erstellt, unter menschlicher redaktioneller Kontrolle geprüft.

Unsere Redaktion
Your Linux servers, as a desktop.
TermalOSSponsored
Ops, reimagined

Your Linux servers, as a desktop.

Agentless SSH monitoring, a full remote desktop and an AI ops copilot — no agents to install. Everything stays on your machine.

SSHMonitoringAI Ops
Get early access
War dieser Artikel hilfreich?

8 Personen gefiel dieser Artikel

Gefällt mir
P
Priya RamanML-Ingenieur
🇩🇪 ML-Ingenieur, angewandte Forschung.
Teilen:
Kommentare (8)

Melden Sie sich an, um an der Diskussion teilzunehmen.

Alex_LDN 16 Jul 2026 · 04:27

Est-ce que ces variations morales pourraient influencer le rôle de l'IA dans des domaines créatifs comme l'écriture ou l'art, où les nuances culturelles sont cruciales ?

J.P.R. 15 Jul 2026 · 15:48

Est-ce que ces variations morales pourraient créer des malentendus dans les communications globales où l'IA sert de traducteur ?

FoodieFiona 2 15 Jul 2026 · 15:39

Comment ces variations morales pourraient-elles influencer l'usage de l'IA en éducation, où la sensibilité culturelle est si importante ?

FoodieChicago 15 Jul 2026 · 17:53

Bonne question. Mais attention, ces nuances culturelles pourraient aussi introduire des biais involontaires dans les contenus éducatifs.

LecteurDuDimanche 15 Jul 2026 · 15:35

Est-ce que ces variations morales pourraient poser problème dans des domaines sensibles comme la santé ou le droit ?

Alex 2 15 Jul 2026 · 15:07

Intéressant de voir comment la langue influence la morale de Claude. Peut-être qu'on aura bientôt des IA adaptées à chaque culture ?

Dr. L. 15 Jul 2026 · 15:05

Comment Anthropic évite les biais involontaires dans les réponses de Claude ?

TechSavvy 15 Jul 2026 · 14:48

Comment ces variations morales selon les langues vont-elles influencer l'usage de l'IA dans les décisions internationales ?

HistoryBuff 2 15 Jul 2026 · 14:48

Intéressant, mais comment ces différences influencent-elles l'usage concret de Claude ?

Your Linux servers, as a desktop.
TermalOSSponsored
Ops, reimagined

Your Linux servers, as a desktop.

Agentless SSH monitoring, a full remote desktop and an AI ops copilot — no agents to install. Everything stays on your machine.

Get early access
Themen
Erkunden
Informationen