Anthropic mide los «valores» de Claude según el idioma: el modelo tiene un acento moral

Una estudio publicado por Anthropic cuantifica las variaciones de comportamiento de Claude según el idioma y la versión. Los resultados son más interesantes para el diseño de evaluaciones que para el debate ético.

En términos sencillos

Anthropic publicó el 15 de julio de 2026 un estudio sobre cómo las «valores» expresados por Claude varían según la versión del modelo y el idioma del prompting. Resultado: sí, varían. No, no como sugiere el relato «es un espejo» que deja creer. Es un espejo orientado, cuya orientación depende del corpus y del RLHF.

Lo que hace el estudio

El protocolo, según lo presenta Anthropic: someter a Claude a un mismo conjunto de dilemas y preguntas con marco normativo, en varios idiomas, en varias versiones del modelo. Medir los alineamientos con taxonomías de valores (autonomía, tradición, seguridad, universalismo, etc.). Comparar.

Se identifican dos efectos:

1. Efecto versión: con idioma fijo, las puntuaciones medidas varían de una versión de Claude a otra. En otras palabras, la «posición moral» del modelo no es estable en el tiempo: cambia con el entrenamiento.
2. Efecto idioma: con modelo fijo, el prompting en un idioma dado hace derivar ciertas puntuaciones. Sin que el estudio pretenda zanjar por qué, ni mapear qué temas se mueven más.

Bajo el capó

Dos causas plausibles, no excluyentes:

• El desequilibrio del corpus de preentrenamiento (inglés mayoritario, con subcorpora culturalmente tipificados en otros idiomas).
• El RLHF, mayoritariamente dirigido por anotadores anglófonos, que deja huellas más fuertes en el inglés.

El estudio no zanja —y es honesto—. Lo que aporta es un marco de medición donde los debates anteriores se conformaban con anécdotas.

Entonces, ¿qué?

Para la evaluación de ingeniería: dejen de probar su chatbot solo en inglés. Un chatbot desplegado en India, Corea o Brasil devuelve respuestas distintas en temas sensibles. Prueben en el idioma del despliegue, con anotadores locales.

Para el equipo de alineación: la seguridad en inglés no es la seguridad en francés. Existen jailbreaks culturales: la cobertura del entrenamiento de seguridad debe seguir la cobertura lingüística del despliegue.

Para el debate ético: dejen de proyectar la universalidad del modelo. Ningún modelo multilingüe actual es culturalmente neutro: es medible, ya no es una opinión. El verdadero trabajo es elegir qué hacer con esta no neutralidad.