El 76% de los ataques a los LLMs de código abierto de China tienen éxito: la brecha de seguridad en modelos ampliamente desplegados

Un red-teaming estructurado de auditoría de los principales modelos de código abierto de China encontró una tasa de reproducción de ataques del 76% y cero comportamiento consistente de denegación. Estos modelos están integrados en pipelines globales de producción: la brecha de seguridad no es teórica.

En términos sencillos: Investigadores de seguridad ejecutaron ataques conocidos contra los principales modelos de IA de código abierto de China. Tres de cada cuatro ataques funcionaron. Ninguno de los modelos rechazó de manera confiable las solicitudes dañinas. Estos modelos están integrados en productos en todo el mundo.

El hecho

Una auditoría estructurada de seguridad de los principales modelos de LLMs de código abierto de China encontró una reproducción del 76% de vulnerabilidades en vectores de ataque conocidos, sin que se documentara un comportamiento consistente de rechazo en los escenarios probados, según Pandaily. A diferencia de los modelos con API cerrada, los modelos de pesos abiertos exponen sus pesos directamente, lo que facilita eludir la alineación de seguridad, ya que los atacantes pueden sondear los componentes internos del modelo en lugar de solo la superficie de la API.

Nuestra opinión

La tasa de éxito del 76% en los ataques es alta, pero no sorprendente para los modelos de pesos abiertos: las técnicas de alineación que funcionan en tiempo de inferencia son más fáciles de eludir cuando los pesos están disponibles. El resultado de "cero rechazo" es el dato más alarmante: sugiere que el entrenamiento en seguridad de estos modelos específicos está ausente o es mínimamente efectivo. Las implicaciones prácticas son significativas: los modelos de código abierto de China (Qwen, DeepSeek, línea Kimi) están integrados en aplicaciones de terceros en todo el mundo. Un desarrollador de aplicaciones que lanza un producto sobre un modelo base no alineado hereda la brecha de alineación. A medida que los requisitos de cumplimiento de la Ley de IA de la UE y las revisiones de seguridad empresarial comiencen a exigir documentación de seguridad para modelos integrados, esta auditoría brinda a los compradores una pregunta concreta para hacer a sus proveedores.

Qué observar

Si los equipos de adquisición empresarial comienzan a exigir documentación de auditoría de seguridad para modelos de pesos abiertos como condición para su implementación, junto con los requisitos existentes de SOC 2 / pruebas de penetración.