"精灵系数": Schneier 提出了一个衡量传统安全无法达到的指标

布鲁斯·施奈尔提出了一个“精灵系数”——即赋予AI代理的自由度与我们对其行为保留的可追溯性之间的差距。这是一个概念性的衡量标准，它命名了一个问题，而CVE和越狱都无法覆盖。

事实

布鲁斯·施奈尔提出了一个“精灵系数”：衡量系统赋予代理AI的自由度与对其行为保留的可追溯性之间的差距。精灵系数越高，愿望的表达就越不准确。他将其与吉尼系数进行了类比——并非用于衡量不平等，而是为了使目前隐藏在系统提示、IAM角色和集成链中的内容可见。

我们的看法

这个想法很有吸引力，因为它命名了一个传统安全无法触及的问题：这不是一个CVE，也不是一个越狱，而是一个委托架构。一个可以关闭工单、发送电子邮件、扣款的代理——在出现故障时无法追溯的情况下——即使没有任何组件被利用，也具有高精灵系数。最近的前沿运行时集成了精细的遥测控制台，但与企业中野蛮的集成之间的差距正在扩大。剩下的问题是构建评分——施奈尔对此保持开放。

需要关注

如果NIST、ENISA或AISI在评估框架中采用这一想法。以及，如果前沿提供商开始在其企业代理上默认发布“GC”，而不是一个模糊的“人类监督”标签。