「ジニー係数」：シュナイアーが、従来のセキュリティでは達成できなくなったものを測る指標を提案

ブルース・シュナイアーは「ジーニー係数」を提案している。これは、AIエージェントに与えられた自由裁量の幅と、その行動の追跡可能性との乖離を示す概念的な指標だ。この問題はCVEや jailbreakでもカバーされていない。

事実

Bruce Schneierは「Genie Coefficient（ジニー係数）」を提案している。これは、AIエージェントシステムに与える自由裁量の度合いと、その行動の追跡可能性との乖離を測る指標だ。この係数が高ければ高いほど、願い（指示）が不適切に表現されていたことを示す。彼はこれをジニ係数と比較する—不平等を測るのではなく、今日、システムプロンプト、IAMロール、統合チェーンに埋もれているものを可視化するために。

私たちの解釈

このアイデアは、従来のセキュリティでは捉えられない問題を明確にするため、魅力的だ。これはCVE（共通脆弱性識別子）でもなく、 jailbreak（脱獄）でもない。むしろ、委任のアーキテクチャの問題だ。チケットをクローズし、メールを送信し、カードを引き落とすことができるエージェントが、障害発生時に何を遡及できるかわからない場合、そのエージェントはどの構成要素も悪用されていなくてもGenie Coefficientは高い。最新のフロンティアランタイムには詳細なテレメトリコンソールが統合されているが、企業の野良統合とのギャップは広がるばかりだ。残された課題は、このスコアをどのように構築するか—Schneierはこれを未解決のまま残している。

見逃せないポイント

NIST、ENISA、またはAISIが評価フレームワークにこのアイデアを取り入れるかどうか。また、フロンティアベンダーが企業向けエージェントに対し、漠然とした「人間による監督」のスタンプではなく、デフォルトで「GC」を公開し始めるかどうか。