テキストのAI透かしは簡単に除去できる — 検出のいたちごっこは最初から勝ち目がなかった

テキストベースのAI透かしは、動機付けられた攻撃者に対しても信頼できるという前提のもと、AI規制における透かし機能を損なう、些細な努力で削除または偽装できることが技術的分析により確認された。

簡単に言えば： AIが生成したテキストに埋め込まれた統計的透かしは、一度の言い換え処理で無効化される可能性がある。逆に、人間が書いたテキストに透かしを注入して、AI生成物として偽装することもできる。この仕組みは双方向で機能不全に陥っている。

事実

seangoedecke.comに掲載された分析（Hacker Newsで取り上げられた）では、テキスト透かしが根本的に脆弱である理由を説明している。意味を保持する変換（言い換え、翻訳、軽微な編集）によって、単語選択やトークンパターンに埋め込まれた統計的シグナルが消失する。攻撃にかかるコストはO(1)で、特別な能力は不要だ。

我々の見解

この技術的詳細を超えて重要なのは、透かしがAIコンテンツの帰属を実用的なツールとして位置付けられていた点だ。EU AI法には合成コンテンツに関する透かし規定が含まれている。複数のAI研究所が透かしを透明性メカニズムとして推進してきた。しかし、この仕組みが動機のある攻撃者に対して脆弱であり、除去コストが些細なものであるならば、その上に構築される政策層も同様の欠陥を抱えることになる。代替手法（生成時の暗号署名、モデル出力チェーンへの provenance メタデータ埋め込み）はより堅牢だが、研究所側が優先していないインフラ整備を必要とする。

[技術的詳細] 意味を保持する変換に耐える堅牢な透かしを実現するには、出力品質を目に見えて低下させるか、あるいは透かしを除去しようとする攻撃者自身によって検出可能なステガノグラフィック構造を埋め込む必要がある。いずれの方法も透かしの目的に反する。

見逃すな

EU AI事務局が、この証拠が蓄積されるにつれて透かしに関する技術的ガイダンスを更新するか、それとも実質的に執行不可能であるにもかかわらず規定が存続するのか。