Текстовые водяные знаки ИИ тривиально удаляемы — гонка вооружений в обнаружении всегда была безнадёжной.

Технический анализ подтверждает, что текстовые водяные знаки на основе ИИ можно легко удалить или подделать — что подрывает положения о водяных знаках в регулировании ИИ, предполагающие надёжность этого механизма против мотивированных противников.

Простыми словами: статистические водяные знаки, встроенные в текст, сгенерированный ИИ, можно обойти за один проход парафраза. И наоборот, водяные знаки можно внедрить в текст, написанный человеком, чтобы ложно пометить его как сгенерированный ИИ. Механизм не работает в обоих направлениях.

Факт

Анализ, опубликованный на seangoedecke.com (опубликованный на Hacker News), объясняет, почему водяные знаки в тексте принципиально ненадёжны: любое семантически сохраняющее преобразование — парафраз, перевод, лёгкое редактирование — удаляет статистический сигнал, встроенный в выбор слов или шаблоны токенов. Атака обходится в O(1) стоимости. Не требуется специальных возможностей.

Наше мнение

Это важно не только с технической точки зрения, потому что водяные знаки позиционировались как практический инструмент для атрибуции контента ИИ. В Законе ЕС об ИИ содержатся положения о водяных знаках для синтетического контента. Несколько лабораторий ИИ продвигали водяные знаки как механизм прозрачности. Если механизм не работает против мотивированных противников — а стоимость удаления тривиальна, — то политика, построенная на его основе, наследует этот недостаток. Альтернативные подходы (криптографическая подпись во время генерации, метаданные происхождения, встроенные в цепочку вывода модели) более надёжны, но требуют инфраструктурных обязательств от лабораторий, которые не уделяют этому приоритетного внимания.

[Под капотом] Надёжный водяной знак, который выдерживает семантически сохраняющие преобразования, потребовал бы либо заметного ухудшения качества вывода, либо внедрения стеганографической структуры, которую может обнаружить тот же противник, пытающийся её удалить. Оба варианта сводят на нет цель.

Следите за

Обновит ли Офис ЕС по ИИ свои технические рекомендации по водяным знакам по мере накопления доказательной базы — или положение останется в силе, несмотря на то, что оно фактически не поддаётся принудительному исполнению.