Хассис предлагает FINRA для ИИ — за 30 дней до каждого релиза

Независимый орган по стандартизации, финансируемый промышленностью, который проверял бы модели перед их запуском. Предложение серьёзное. Но у него есть и свои слепые зоны.

Простыми словами

Генеральный директор Google DeepMind предлагает создать независимый орган, который будет оценивать передовые модели ИИ перед их выходом на рынок. В качестве модели он приводит американский FINRA: структуру, финансируемую отраслью, которой она управляет, но работающую автономно.

Что именно предлагается

Демис Хассабис подробно описал механизм 14 июля 2026 года. Система будет внедряться постепенно: сначала добровольное участие лабораторий, которые будут делиться своими моделями с органом за 30 дней до их выпуска. В его формулировке: «Изначально передовые лаборатории будут добровольно передавать модели в Стандартный орган для проверки за 30 дней до выпуска». После отработки процесса оценка станет обязательной для всех развёртываний в США. Орган также будет управлять критическими уязвимостями, обнаруженными после запуска.

Контекст важен: предложение появилось после критики временных правительственных проверок моделей Mythos (Anthropic) и Sol (OpenAI), которые были сочтены технически слабыми и непрозрачными.

Под капотом

Делегированное саморегулирование — не новость и не аномалия. FINRA существует потому, что государственный регулятор никогда не имел ни ресурсов, ни экспертизы для мониторинга десятков тысяч брокеров в реальном времени. Она финансируется теми, кем управляет, имеет полномочия налагать санкции и работает под надзором SEC. Последний момент решающий: саморегулирование работает только если государственный регулятор может его отменить.

Перенесённое на ИИ, это рассуждение имеет смысл. Экспертиза по оценке передовых моделей насчитывает всего несколько сотен человек во всём мире, почти все из которых работают в лабораториях. Независимый орган, финансируемый отраслью, возможно, единственный способ платить этим специалистам рыночные ставки, не дожидаясь, пока государство утвердит бюджет.

Слепые зоны

Три момента, которые нужно назвать без задней мысли.

Контроль. Кто назначает совет? Кто разрешает спор между органом и лабораторией, которая его финансирует? Без государственного надзора, аналогичного SEC, «независимость» — это прилагательное, а не структура.

30 дней. Окно рассчитано на аудит соответствия, а не на поиск уязвимостей методом «красная команда». Напоминание пришло на этой неделе: IEEE Spectrum задокументировал восемь различных техник джейлбрейка, затрагивающих основную часть коммерческой индустрии — обнаружены они были не на предварительной проверке, а задним числом, сторонними исследователями. Оценка, начинающаяся за 30 дней до выпуска, будет искать то, чему её научили искать. А реальные уязвимости — это те, о которых ещё никто не подумал.

Национальные границы. Обязательство, ограниченное развёртыванием в США, оставляет без внимания открытые модели, публикуемые в других странах — а данные Hugging Face напоминают, что доля Китая в реальном использовании уже не маргинальна. Мы бы регулировали самый заметный канал, а не самый широкий.

Что дальше

Предложение заслуживает большего, чем циничный рефлекс «лиса, охраняющая курятник». По сравнению с импровизированными правительственными проверками, технический, финансируемый орган с обязательным сроком — это явный прогресс.

Но история FINRA также учит, что реальная власть не в самом органе: она в государственном органе, который может его опротестовать. Пока эта власть не названа, то, что предлагает Хассабис, — это очень хорошая испытательная лаборатория оценки. Не регулятор.