OpenAI создала GPT-Red для тестирования инъекций промтов: модель для «красной команды» становится категорией продукта

OpenAI создала GPT-Red, модель, специально разработанную для изучения уязвимостей prompt injection, согласно Tech in Asia. Когда вы называете свою модель для красных команд, происходит две вещи: вы демонстрируете дисциплину, и создаёте рынок.

Простыми словами. OpenAI создала специализированную модель для атаки на подсказки и защиты других моделей. Атакующий становится внутренним инструментом — не программой вознаграждения за обнаруженные уязвимости, а инструментом для вывода. Это происходит, когда инъекция подсказок перестаёт быть исследовательской работой и становится производственным риском.

Контекст

Инъекция подсказок преследует все развёртывания LLM с 2023 года: инструкции, скрытые во входных данных (документах, веб-страницах, результатах работы инструментов), которые захватывают контроль над помощником. Защитники внедрили ограждения, таксономии, оценки. Но поверхность атаки выросла с появлением агентов — каждый вызов инструмента становится новым вектором инъекции. Это связано с двумя активными темами: mcp-ecosystem-plumbing (атака на постоянную память Claude через кражу памяти) и frontier-access-control (аппаратные ключи Trusted Access от OpenAI для кибер-сценариев).

Факты (на дату источника)

• Tech in Asia, 16 июля 2026: OpenAI создала GPT-Red для тестирования инъекций подсказок.
• Согласно тому же источнику, OpenAI сообщила, что GPT-Red превзошёл красных тестировщиков-людей в отдельном тесте.
• Помимо этого, в источнике ограничены публичные данные об архитектуре, обучающих данных или доступности.
• Контекст: «Как я обманул Claude» (арт. #21381689) продемонстрировал, что постоянная память — стабильная поверхность атаки.

Анализ

Называние модели для красного тестирования имеет значение, так как это инструмент обязательств. Как только GPT-Red существует как линейка продуктов внутри OpenAI, его результаты можно продавать, его оценки можно использовать для сравнения, а клиенты могут требовать «проверено GPT-Red» как обязательный пункт закупки. Это шаг по формированию рынка. Утверждение, что он превосходит красных тестировщиков-людей, превращает историю в аргумент предложения: ручное красное тестирование не масштабируется, а модель атаки — да. Сравните с тем, что произошло с CVE и базами уязвимостей в 1990-х.

Под капотом

Атакующая LLM выполняет совершенно другую работу, чем защитник. Её обучающая цель — враждебная: генерировать входные данные, которые максимально смещают поведение целевой модели от её системного запроса. Это означает совершенно другие данные (корпуса джейлбрейков, отчёты об инъекциях подсказок, враждебные наборы данных) и другие функции потерь. Будет ли GPT-Red выпущен как API, внутренний бенчмарк или лицензируемая услуга — вопрос ценообразования; источник этого не раскрывает.

Сценарии

Базовый случай (60 %): GPT-Red становится внутренним инструментом безопасности для сертификации собственных релизов OpenAI; отрывки публикуются в системных картах. Оптимистичный сценарий (25 %): OpenAI лицензирует GPT-Red корпоративным клиентам как услугу соответствия, наряду с консалтингом по красному тестированию. Пессимистичный сценарий (15 %): GPT-Red — это больше маркетинг, чем техника, и те же джейлбрейки продолжают работать.

Что дальше

Для предприятий, развёртывающих агентов: предполагайте, что поверхность инъекции подсказок будет тестироваться атакующими LLM до того, как ваши защитники будут к этому готовы. Для вендоров безопасности это новая категория продуктов. Для OpenAI это способ оценить безопасность без замедления скорости разработки продуктов. Следите за системными картами следующего релиза модели — если появится «оценка GPT-Red», это станет отраслевым стандартом.