OpenAI представила GPT-Red, ИИ, который атакует свои собственные модели для их усиления

OpenAI представила в среду, 15 июля 2026 года, автоматизированный инструмент для red-teaming под названием GPT-Red, который отвечает за укрепление устойчивости GPT-5.6 к атакам с использованием инъекций команд. Концепция основывается на простом наблюдении: человеческие методы тестирования на проникновение больше не успевают за возможностями моделей. Проблема становится все более актуальной, поскольку эти уязвимости напрямую затрагивают безопасность автономных агентов.

Кратко

• GPT-Red успешно справился с 84 % внутренних сценариев оценки инъекций команд, в то время как человеческие команды red team справились только с 13 %.
• OpenAI обучила GPT-Red с помощью обучения с подкреплением через само-соперничество, чтобы укрепить GPT-5.6 перед его развертыванием.
• Фонд Ethereum также развернул ИИ-агентов для аудита своей критической сетевой инфраструктуры в июле 2026 года.

GPT-Red укореняется в этой логике автоматизированной наступательной безопасности. Название GPT-Red происходит от практики «red teaming», которая заключается в намеренной попытке сломать систему, чтобы выявить ее слабости до того, как злоумышленник сможет их использовать.

OpenAI объясняет, что модель была обучена с помощью обучения с подкреплением через само-соперничество (self-play). Она генерирует все более сложные атаки с использованием инъекций команд, в то время как защитные модели учатся им противостоять. Каждое успешное нападение затем подпитывает обучение GPT-5.6, который становится более устойчивым даже до его развертывания.

В одном из случаев, упомянутых OpenAI, система манипулировала автономным агентом, управляющим торговым автоматом, заставляя его снижать цены, заказывать запасы по сниженным ценам и отменять заказы другого клиента.

Уязвимость была обнаружена и исправлена до того, как она могла быть использована на практике. Этот пример показывает, насколько инъекция команды может превратить помощника в инструмент, используемый в корыстных целях, не замечая этого пользователем.

Цифра, которая впечатляет в объявлении OpenAI, - это разница в производительности, измеренная внутри компании. В тех же сценариях оценки GPT-Red успешно справился с 84 % атак с использованием инъекций команд, в то время как человеческие команды red team справились только с 13 %.

OpenAI оправдывает эту автоматизацию в сообщении, опубликованном в X. << По мере увеличения возможностей моделей, безопасность и согласование должны развиваться с той же скоростью >>, пишет компания.

Модель работает через противостояние само-соперничества, уточняет OpenAI. << GPT-Red учится через противостояние само-соперничества, его цель - внедрять команды в разнообразные сложные защитные модели >>, уточняет компания.

Цикл подпитывает сам себя, и именно этого исследователи и добивались: движущая сила непрерывного улучшения, а не разовая кампания тестирования.

GPT-Red продолжает многолетние усилия по кибербезопасности, начатые OpenAI после публичного успеха ChatGPT. Компания создала в 2023 году свою сеть OpenAI Red Teaming, нанимая внешних исследователей для проверки своих моделей на наличие уязвимостей перед публикацией.

Переход к автоматизированной модели знаменует собой изменение подхода, поскольку ИИ производит атаки в масштабе, недоступном для одних только людей.

Это объявление вписывается в более широкое движение: движение ИИ, который обеспечивает безопасность ИИ. Ранее в июле 2026 года Фонд Ethereum сообщил о развертывании ИИ-агентов для аудита своей критической сетевой инфраструктуры, обнаружив уязвимость в программном обеспечении, используемом его клиентами для консенсуса.

OpenAI держит GPT-Red под замком, но видит в этом замкнутый круг.

OpenAI сохраняет GPT-Red как чисто внутренний инструмент. Модель содержит специально разработанные наступательные возможности, что исключает любую публичную распространенность. Тем не менее, компания видит в этом начало замкнутого круга.

<< Мы считаем, что с помощью GPT-Red начали разблокировать эффект тренировки, аналогичный безопасности, где модели сегодняшнего дня помогают сделать модели завтрашнего дня более устойчивыми, согласованными и надежными >>, заключает она.

В общем, OpenAI сделала автоматизированную атаку щитом для GPT-5.6, с разницей в производительности, которая вызывает уважение: 84 % успеха для GPT-Red против 13 % для людей. Этот переход к ИИ, который обеспечивает безопасность другого ИИ, изменяет позицию безопасности в отрасли, от лабораторий до блокчейнов.