Модель OpenAI GPT-Red атакує GPT-5.1 із 84% рівнем успіху, знижуючи вразливість до адверсаріальних атак до 0,05%

Згідно зі спостереженнями Beating, OpenAI представила GPT-Red — автоматизовану модель red-teaming, призначену для виявлення та експлуатації вразливостей безпеки в її системах ШІ. GPT-Red вчиться створювати атаки з prompt injection через self-play, а отримані висновки передаються для тренування GPT-5.6.

У нових, раніше не бачених сценаріях GPT-Red досягла 84% успішності атак проти GPT-5.1, тоді як для людських команд red teams цей показник становив лише 13%. Після adversarial training GPT-5.6 Sol знизила рівень успішності прямих атак із prompt injection до 0,05%. GPT-Red залишається лише для внутрішнього використання.