15 июля OpenAI сообщила, что компания создала GPT-Red — внутреннюю автоматизированную модель для red-teaming, которая тестирует ИИ-системы на уязвимости к prompt injection и помогает проводить противоборческое обучение GPT-5.6 до развертывания. OpenAI заявила, что GPT-5.6 Sol показала в 6 раз меньше сбоев на своем самом сложном бенчмарке прямых prompt-injection по сравнению со своей лучшей производственной моделью, выпущенной на четыре месяца ранее. В смоделированном тесте с использованием сценария производственной AI-вендинг-машины от Andon Labs GPT-Red обошла команды human red-teamers, изменив цены и отменив заказ другого клиента, прежде чем OpenAI раскрыла недостатки. Prompt injection возникает, когда вредоносные инструкции, встроенные в подсказки или во внешнее содержимое, непреднамеренно меняют поведение модели.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

10ч назад

OpenAI представила GPT-Red, чтобы усилить GPT-5.6 против атак с внедрением подсказок

07-15 01:33

Codex и ChatGPT: активные пользователи достигли 8 миллионов, рост на 2 миллиона за два дня

07-14 08:39

OpenAI представляет модели GPT-5.6 (Sol, Terra, Luna); ограниченный доступ изначально, более широкое распространение ожидается

07-14 06:12

B.AI запускает модели GPT-5.6 для веб-чата и API

07-14 01:05

OpenAI выпустила руководство по подсказкам GPT-5.6, призывающее избегать чрезмерных промптов, 14 июля

Детальный анализ