据 Beating 的监测,OpenAI 已发布 GPT-Red,这是一款自动化红队模型,旨在识别并利用其 AI 系统中的安全漏洞。GPT-Red 通过自我对弈学习构造提示注入攻击,并将相关发现反馈至用于训练 GPT-5.6。
在新的、未见过的场景中,GPT-Red 针对 GPT-5.1 的攻击成功率达到 84%,而人类红队仅为 13%。经过对抗训练后,GPT-5.6 Sol 将直接提示注入攻击的成功率降至 0.05%。GPT-Red 仅供内部使用。
相关快讯
OpenAI 推出 GPT-Red,以增强 GPT-5.6 抵御提示注入(Prompt Injection)
白宫启动“金鹰”AI网络防御计划,Anthropic疑似参与传出
OpenAI 发布 GPT-5.6 提示词指南,Token 节省逾 40%