OpenAIのGPT-RedモデルがGPT-5.1を84%の成功率で攻撃し、対抗的な脆弱性を0.05%まで低減

Beatingによる監視によれば、OpenAIは、自社AIシステムであるGPT-Redのセキュリティ脆弱性を特定し悪用することを目的とした、自動型レッドチーミングモデルを公開した。GPT-Redは自己対戦(self-play)を通じてプロンプトインジェクション攻撃を生成することを学び、その知見はトレーニング用にGPT-5.6へ投入される。

新たな未見シナリオでは、GPT-RedはGPT-5.1に対して84%の攻撃成功率を達成した。これは、人間のレッドチームの13%と比べて大幅に上回る。対抗的トレーニング(adversarial training)の後、GPT-5.6 Solは、直接的なプロンプトインジェクション攻撃の成功率を0.05%まで引き下げた。GPT-Redは引き続き内部用途のみにとどまる。

免責事項:本ページの情報には第三者提供の内容が含まれる場合があり、参考目的のみで提供されています。これらはGateの見解や意見を示すものではなく、金融、投資、または法律上の助言を構成するものでもありません。暗号資産取引には高いリスクが伴います。意思決定を行う際には、本ページの情報のみに依存しないでください。詳細については、免責事項をご確認ください。
コメント
0/400
コメントなし