Глибинний TechFlow-повідомлення, 25 липня, Anthropic оголосила, що її модель Opus 5 у сценаріях браузерних агентів майже повністю захищена від атак із підміною (ін’єкцією) підказок. У 129 тестових сценаріях рівень успішності атаки становить нуль; у тесті Gray Swan універсальної ін’єкції підказок частка успіху після 15 спроб знизилася з 5.5% в Opus 4.8 до 2.0%. Нульова успішність досягається лише тоді, коли в продуктах на кшталт Claude Cowork увімкнено Auto Mode; цей режим поєднує два рівні захисту — сканування вводу та перехоплення виконання. Ін’єкція підказок вважається однією з найбільших безпекових загроз, з якими стикаються AI-агенти; цей прогрес, можливо, свідчить про те, що в конкретних сценаріях проблему вдалося ефективно пом’якшити.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено