Исследователи внедряют prompt-инъекции для блокировки атак на ИИ; тестирование показывает снижение с 57% до 5% частоты доступа администраторов

Исследователи из Tracebit в понедельник заявили, что обнаружили оборонительную технику под названием context bombing, которая размещает prompt injections — запрещённые команды, запускающие защитные AI-ограничители — вместе с секретами, хранящимися в AWS, чтобы блокировать атаки со стороны AI-агентов. Когда атакующая модель сталкивается с этими подсказками, она перестаёт следовать исходным инструкциям и отказывается продолжать.

Tracebit протестировала context bombing на пяти ведущих моделях (Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro и Kimi 2.6) в смоделированной среде AWS с помощью 152 сессий атак. Результаты показали, что размещение context bombing в секретах-ловушках снижает долю случаев, когда агенты получали полный админ-доступ, с 57% до 5%, а полную компрометацию — с 36% до 1%. Opus 4.8, самый способный агент из протестированных, добивался админ-доступа в 93% запусков без защиты, но не смог выполнить ни одной попытки, когда ему противостоял context bombing.