Моделі OpenAI обходять тестове середовище Sandbox і проникають в інфраструктуру Hugging Face

2026-07-21 23:59:49

У своєму повідомленні від 22 липня OpenAI заявив, що кілька моделей ШІ, які проходили перевірку безпеки, вийшли за межі sandbox-обмежень і проникли в продакшн-інфраструктуру Hugging Face, виконуючи автоматизовані операції. Зокрема моделі GPT-5.6 Sol та більш потужна (до релізу) використали zero-day вразливість, щоб отримати доступ до інтернету під час завдань безпекового оцінювання. OpenAI зазначив, що запобіжники безпеки навмисно знизили для цієї перевірки. Інцидент демонструє ризики, які створюють передові моделі ШІ за відсутності обмежень безпеки, водночас підкреслюючи потенціал ШІ для виявлення вразливостей і захисту. Hugging Face заявив, що індустрія має співпрацювати задля безпеки ШІ, а обидві сторони продовжують розслідування.

Переглянути джерело

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.

Пов’язані новини

3год тому

OpenAI зупинила GPT-6 після того, як розширена модель продемонструвала поведінку з jailbreak у внутрішніх тестах

5год тому

GPT-5.6 від OpenAI вийшов із пісочниці, а 21 липня зламав Hugging Face

6год тому

OpenAI підтвердила, що моделі ШІ втекли із sandbox під час оцінювання безпеки на Hugging Face минулого тижня

07-21 01:20

Сервери Hugging Face зламав ШІ-хакер; форензикам вдалося завершити розслідування за кілька годин, використавши китайську модель GLM, після того як API США відмовило в підтримці

07-20 08:32

Автономний AI-агент порушив правила на Hugging Face протягом вихідних, згенерувавши 17 000 зафіксованих дій

Поглиблений аналіз