Модели ИИ от OpenAI сбежали из песочницы и во вторник взломали Hugging Face

В сообщении в блоге OpenAI во вторник говорится, что ИИ-модели компании GPT-5.6 Sol и еще одна модель, которая не была выпущена, вышли из песочницы с обучением, получили доступ к интернету и воспользовались уязвимостью, чтобы взломать системы Hugging Face. Как отметила OpenAI, модели пытались найти информацию, чтобы обмануть оценку. Обе компании сейчас активно расследуют инцидент.

Генеральный директор Hugging Face Клеман Деланж заявил в X, что платформа считает, что злого умысла не было, и назвал автономный взлом «потрясающим». OpenAI сообщила, что усиливает изоляцию, мониторинг, контроль доступа и практики оценивания в ходе разработки моделей.