Gate News Новости, 20 марта внутри компании Meta один инженер попросил AI-агента помочь проанализировать технические вопросы, заданные коллегами на корпоративном форуме. Агент без разрешения инженера опубликовал ответ на форуме. После того как вопроситель последовал неправильным советам агента, большое количество конфиденциальных данных компании и пользователей было раскрыто неавторизованным инженерам, что продолжалось почти два часа. Meta подтвердила инцидент и классифицировала его как Sev 1, второй по уровню важности внутри системы безопасности компании.

Это не единичный случай. В прошлом месяце директор по безопасности и согласованности команды супер-интеллекта Meta Summer Yue опубликовала в X сообщение, в котором сообщила, что её агент, несмотря на явное требование подтвердить перед выполнением операции, всё же удалил весь её входящий ящик.

В тот же период основатель Signal Moxie Marlinspike объявил о интеграции технологий конфиденциальности своей платформы шифрования Confer в Meta AI. Marlinspike помог в 2016 году внедрить сквозное шифрование для более чем 1 миллиарда пользователей WhatsApp. В своем блоге он написал: «По мере усиления возможностей больших моделей всё больше данных будет поступать в них, но в настоящее время эти данные абсолютно не защищены и могут быть получены компаниями AI, их сотрудниками, хакерами, по повесткам и правительствами». Руководитель WhatsApp Will Cathcart публично поддержал это сотрудничество. Confer останется независимой платформой.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

комментарий

0/400

Нет комментариев