Антропик（Anthropic）объявила о запуске нового ИИ-моделя Claude Mythos Preview, а также параллельно стартовала план кибербезопасности под названием «Project Glasswing». Поскольку способности этой модели по обнаружению уязвимостей в программном обеспечении существенно превосходят существующие технологии, Anthropic решила пока не публиковать ее для широкой аудитории, а выдать доступ лишь примерно 40 технологическим гигантам и компаниям, занимающимся инфраструктурой, включая Apple и Google, чтобы не допустить попадания возможностей модели в руки злоумышленников.
Anthropic представила Claude Mythos Preview, наделив ИИ функциями кибербезопасности
В объявлении Claude Mythos Preview позиционируется как универсальная ИИ-модель; ее выдающиеся способности в программировании и рассуждениях позволяют ей демонстрировать впечатляющие результаты в сфере кибербезопасности.
Anthropic заявляет, что в ходе внутренних тестов за последние несколько недель Mythos Preview уже обнаружила тысячи ранее не выявлявшихся zero-day уязвимостей во всех основных операционных системах и во всех основных браузерах, при этом многие из них отнесены к уровню высокой опасности; некоторые уязвимости даже десятилетиями «дремали» в системах.
Среди одного из примеров: Mythos Preview полностью автономно распознала и задействовала удаленную уязвимость в операционной системе FreeBSD, существующую целых 17 лет, которая позволяет неавторизованным лицам получить полный контроль над сервером из любой точки сети.
Anthropic подчеркивает, что среди выявленных на данный момент уязвимостей более 99% все еще не устранены, поэтому соответствующие детали нельзя раскрывать публично.
Project Glasswing: залатать глобальные ключевые системы раньше, чем это сделают атакующие
Чтобы возможности Mythos Preview служили защите, а не атаке, Anthropic запустила проект Project Glasswing. Название плана вдохновлено образом стекляннокрылой бабочки: оно символизирует «тонкую и невидимую» природу уязвимостей в программном обеспечении — подобно крыльям бабочки.
Ключевыми партнерами выступают Amazon Web Services, Apple, Broadcom, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia и др., а также 40 организаций, отвечающих за создание или обслуживание критически важной инфраструктуры ПО, которые получили право доступа к модели.
Anthropic обещает предоставить до 100 миллионов долларов лимита на использование модели, чтобы участвующие компании могли бесплатно применять ее на этапе исследований в сфере кибербезопасности, и дополнительно пожертвовать 4 миллиона долларов организациям открытой безопасности, включая финансирование Alpha-Omega и OpenSSF через Linux Foundation, а также пожертвования Фонду программного обеспечения Apache. Партнеры будут делиться результатами тестирования, чтобы общая отрасль технологий получила выгоду.
Дилемма двустороннего оружия: почему Anthropic отказывается публиковать релиз?
Руководитель команды по кибербезопасности Anthropic Ньютон Ченг (Newton Cheng) прямо заявил, что не намерен предоставлять Claude Mythos Preview обычной широкой публике, поскольку опасается его потенциальных рисков атак:
Поскольку возможности ИИ продолжают быстро развиваться, подобные мощные инструменты рано или поздно окажутся в руках злоумышленников; если это случится, это нанесет серьезный удар по экономике, общественной и национальной безопасности.
Руководитель продуктового направления в области исследований у Anthropic Дайанн Пенн (Dianne Penn) заявляет, что она ведет совместные обсуждения с правительством США, включая такие структуры, как Агентство по кибербезопасности и безопасности инфраструктуры США (CISA) и Центр стандартов и инноваций в области ИИ.
Стоит отметить, что время этого релиза пришлось как раз на период, который был через несколько недель после того, как разгорелся спор по вопросам безопасного использования моделей Claude между Anthropic и Министерством обороны США; до сих пор у сторон сохраняется юридический спор.
(Anthropic подала в суд на Пентагон: внесение в черные списки может привести к потере десятков миллиардов долларов и нанести ущерб возможностям привлечения средств)
Dario Amodei: ИИ сделает кибер-мир более безопасным, но переходный период будет полон вызовов
Anthropic откровенно признает, что работа по защите глобальной кибер-инфраструктуры может занять несколько лет, и в течение переходного периода также будет много переменных. Однако компания настроена осторожно-позитивно относительно долгосрочных перспектив: она ожидает, что в итоге оборонительные возможности ИИ займут доминирующее положение, помогая создать более безопасную экосистему ПО.
Anthropic также планирует в следующей линейке моделей Claude Opus в первую очередь внедрить механизмы киберзащиты для вывода с высоким уровнем риска; после того, как технологии созреют, она постепенно будет продвигать масштабное развертывание моделей уровня Mythos. Как сказал генеральный директор компании Dario Amodei в X:
Как только мы сделаем все правильно, у нас появится возможность создать интернет и мир более безопасными, чем они были бы до появления возможностей ИИ, ориентированных на кибератаки.
Эта статья «Anthropic запускает глобальный план по кибербезопасности Glasswing: почему новую модель Mythos нельзя использовать широкой публике?» впервые появилась на сайте Ляньсинь ABMedia.
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
