Anthropic Mythos слишком могущественна! Белый дом, по слухам, намерен потребовать, чтобы новые модели ИИ проходили государственную проверку безопасности до их выпуска

Правительство Трампа долгое время занимало позицию невмешательства в развитие искусственного интеллекта, однако теперь, из‑за опасений по кибербезопасности, вызванных недавно опубликованной мощной моделью Anthropic Mythos, начинает рассматривать введение механизма правительственной проверки до публичного выпуска AI‑моделей, что символизирует собой значительный поворот в политике США по регулированию ИИ.

Резкий поворот в политике Белого дома по ИИ: от бездействия к контролю

Как сообщила The New York Times, американские чиновники раскрыли, что президент Трамп рассматривает возможность издать исполнительный указ, создав рабочую группу по ИИ, в которую войдут руководители технологического сектора и представители правительства, для разработки процедур правительственной проверки, которые будут применяться до публичного представления новых AI‑моделей.

В прошлую неделю Белый дом уже провёл встречи по этому плану с руководителями отрасли в Anthropic, Google, OpenAI и других компаниях; источники сообщили, что потенциальный механизм проверок может опираться на действующую в Великобритании модель — когда несколько государственных учреждений совместно обеспечивают соответствие AI‑моделей определённым стандартам безопасности.

Этот разворот политики контрастирует с открытой позицией Трампа в прошлом: в июле прошлого года он заявил публично: «Мы должны дать этому младенцу вырасти и окрепнуть, нельзя глупыми правилами мешать этому», а после вступления в должность быстро отменил регулирование, которое требовало от разработчиков AI проводить оценку безопасности. Однако всего за несколько месяцев направление политики уже изменилось.

«Claude Mythos», о котором Anthropic не решается говорить публично, шокировал Белый дом

Одна из причин, приведших к смене позиции Белого дома, как полагают, связана с тем, что Anthropic в прошлом месяце выпустила новую AI‑модель Claude Mythos. Anthropic предупреждала, что Mythos обладает чрезвычайно сильными возможностями по выявлению уязвимостей в ПО — настолько, что может использовать слабые места «всех основных операционных систем и веб‑браузеров», что способно спровоцировать масштабные кибератаки. В итоге было решено не публиковать модель для внешнего выпуска.

Белый дом отнёсся к этому с высокой степенью настороженности: опасения связаны с тем, что если произойдёт разрушительная AI‑кибератака, правительству придётся столкнуться с тяжёлыми политическими последствиями. Некоторые чиновники также активнее оценивают возможность создания механизма «правительство в первую очередь», чтобы федеральные структуры получали доступ к моделям до их публичного выпуска, обеспечивая использование военной и разведывательной ценности новых моделей структурами Пентагона.

（Вооружённая уровня кибербезопасности AI‑модель Mythos от Anthropic без разрешённого доступа: как им это удалось?）

Юридический спор Anthropic и Пентагона

На фоне корректировки политики также разворачивается непростая юридическая тяжба между правительством и компаниями. В феврале этого года Anthropic и Пентагон начали переговоры по контракту на 200 миллионов долларов, однако Anthropic отказалась выполнить запросы правительства Трампа. Министерство обороны США в результате внесло Anthropic в список «рисков в национальной цепочке поставок по вопросам национальной безопасности», а затем Anthropic подала иск, пытаясь остановить это решение.

В прошлом месяце начальник аппарата Белого дома Сюзи Уайлз и министр финансов Бессент приняли в Белом доме генерального директора Anthropic Дарьо Амодея; встреча была сосредоточена на том, как восстановить использование правительством технологий Anthropic. Обе стороны впоследствии охарактеризовали встречу как «плодотворную».

Ускорение гонки AI‑вооружений, а регуляторная архитектура всё ещё не сформирована

В марте правительство Трампа назначило 13 представителей технологического сектора, включая генерального директора Meta Марка Цукерберга, генерального директора NVIDIA Дженсена Хуанга и основателя Oracle Ларри Эллисона, чтобы сформировать новый консультативный комитет Белого дома по ИИ. Также был опубликован законодательный каркас с требованиями к Конгрессу разработать единые по всей стране правила по ИИ, заменив разрозненные положения отдельных штатов.

На прошлой неделе Пентагон также объявил о соглашении с OpenAI, Google, NVIDIA, SpaceX, Microsoft, Amazon и Reflection — о размещении AI‑инструментов этих компаний в секретных сетях Министерства обороны для усиления анализа данных, повышения осведомлённости о ситуации на поле боя и поддержки решений военнослужащих в сложных условиях ведения боевых действий.

Этот шаг показывает, что, независимо от того, как будет развиваться политика регулирования, курс американского правительства на расширение военного применения ИИ уже задан. Однако как найти баланс между поощрением инноваций и контролем рисков остаётся самой сложной задачей, стоящей перед Белым домом.

Эта статья Anthropic Mythos слишком мощная! Белый дом намерен потребовать, чтобы новые AI‑модели проходили проверку безопасности правительства до их публикации — впервые появилась в Цепных новостях ABMedia.