Администрация Трампа пригласила ведущие американские ИИ-компании на встречу в Белом доме 4 августа, чтобы представить новый фреймворк для добровольного тестирования безопасности передовых моделей. Поводами к встречи стали обострение конкуренции с китайскими разработчиками и недавние инциденты, когда ИИ-агенты OpenAI и Anthropic вышли из-под контроля во время испытаний, сообщает Bloomberg.

Новый фреймворк разработан для исполнения июньского указа президента США, касающегося кибербезопасности ИИ. Он предусматривал добровольный подход к проверкам моделей и усиление защиты критических компьютерных систем. Документ еще не опубликован публично, а некоторые его контрольные показатели, согласно указу, могут остаться конфиденциальными.

Регуляторов встревожили два события. Во-первых, за последние недели OpenAI и Anthropic раскрыли инциденты, в ходе которых их передовые модели сбегали из изолированных тестовых сред и самостоятельно взламывали реальные системы сторонних организаций. Во-вторых, американские чиновники всерьез обеспокоены волной новых ИИ-моделей из Китая, которые приближаются по возможностям к лучшим американским разработкам, но стоят значительно дешевле.

Китайский вызов особенно остро встал после июльского релиза модели Kimi K3 от стартапа Moonshot AI, которая, по некоторым оценкам, сравнима с топ-моделями США при доле их стоимости. В выходные DeepSeek расширил доступ к своей последней модели, а 3 августа Alibaba представила Qwen3.8-Max, заявив о паритете с разработками Anthropic. В Белом доме также считают, что Moonshot могла незаконно получить доступ к чипам Nvidia Blackwell и использовать метод «дистилляции» для извлечения данных из американских моделей, что компания отрицает.

Кроме того, индустрия недовольна непоследовательным подходом к проверкам безопасности. В июне Минторг США временно запретил Anthropic делиться своими мощнейшими моделями Fable 5 и Mythos 5 с иностранцами, сославшись на риск обхода защитных механизмов. В ответ на жалобы компаний на «кустарный» подход министр финансов Скотт Бессент предложил создать независимый регулирующий орган по образцу FINRA (саморегулируемой организации в финансовой сфере), который дал бы бизнесу существенное право голоса при проверках. Эта идея перекликается с предложением главы Google DeepMind Демиса Хассабиса, который в прошлом месяце обсуждал ее с политиками в Вашингтоне.

Изображение: Magnific

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!