Компания Anthropic создала новую модель искусственного интеллекта — Claude Mythos Preview — и не будет выпускать ее в открытый доступ, поскольку считает технологию слишком мощной и опасается, что ее начнут использовать киберпреступники. Вместо этого модель получат более 40 технологических компаний, включая Apple, Amazon и Microsoft, для поиска и устранения уязвимостей в критически важном программном обеспечении, передает The New York Times.

Коалиция получила название Project Glasswing. В нее вошли также конкуренты Anthropic в сфере ИИ, такие как Google, поставщики оборудования Cisco и Broadcom, а также организации, поддерживающие критически важное открытое программное обеспечение, включая Linux Foundation. Anthropic выделяет на проект до $100 млн в виде кредитов на использование Claude.

По данным компании, модель уже способна самостоятельно проводить исследования в области кибербезопасности, включая поиск и эксплуатацию так называемых уязвимостей нулевого дня — дефектов, неизвестных даже разработчику программы. Anthropic утверждает, что Claude Mythos Preview уже нашла «тысячи» ошибок и уязвимостей в популярных программах, включая все основные операционные системы и браузеры.

Одна из найденных уязвимостей оказалась 27-летней ошибкой в OpenBSD — операционной системе с открытым исходным кодом, которую проектировали как сложную для взлома. Другая проблема долгое время существовала в популярном видеопрограммном обеспечении, которое автоматизированные инструменты тестирования сканировали пять миллионов раз, но так и не обнаружили сбоя

Anthropic не раскрывает многих деталей о модели. Джаред Каплан, сооснователь и главный исследователь Anthropic, подчеркнул, что ее возможности в области безопасности — не результат специального обучения, а лишь одна из многих областей, где модель превосходит предыдущие. Он прогнозирует, что скоро аналогичные возможности появятся и в других моделях компании.

Текст: Майя Цветкова

Изображение: Freepik

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!