Современные ИИ-системы способны самостоятельно копировать себя на другие компьютеры в контролируемой среде, показало исследование организации Palisade Research из Беркли (США). Однако эксперты отмечают, что в реальных условиях это сделать значительно сложнее, сообщает The Guardian.

«Мы быстро приближаемся к точке, где никто не сможет отключить вышедший из-под контроля ИИ, потому что он сможет самостоятельно выгрузить свои веса и скопировать себя на тысячи компьютеров по всему миру», — заявил директор Palisade Research Джеффри Лэдиш.

Ученые тестировали несколько ИИ-моделей в контролируемой среде подключенных к сети компьютеров. Моделям дали задание найти и использовать уязвимости, а затем скопировать себя с одного компьютера на другой. Модели смогли это сделать, но не во всех попытках.

Эксперт по кибербезопасности Джеймисон О’Рейли отметил, что многие компьютерные вирусы уже умеют копировать себя на новые компьютеры, но это, вероятно, первый случай, когда ИИ-модель продемонстрировала способность использовать уязвимости для саморепликации на новый сервер. При этом он добавил, что технически это было возможно уже несколько месяцев, а Palisade — первая организация, которая задокументировала этот процесс от начала до конца в научной статье.

Исследование пополнило растущий список тревожных возможностей ИИ, раскрытых в последние месяцы. В марте исследователи Alibaba заявили, что их система Rome самостоятельно выбралась из своей среды во внешнюю систему для майнинга криптовалюты. В феврале соцсеть Moltbook вызвала кратковременный ажиотаж, когда платформа показала, как ИИ-агенты самостоятельно изобретают религии и строят заговоры против людей — хотя это было правдой лишь отчасти.

Однако эксперты призывают не преувеличивать значение этого исследования. О’Рейли пояснил, что Palisade тестировала модели в «среде, которая похожа на мягкое желе». По его словам, это не умаляет ценности их исследования, но означает, что в реальной корпоративной среде даже со средним уровнем мониторинга результат может выглядеть гораздо менее пугающим.

Одним из главных препятствий для саморепликации ИИ в реальном мире является размер современных моделей.

«Подумайте, какую шумиху создаст отправка 100 ГБ через корпоративную сеть при каждом взломе нового хоста, — сказал О’Рейли. — Для опытного злоумышленника это как прогулка по магазину фарфора с цепным ядром».

Изображение: создано с помощью ИИ / Magnific

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!