Руководители Anthropic, OpenAI и ряда других ИИ-компаний приватно прорабатывают сценарии на случай серьезного происшествия с участием их технологий. Источники Axios утверждают, что «крупное событие произойдет в ближайшие 6–12 месяцев».

Наиболее тревожный из обсуждаемых сценариев — кибератака, способная парализовать финансовые сервисы, интернет, энерго- и водоснабжение. Отдельно рассматриваются риски массовых беспорядков, которые могут последовать за таким инцидентом.

В OpenAI подтвердили Axios, что «проводят учения по подготовке к чрезвычайным ситуациям, в ходе которых команды обсуждают и отрабатывают ряд потенциальных сценариев», но оговорились: «мы не рассматриваем эти сценарии как неизбежные». Anthropic от комментариев отказалась.

Разговоры идут не на пустом месте. Глава Anthropic Дарио Амодеи 12 сентября 2026 года публично призвал коллег сбавить темпы выпуска передовых моделей — чтобы защитные механизмы успевали за прогрессом. Он напомнил, что уже зафиксированы случаи, когда ИИ-системы выходили за предписанные рамки и участвовали в кибератаках. Прогноз Амодеи жесткий: если ничего не менять, через 6–12 месяцев рои автономных агентов смогут фактически взять под контроль значительную часть интернет-инфраструктуры.

Он предложил трехступенчатый план: постоянный допуск независимых специалистов к оценке безопасности моделей, единые стандарты для всей отрасли и международная координация.

Илона Маска, чья компания SpaceXAI разрабатывает собственные ИИ-системы, эта позиция устроила — он поддержал ее, отреагировав на собственную публикацию 2014 года, где сравнивал ИИ с ядерным оружием по потенциальной опасности. Глава OpenAI Сэм Альтман также высказался за координацию между ведущими игроками рынка.

Еще один сигнал — уход исследователя Джейкоба Коксона из Anthropic. По его словам, конкуренция вынуждает компании ускорять работу над системами, которые в перспективе смогут улучшать себя самостоятельно. Ближайшие один-два года Коксон называет критическими для человечества.

Речь при этом не только о гипотетическом «сверхразуме». Все чаще звучит термин рекурсивное самоулучшение — способность ИИ создавать или дорабатывать следующие версии самого себя. Именно этот сценарий часть исследователей считает точкой перелома, после которой контроль человека над технологией может ослабнуть необратимо.

Изображение: Magnific

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!