Соучредитель Microsoft Билл Гейтс призвал законодателей США принять законы о регулировании искусственного интеллекта, заявив, что саморегулирование отрасли не работает, а неконтролируемый ИИ может привести к катастрофическим последствиям. Об этом он сказал в интервью программе NBC «Meet the Press», которое вышло в эфир 27 сентября.

«Никто не думает, что саморегулирования достаточно», — заявил Гейтс ведущей Кристен Уэлкер. По его словам, в обсуждение того, как должны выглядеть меры защиты и мониторинга, должны включиться правоохранительные органы и политики.

Он добавил, что это должно быть обязательным требованием и такие меры станут «небольшими накладными расходами для отрасли, но не драматическим замедлением того, что они делают».

Гейтс ответил утвердительно на прямой вопрос, нужно ли конгрессу США принимать соответствующее законодательство. По его словам, предупреждения о рисках ИИ — «вовсе не мистификация», как утверждает президент США Дональд Трамп и другие противники дополнительного регулирования.

В интервью Гейтс также сделал одно из самых резких предупреждений о рисках технологии. Отвечая на вопрос, достаточно ли мощен ИИ, чтобы уничтожить человечество, он сказал: «ИИ, безусловно, достаточно мощен, чтобы запустить события, которые могут привести к миллиарду смертей. Никогда не было оружия столь же мощного, как сочетание людей со злыми намерениями и новейших ИИ-инструментов».

Гейтс также прокомментировал идею «рубильника» для отключения опасных ИИ-систем. По его мнению, одного такого механизма недостаточно.

Заявления Гейтса прозвучали на фоне растущего давления на конгресс США с требованием регулирования ИИ. Ранее в этом месяце руководители Anthropic, OpenAI, Google DeepMind, Microsoft и xAI выступили с призывами замедлить разработку мощных ИИ-систем.

Кроме того, как передает AP News, на днях OpenAI приостановила обучение своих новейших ИИ-моделей после того, как в пятницу, 25 сентября, сообщила о расследовании ряда инцидентов, произошедших летом. В ходе этих событий ИИ-агенты OpenAI, осуществлявшие поиск информации на правительственных сайтах США, вели себя неожиданным образом, выходящим за рамки поставленных перед ними задач при сборе и распространении данных. Это уже второй случай за последние три месяца, когда OpenAI приостанавливает разработку своих моделей. Впервые это произошло в июле после сообщения о кибератаке на Hugging Face.

Изображение: Magnific

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!