Институт будущего жизни (Future of Life Institute), который занимается снижением глобальных катастрофических и экзистенциальных рисков для человечества, в открытом письме призвал все лаборатории искусственного интеллекта приостановить обучение ИИ-систем, превосходящих GPT-4, как минимум на 6 месяцев. Авторы письма считают, что это время экспертам следует использовать для совместной разработки и внедрения общих протоколов безопасности в отношении ИИ-алгоритмов.

«Если такую паузу нельзя ввести быстро, правительства должны вмешаться и наложить мораторий», — говорится в письме.

Авторы документа опасаются, что машины наводнят информационные каналы пропагандой и неправдой. Среди вопросов, которыми они задаются: должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? должны ли мы рисковать потерей контроля над нашей цивилизацией?

«Это не означает паузу в развитии искусственного интеллекта в целом, а просто шаг назад от опасной гонки к все более крупным непредсказуемым моделям черного ящика», — отмечается в письме.

На момент публикации нашей заметки открытое письмо подписали уже почти 1400 человек. Среди них – Илон Маск (CEO SpaceX, Tesla и Twitter), Стив Возняк (сооснователь Apple), Эван Шарп (соучредитель Pinterest), Крейг Питерс (генеральный директор Getty Images), представители DeepMind и ведущих университетов мира.

Открытое письмо Future of Life Institute появилось после ряда заявлений, связанных с разработкой пятой версии нейросети GPT. Предприниматель Сики Чен, сооснователь Runway и член совета директоров Sandbox VR, 27 марта написал в Twitter: «Мне сказали, что обучение GPT-5 планируется завершить в декабре этого года. OpenAI ожидает, что этот алгоритм станет сильным искусственным интеллектом».

Накануне этого твита компания OpenAI официально сообщила, что в сентябре или октябре 2023 года планирует представить GPT-4.5 как промежуточную версию между GPT-4 и GPT-5.

Напомним, мультимодальную модель GPT-4 OpenAI выпустила в середине марта: нейросеть способна распознавать не только входные текстовые данные (как ее предыдущая версия GPT-3.5, на которой был построен чат-бот ChatGPT), но и изображения.

По прогнозам аналитиков Goldman Sachs, развитие ChatGPT и других алгоритмов генеративного искусственного интеллекта обернется «значительными потрясениями» на рынке труда, а именно – полной автоматизацией порядка 300 млн рабочих мест.

Изображение: Freepik

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!