Доктор Джеффри Хинтон уволился из Google, где проработал более десяти лет, чтобы свободно говорить о рисках, связанных с искусственным интеллектом. Он рассказал, что часть его теперь сожалеет о работе всей своей жизни.

«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — поделился доктор Хинтон.

Хинтона часто называют «крестным отцом искусственного интеллекта». В 1972 году, будучи аспирантом Эдинбургского университета (Великобритания), он увлекся идеей создания нейронных сетей, в которую тогда верили немногие исследователи. И это стало делом его жизни. В 2012-м доктор Хинтон и двое его аспирантов в Университете Торонто (Канада) — Илья Суцкевер и Алекс Крижевский — построили нейронную сеть, которая могла анализировать тысячи фотографий и обучалась идентифицировать обычные объекты, такие как цветы, собаки и автомобили. Google потратил $44 млн на приобретение компании, основанной доктором Хинтоном и двумя его учениками. И их система привела к созданию все более мощных технологий, включая новые чат-боты, такие как ChatGPT от OpenAI и Bard от Google. Теперь эти ИИ-системы становятся все более опасными, считает Хинтон.

«Посмотрите на то, что было пять лет назад, и что есть сейчас, — сказал Хинтон о технологиях искусственного интеллекта. — Возьмите разницу и спроецируйте ее на будущее. Это страшно».

По его словам, до прошлого года Google действовал как «надлежащий распорядитель» технологии, стараясь не выпускать что-то, что может причинить обществу вред. Но теперь, когда Microsoft дополнила свою поисковую систему Bing чат-ботом, Google тоже стремится внедрить такую же технологию. По словам доктора Хинтона, технологические гиганты вовлечены в конкуренцию, которую невозможно остановить.

После того, как в марте стартап OpenAI из Сан-Франциско выпустил новую версию ChatGPT, более тысячи руководителей и исследователей в области технологий подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку ИИ-технологии представляют «глубокий риск для общества и человечества».

Доктор Хинтон не подписал ни одно из подобных писем и сказал, что не хочет публично критиковать Google или другие организации, пока не уволится с работы. В прошлом месяце он уведомил компанию о том, что уходит в отставку.

Опасения Джеффри Хинтона связаны с тем, что интернет будет наводнен фальшивыми фотографиями, видео и текстами, и обычный человек «больше не сможет знать, что из этого правда».

Он также обеспокоен тем, что ИИ-технологии со временем перевернут рынок труда. Сегодня чат-боты, как правило, дополняют людей, но они могут заменить помощников юристов, личных ассистентов, переводчиков и других сотрудников, выполняющих рутинные задачи.

Хинтона также тревожит, что в будущем усовершенствованные технологии станут угрозой для человечества. По его словам, отдельные лица и компании используют ИИ в своих целях. Системы не только генерируют свой собственный компьютерный код, но фактически запускают этот код самостоятельно. И он боится того дня, когда действительно автономное оружие — роботы-убийцы — станет реальностью. Доктор Хинтон всегда был категорически против применения искусственного интеллекта на поле боя.

«Суть в том, что эта штука действительно может стать умнее людей — в это поверили лишь немногие, — сказал Джеффри Хинтон. — Большинство людей думали, что это далеко. Я полагал, что это будет через 30-50 лет или даже больше. Очевидно, я ошибался».

Источник: The New York Times

Изображение: Noah Berger / AP

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!