Папа римский Лев XIV в своей первой энциклике (письменном послании духовенству и католикам) осудил «культуру власти», которая движет стремительным развитием искусственного интеллекта, и призвал подчинить технологию «самым строгим» этическим ограничениям, сообщает The Guardian.

Понтифик представил документ под названием Magnifica Humanitas («Великолепное человечество») лично 25 мая на мероприятии в Ватикане. Среди присутствовавших был Кристофер Ола — сооснователь американской ИИ-компании Anthropic. В энциклике, обращенной к 1,4 млрд католиков, Лев XIV предупредил, что ИИ проникает во всё — от труда до войны — и его использование в военных целях должно быть подчинено жестким этическим рамкам.

«Разработка и применение ИИ в войне должны подчиняться самым строгим этическим ограничениям, чтобы гарантировать уважение к человеческому достоинству и святости жизни и избежать гонки вооружений», — написал понтифик.

Он заявил о тревожном возрождении войны как инструмента международной политики и отметил, что ИИ способствует нормализации войны.

Папа римский призвал к разоружению искусственного интеллекта, отметив, что некоторые автономные системы вооружения практически вне какого-либо человеческого контроля.

«Разоружаться означает не отвергать технологию, а предотвращать ее доминирование над человечеством», — пояснил папа римский.

Технология, по его словам, должна быть дружественной человеку, доступной для всех и открытой для обсуждения и дебатов.

Также папа римский предупредил, что власть над цифровыми системами, инфраструктурой и данными концентрируется в руках немногих крупных технологических и экономических игроков — и это повышает риск искаженных форм развития ИИ, которые порождают новые зависимости, исключения, манипуляции и неравенства.

Выступая рядом с понтификом, сооснователь Anthropic Кристофер Ола заявил, что развитие ИИ не может быть оставлено исключительно технологическим компаниям, и призвал к усилению надзора со стороны религиозных лидеров, правительств и гражданского общества. Он отметил, что существует реальная возможность вытеснения людей с их рабочих мест ИИ в очень больших масштабах.

Напомним, ранее в этом году Пентагон назвал Anthropic ненадежным поставщиком ИИ-технологий после того, как компания потребовала от правительства США гарантий, что ее система не будет применяться для слежки за американцами или в автономном оружии летального действия.

Текст: Майя Цветкова

Фото: Alessandra Tarantino / AP

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!