Министерством науки и технологий Китая (MOST) издан первый в стране этический кодекс для искусственного интеллекта. Особое внимание в нем уделяется правам пользователей и контролю данных. Изложенные принципы соответствуют цели Китая стать мировым лидером в области ИИ к 2030 году, но также усилиям Пекина по сдерживанию влияния крупных технологических компаний, передает издание South China Morning Post.

Документ под названием «Спецификации этики искусственного интеллекта нового поколения» разработан Комитетом по управлению искусственным интеллектом, который был учрежден MOST в феврале 2019 года. В руководстве говорится, что у людей должно быть право принимать решения и право выбирать – взаимодействовать с AI-системой или прекращать ее работу в любое время. Как отмечается в кодексе, цель – «убедиться, что искусственный интеллект всегда находится под контролем людей».

В июне 2019-го Комитет опубликовал набор руководящих принципов управления ИИ, который был короче и шире, чем недавно выпущенные спецификации.

Акцент на защите и расширении прав и возможностей пользователей отражает усилия Пекина по контролю технологического сектора страны, комментирует аналитик берлинского Института китайских исследований Mercator Ребекка Арчесати. Так, последние правительственные репрессии в отношении технологических компаний нацелены на алгоритмы рекомендаций контента. Последние зачастую основаны на сборе и анализе огромных объемов пользовательских данных системами искусственного интеллекта.

«Это четкое послание технологическим гигантам, которые построили целые бизнес-модели на рекомендательных алгоритмах», – подчеркивает Арчесати.

В новом документе упоминаются также безопасность данных, личная конфиденциальность и право отказаться от принятия решений на базе ИИ. Кроме того, принципы запрещают продуктам и услугам искусственного интеллекта участвовать в незаконной деятельности, угрожать безопасности – национальной, общественной и производственной. AI-системы не должны наносить вред общественным интересам.

Напомним, недавно ООН призывала правительства ограничить применение систем искусственного интеллекта, чтобы избежать нарушения прав человека.