Государственная канцелярия интернет-информации КНР в декабре прошлого года приняла постановление о технологии глубокого синтеза — алгоритмах искусственного интеллекта для генерации текста, изображений, аудио, видео и виртуальных сцен. Регламент распространяется на поставщиков генеративного ИИ, работающих в Китае, а также пользователей таких сервисов, и вступает в силу 10 января 2023 года.

Вот несколько правил, которые вводит этот документ:

◉ запрещено применять генеративный ИИ для участия в действиях, которые угрожают национальной безопасности, наносят ущерб общественным интересам или являются незаконными;

◉ поставщики генеративного ИИ обязаны проверять пользователей. Это возможно благодаря китайскому аппарату проверки подлинности имени. Анонимности в китайском интернете не существует, поскольку пользователей обычно просят связать принадлежащие им онлайн-аккаунты со своими телефонными номерами, которые зарегистрированы с их государственными идентификаторами;

◉ поставщики должны проводить аудит контента, созданного искусственным интеллектом, и пользовательских подсказок вручную или с помощью технических средств. Baidu, например, уже фильтрует политически чувствительный контент в своей системе преобразования текста в изображение;

◉ нельзя использовать технологию глубокого синтеза для создания и распространения фейковых новостей;

◉ если данные, используемые для обучения ИИ, содержат личную информацию, поставщики технологий должны соблюдать закон страны о защите личной информации;

◉ платформы также обязаны напоминать пользователям о необходимости получить одобрение, прежде чем они изменят лица и голоса других людей, используя технологию искусственного интеллекта (то есть при создании дипфейков);

◉ в случае, если результат генеративного ИИ может вызвать путаницу или неправильную идентификацию у публики, поставщик обязан разместить водяной знак на видном месте, чтобы информировать общественность о том, что он эта работа создана машиной. Такое правило должно снять некоторые опасения, связанные с нарушением авторских прав и мошенничеством.

Пользователи, нарушающие эти правила, будут наказаны. Операторов ИИ-сервисов в Китае просят вести учет противоправных действий и сообщать о них в соответствующие органы. Кроме того, платформы также должны выдавать предупреждения, ограничивать использование сервисов, приостанавливать обслуживание или даже закрывать учетные записи тех, кто нарушает правила.

Источник: TechCrunch