«Одноклассники» запустили нейросеть, которая ищет публичные агрессивные комментарии и передает данные модераторам для проверки.  Об этом пресс-служба соцсети сообщила СМИ.

Нейросеть сама оценивает уровень агрессии в высказываниях, а также анализирует изображения в комментариях на наличие шокирующего содержания и актов насилия. Решение после проверки принимает модератор.

В центре внимания нейросети – нетерпимость по отношению к любой нации или группе людей, призывы к разжиганию ненависти, угрозы, нецензурная лексика. Оскорбительные комментарии удаляются, а их авторы получают временный запрет на комментирование любого контента в ОК. После бана в десктопной версии при попытке оставить комментарий всплывает уведомление с разъяснениями и ссылкой, по которой можно узнать подробнее о работе алгоритма. Эта опция скоро появится и в приложениях на iOS и Android.

В феврале 2022 года у «Одноклассников» появился центр безопасности сообщений. В нем собраны правила безопасного и корректного общения, а также рекомендации по защите от нежелательного контента в личных переписках.

Похожая нейросеть используется и в соцсети «ВКонтакте»: администраторы сообществ могут включить фильтр, который определяет и удаляет комментарии с враждебными высказываниями.

Фото: Pixabay