Компания Google заявила в своем блоге, что в ближайшие недели начнет внедрять в работу своей поисковой системы модель искусственного интеллекта MUM, которая более точно распознает широкий спектр запросов, указывающих на то, что пользователь находится в личной кризисной ситуации. Это позволит предоставить более релевантные результаты при выдаче информации и направить человека к специалистам. Новая модель поможет поисковой системе с запросами, связанными с самоубийством, сексуальными домогательствами, злоупотреблением психоактивными веществами и насилием в семье.

Сейчас другая модель искусственного интеллекта, получившая название BERT, ограничивает выдачу нежелательных изображений сексуального характера в результатах поиска. Как сообщают в Google, BERT уже сократил «неожиданные шокирующие результаты» на 30% за последний год.

Кроме того, технологические платформы также борются с суицидальным контентом. По данным Центров по контролю и профилактике заболеваний США, суицид является одной из самых распространенных причин смерти в стране: 46 тысяч человек добровольно ушли из жизни в 2020 году.

Теперь Google не просто скроет информацию о способах совершения самоубийства, но и покажет номер телефона Национальной горячей линии по предотвращению самоубийств.

Депрессия сложна, и причины тех или иных запросов пользователей не всегда очевидны для поисковой системы. По словам разработчиков, новая модель ИИ сможет понять более длинные и неявные запросы – например, «почему он напал на меня, когда я сказала, что не люблю его», – и направить к специалистам пользователя, нуждающегося в помощи.

Фото: Pixabay