Сбой чат-бота в Snapchat встревожил пользователей приложения
Весной этого года мобильное приложение Snapchat, созданное для отправки сообщений, фотографий и видео, представило своего чат-бота с искусственным интеллектом — My AI. За два месяца функцию применили более 150 млн пользователей, отправивших боту 10 млрд сообщений. Однако на прошлой неделе в системе произошел сбой. Бот, работающий на базе ChatGPT от OpenAI, повел себя странно: опубликовал собственную сторис, а затем перестал реагировать на запросы.
Такое нетипичное поведение стало поводом для обсуждения в соцсетях. Многие пользователи «узнали» свой потолок на фотографии. В частности, они беспокоились о своей конфиденциальности и предполагали, что аккаунт чат-бота взломан, некоторые были напуганы и растеряны.
«Почему My AI не отвечает мне и выкладывает истории? Пожалуйста, помогите, я переживаю, что меня взломали» 
«Эй, как это понимать, когда My AI выложил собственную историю? Я схожу с ума или это действительно комната?»
Официальные представители Snapchat поспешили развеять опасения о взломах и утечках, назвав случившееся техническими неполадками, а не самостоятельными действиями чат-бота. Но, несмотря на это, «галлюцинация» (как называют вымышленные искусственным интеллектом факты или реакции, не заложенные в алгоритм при обучении) привела к негативным отзывам пользователей, призвавших сообщество отказаться от этой опции.
Ранее, спустя несколько дней после запуска, бот уже вызвал опасения по поводу безопасности: тогда тестировщики обнаружили странные ответы. Так, например, чат-бот мог подсказать, где находится ближайшая аптека, «не зная» геопозицию пользователя. Позже разработчики добавили дополнительные меры предосторожности и родительский контроль.
Сейчас My AI работает в привычном режиме и по-прежнему остается закрепленным в диалогах. Snapchat не предлагает никаких вариантов удаления или отключения этой функции.
Текст: Алексей Алтынбаев
Источник: Quartz
Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!
