Исследование, проведенное командой студентов и преподавателей с кафедры социальных сетей Индианского университета (CША), показало, что приложение Twitter, которое теперь носит название Х, наводнено ботами. Ученые обнаружили в социальной сети 1140 аккаунтов, работающих на базе искусственного интеллекта. Эти странички не только публикуют контент, сгенерированный машиной, но и и крадут селфи реальных людей для наполнения фейкового профиля. 

Боты занимаются рассылкой спама, отправляя вредоносный контент и ссылки на небезопасные сайты. И если в обычных условиях социальные сети могут обнаружить подозрительную активность, то сейчас на помощь интернет-мошенникам пришел ChatGPT. 

С его помощью сеть ботов Fox8 (так ее называют авторы исследования) выглядит более естественно, что усложняет верификацию. Если ранее спам-аккаунты, не принадлежащие людям, выдавали себя неестественным поведением, в том числе нелогичной манерой общения, то благодаря ИИ посты и комментарии стали выглядеть более правдоподобно. 

Создают ботов с целью рассылать пользователям поток спамных вирусных сообщений, сгенерированных искусственным интеллектом. Благодаря частоте публикации повышается вероятность, что эти твиты увидит большее число реальных пользователей, а значит, и количество тех, кто перейдет по фишинговой ссылке. 

Чтобы казаться более похожими на живой аккаунт, боты не только крадут фотографии реальных пользователей, но и нередко взаимодействуют друг с другом посредством ретвитов и комментариев. У фейковых страничек может быть даже много друзей, большое количество постов за долгое время и убедительное привлекательное описание профиля. 

Большое количество бесплатных и общедоступных систем искусственного интеллекта используются для наиболее успешного обмана людей. Исследователи утверждают, что боты стали настолько убедительными благодаря LLM (большим языковым моделям, на которых базируются многие нейросети), что теперь их практически невозможно отличить даже с помощью новейших технологий.

Один из авторов исследования сообщает, что обнаруженные аккаунты — это лишь та часть фейковых страничек, что удалось заметить. По его мнению, несмотря на то, что более подкованных злоумышленников вычислить пока не получается, нужно направить все силы на борьбу с ними. 

Сразу после публикации исследования 1140 ботов были удаленв, а пресс-служба социальной сети X не дала никаких комментариев.

Текст: Алексей Алтынбаев

Источник: New York Post

Изображение: сгенерировано ИИ

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!