Современные языковые модели способны раскрывать личность анонимных пользователей в интернете, анализируя стиль письма и сопутствующие данные. Исследование ученых из Швейцарской высшей технической школы Цюриха (ETH Zurich) и лаборатории Anthropic показало, что автоматизированная система на базе ИИ-агентов с высокой точностью связывает разрозненные профили, принадлежащие одному человеку. Об этом пишет The Verge.

В ходе эксперимента исследователи создали систему, которая имитирует работу человека-детектива: она анализирует тексты на предмет уникальных паттернов, грамматических особенностей, биографических деталей и времени публикаций. Затем алгоритм сканирует миллионы других аккаунтов в поисках совпадений по этим признакам, составляя список наиболее вероятных соответствий.

Тестирование проводилось на общедоступных данных, включая посты с Hacker News и LinkedIn, а также специально подготовленные выборки из Reddit. Согласно отчету, ИИ раскрыл 68% совпадающих профилей с точностью 90%. Для сравнения, традиционные методы анализа, не использующие большие языковые модели, практически не справлялись с этой задачей.

Эффективность системы напрямую зависела от объема доступной информации. Например, на Reddit при анализе пользователей, упомянувших хотя бы один фильм в профильных сообществах, точность связывания аккаунтов составила около 3%. Однако, если пользователь писал о 10 или более фильмах, вероятность успешной деанонимизации возрастала почти до 50%.

Авторы исследования предупреждают, что подобные технологии могут представлять угрозу для конфиденциальности пользователей, ведущих анонимные блоги или задействующих фейковые аккаунты для критики работодателей.

Текст: Майя Цветкова

Изображение: rawpixel.com / Freepik

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!