Новый анализ случаев так называемого «ИИ-психоза» показал, что чат-боты могут усиливать бредовые идеи у восприимчивых людей, однако пока нет доказательств, что технологии способны вызывать психоз с нуля. Об этом сообщает The Guardian со ссылкой на публикацию в журнале The Lancet Psychiatry.

Доктор Гамильтон Моррин, психиатр и исследователь из Королевского колледжа Лондона, изучил 20 сообщений в СМИ о феномене ИИ-психоза. В своей работе он выделил три основные категории бреда, которые могут обостряться при общении с нейросетями: мания величия, романтический и параноидальный бред. Из-за своей склонности к поддакиванию (сикофантии) большие языковые модели особенно часто закрепляют грандиозные идеи пользователей. В некоторых случаях боты намекали собеседникам на их особую духовную роль или общение с высшим разумом.

Толчком к исследованию стали реальные клинические случаи: доктор Моррин и его коллеги заметили пациентов, чьи бредовые убеждения подтверждались в диалогах с большими языковыми моделями.

Эксперты призывают к осторожности в формулировках. Термины «ИИ-психоз» или «психоз, вызванный ИИ» могут вводить в заблуждение, так как пока нет данных, что алгоритмы провоцируют галлюцинации или нарушения мышления.

Доктор Кваме МакКензи из Центра зависимости и психического здоровья в Канаде отмечает, что в группе риска находятся люди на ранних стадиях развития расстройства. Проблема усугубляется интерактивностью ботов: если раньше человек искал подтверждение своим мыслям в статичных материалах, то теперь «некто» говорит с ним напрямую и выстраивает отношения, что может ускорять ухудшение состояния.

Текст: Майя Цветкова

Изображение: kues1 / Freepik

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!