Корпорация Google удалила часть ответов, которые генерировал ее сервис «Обзор от ИИ» (AI Overviews), после расследования The Guardian. Британское издание выявило риск для интернет-пользователей из-за ложной медицинской информации. Речь идет о сводках ИИ, появляющихся вверху результатов поиска.

Расследование показало, что на запросы о нормальных показателях печеночных проб ИИ выдавал значения без необходимого контекста, не учитывая национальность, пол, этническую принадлежность или возраст пациента. Эксперты охарактеризовали это как опасную ситуацию, которая могла привести к тому, что люди с серьезными заболеваниями печени посчитали себя здоровыми и не посетили врача.

После обращения издания Google отключила AI Overviews для конкретных запросов о нормах анализов печени. Однако, как заметила Ванесса Хебдич, директор по коммуникациям и политике Британского фонда помощи при заболеваниях печени (British Liver Trust), если иначе сформулировать те же вопросы, то вводящие в заблуждение ответы все еще могут появляться в ИИ-обзорах.

Представитель Google заявил, что компания не комментирует отдельные удаления, а в случаях, когда ИИ-ответам в поисковой системе не хватает контекста, они работают над общими улучшениями. Также в Google подчеркнули, что ИИ-сводки выдаются только на те запросы, где есть высокая уверенность в качестве ответов, а внутренняя команда врачей проверила предоставленные The Guardian примеры и во многих случаях не нашла неточностей.

Текст: подготовлен с помощью ИИ

Изображение: wayhomestudio / Freepik

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!