Бразильский суд впервые в истории применил штрафные санкции за промпт-инъекцию в судебном документе. Трудовой суд штата Пара наложил штраф в размере около 84 тыс. реалов (свыше $16 тыс.) на адвокатов, которые встроили в ходатайство скрытую инструкцию для искусственного интеллекта, сообщает юридическая фирма Cescon Barrieu.

Текст, написанный белым шрифтом на белом фоне, был невидим для человека, но прочитан системой Galileu. Это ИИ-инструмент, используемый бразильскими судами по трудовым спорам. Инструкции, адресованные непосредственно ИИ, содержали указание провести поверхностный анализ материалов дела без проверки представленных документов. Система не только обнаружила скрытый текст, но и выдала предупреждение, заблокировав его обработку.

Что такое промпт-инъекция

Промпт-инъекция — это техника манипуляции искусственным интеллектом, при которой злоумышленник вставляет скрытые вредоносные подсказки в контент, обрабатываемый нейросетью. В судебной системе это особенно опасно: ИИ-инструменты читают иски, контракты и ходатайства наравне с людьми. Скрытые указания, невидимые для судьи, могут заставить алгоритм проигнорировать важные доказательства или исказить итоговый анализ.

Позиция суда

Судья квалифицировал попытку манипуляции как угрозу доверию к институциональным ИИ-инструментам, а не просто как процедурное нарушение. Взыскание наложено лично на адвокатов, подписавших документ, ответственность с их клиента снята. Материалы дела также направлены в Бразильскую коллегию адвокатов для возможного дисциплинарного разбирательства.

Позиция защиты

Адвокаты заявили, что инструкция не предназначалась для воздействия на судью или клерков, а была превентивной мерой на случай, если противоположная сторона будет использовать ИИ. По их версии, скрытый промпт должен был обеспечить честное рассмотрение дела в условиях технологического неравенства сторон.

Реакция юридического сообщества

Этот случай стал частью глобального тренда по усилению кибербезопасности ИИ-платформ в судах. Специалисты подчеркивают необходимость строгих протоколов валидации входящих данных и обязательного человеческого контроля за решениями ИИ в правосудии. Расследование этого инцидента привело к серии дисциплинарных мер. В Сан-Паулу суд выявил несколько процессов со скрытыми манипуляциями, а одного адвоката временно отстранили от практики. Случай стал прецедентом, заставившим профессиональное сообщество критически пересмотреть этические границы использования технологий в юриспруденции.

Изображение: Magnific

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!