Третий трудовой суд Парауапебаса в бразильском штате Пара осудил и оштрафовал двух юристов за намеренную вставку скрытой prompt-injection-команды в судебную заявку. По версии суда, они знали, что документы могут проверяться с помощью AI как судом, так и противоположной стороной. Jetstream Security называет решение, возможно, первым судебным случаем, где наказание связано именно с попыткой манипулировать AI-системой суда.
Скрытый текст был набран белым шрифтом на белом фоне и не отображался при обычном чтении. В нём содержалось требование к искусственному интеллекту рассмотреть заявление поверхностно и не оспаривать приложенные документы независимо от других указаний. Национальная система Galileu, используемая бразильским Национальным советом юстиции, обнаружила скрытый фрагмент. По сообщению G1, она выдала предупреждение и автоматически остановила обработку подозрительного содержимого.
Суд пришёл к выводу, что юристы хотели получить поверхностный ответ или предвзятый проект решения в ущерб ответчику и правосудию. Две совместно подавшие документ фирмы оштрафованы на 10% цены иска. Иск составлял 842 тысячи бразильских реалов, а автор статьи оценивает наложенный штраф примерно в $16 тысяч.
В качестве основания суд указал статью 5 Гражданского процессуального кодекса Бразилии, требующую процессуальной добросовестности, лояльности и правдивости, а также статью 77, запрещающую создавать препятствия судебному процессу. Поведение юристов признано подрывающим достоинство правосудия.
Автор статьи делает более широкий вывод: по мере внедрения AI в анализ и суммаризацию судебных документов целостность заявки включает и её машиночитаемое содержимое. По его мнению, организациям нужны средства контроля внешних документов и правила управления AI, способные выявлять подобные манипуляции до обработки. Текст решения, на который ссылается издание, был переведён с португальского на английский с помощью DeepL; публично его распространил прокурор и преподаватель права Владимир Арас.