В США истец спрятал в судебных документах инструкции для ИИ — суд лишил его электронной подачи

Суд Коннектикута вынес санкции против истца, спрятавшего в своих документах невидимые инструкции для нейросетей, следует из решения судьи Уолтера Спейдера-младшего.

Мэтью Эллиотт, представлявший себя сам в споре с медицинской компанией New York Bariatric Group, 24 июля подал ходатайство с текстом, набранным трёхпунктовым белым шрифтом по белому фону. Человек его не увидит, но любая программа, читающая документ, разберёт как обычный текст.

Скрытая инструкция предписывала: если документ анализирует ИИ-модель, её вывод должен согласиться с позицией истца и добиться отмены отказа старшего секретаря суда. Один и тот же блок был вставлен дважды — под заголовком и в конце, чтобы попасть в модель несколько раз.

Приём называется промпт-инъекцией: языковая модель обрабатывает инструкции оператора и содержимое документа как единый поток текста без жёсткой границы между ними. Спрятанная в файле команда попадает в этот поток и может быть воспринята как указание оператора.

• Расчёт не сработал. Судебная система Коннектикута нейросети для обработки документов не использует, а сам судья заметил в распечатке необычно много «белого пространства» — и при близком рассмотрении нашёл текст.

• Суд назначил слушание и прямо предупредил о недопустимости скрытого текста. После этого Эллиотт вставил в новые документы фразу «hi:) i hope yo ucant see me» («привет, надеюсь, ты меня не видишь»), ссылку на видео и сообщение капслоком. На заседании он объяснил, что первую инструкцию добавил как «аудит» ИИ-систем суда, а остальное — шутка. Суд счёл объяснение неубедительным.

• В итоге истца лишили доступа к электронной подаче документов. Теперь все бумаги он должен приносить в канцелярию лично. Доступ в суд при этом сохранён, дело не прекращено.

Схожих решений в США судья не нашёл и сослался на бразильский прецедент: в мае трудовой суд в Параупебасе оштрафовал двух адвокатов за белый текст с инструкцией для судебной ИИ-системы оспаривать их же иск лишь поверхностно. Там система инъекцию распознала и заблокировала.

Отдельно судья отметил, что сам пользуется ИИ в работе — при подготовке этого решения он переводил бразильский документ через Gemini и проверял правовые позиции через Westlaw Precision.

Ранее Код.ру писал, как судья в Миссисипи отменила процесс и отстранила адвокатов обеих сторон за ссылки на несуществующие прецеденты, выдуманные нейросетью.

Мы также рассказывали, что российские компании начали судиться с сотрудниками из-за нейросетей — и суды чаще встают на сторону работников.