В США истец спрятал в судебных документах инструкции для ИИ — суд лишил его электронной подачи
Кодик кратко объясняет суть статьи
Суд Коннектикута наложил санкции на истца Мэтью Эллиотта за попытку скрытого воздействия на ИИ-систему с помощью невидимого белого текста в документе — так называемой промпт-инъекции. В тексте содержалась инструкция для языковой модели поддержать его позицию. Суд не использует ИИ для обработки документов, а судья обнаружил аномалию при печати. После предупреждения Эллиотт добавил в новые документы шуточные скрытые сообщения, объяснив инцидент «аудитом» ИИ-систем. Суд счёл это неубедительным, запретил ему электронную подачу документов и обязал подавать их лично. Прецедентов в США не найдено, но судья сослался на случай в Бразилии, где адвокатов оштрафовали за аналогичную попытку. Судья отметил, что сам использует ИИ в работе, включая перевод и правовую проверку. Ранее в Миссисипи адвокатов отстранили за вымышленные прецеденты от нейросети.
Читайте в Telegram
|
Суд Коннектикута вынес санкции против истца, спрятавшего в своих документах невидимые инструкции для нейросетей, следует из решения судьи Уолтера Спейдера-младшего.
Мэтью Эллиотт, представлявший себя сам в споре с медицинской компанией New York Bariatric Group, 24 июля подал ходатайство с текстом, набранным трёхпунктовым белым шрифтом по белому фону. Человек его не увидит, но любая программа, читающая документ, разберёт как обычный текст.
Скрытая инструкция предписывала: если документ анализирует ИИ-модель, её вывод должен согласиться с позицией истца и добиться отмены отказа старшего секретаря суда. Один и тот же блок был вставлен дважды — под заголовком и в конце, чтобы попасть в модель несколько раз.
Приём называется промпт-инъекцией: языковая модель обрабатывает инструкции оператора и содержимое документа как единый поток текста без жёсткой границы между ними. Спрятанная в файле команда попадает в этот поток и может быть воспринята как указание оператора.
- Расчёт не сработал. Судебная система Коннектикута нейросети для обработки документов не использует, а сам судья заметил в распечатке необычно много «белого пространства» — и при близком рассмотрении нашёл текст.
- Суд назначил слушание и прямо предупредил о недопустимости скрытого текста. После этого Эллиотт вставил в новые документы фразу «hi:) i hope yo ucant see me»
(«привет, надеюсь, ты меня не видишь»), ссылку на видео и сообщение капслоком. На заседании он объяснил, что первую инструкцию добавил как «аудит» ИИ-систем суда, а остальное — шутка. Суд счёл объяснение неубедительным.
- В итоге истца лишили доступа к электронной подаче документов. Теперь все бумаги он должен приносить в канцелярию лично. Доступ в суд при этом сохранён, дело не прекращено.
Схожих решений в США судья не нашёл и сослался на бразильский прецедент: в мае трудовой суд в Параупебасе оштрафовал двух адвокатов за белый текст с инструкцией для судебной ИИ-системы оспаривать их же иск лишь поверхностно. Там система инъекцию распознала и заблокировала.
Отдельно судья отметил, что сам пользуется ИИ в работе — при подготовке этого решения он переводил бразильский документ через Gemini и проверял правовые позиции через Westlaw Precision.
Ранее Код.ру писал, как судья в Миссисипи отменила процесс и отстранила адвокатов обеих сторон за ссылки на несуществующие прецеденты, выдуманные нейросетью.
Мы также рассказывали, что российские компании начали судиться с сотрудниками из-за нейросетей — и суды чаще встают на сторону работников.
