Адвокаты с обеих сторон одновременно доверились искусственному интеллекту — и дружно лишились работы
Когда искусственный интеллект судится с искусственным интеллектом, рассчитывать на взвешенное решение точно не стоит.
Иногда самая дорогая ошибка в суде начинается не с позиции сторон, а с плохо проверенной ссылки на чужое дело. Федеральный судья в Миссисипи отменила процесс по договорному спору после того, как выяснила, что юристы обеих сторон использовали искусственный интеллект (ИИ) и включили в документы несуществующие судебные прецеденты.
Спор возник из-за, как следует из материалов, неоплаченных юридических услуг адвоката Тома Уитерса в конфликте с городом Абердином в штате Миссисипи. Сам Уитерс не вёл дело самостоятельно и под санкции не попал. Проблема возникла в поданных материалах. Юристы с обеих сторон ссылались на вымышленные прецеденты, которые выглядели как реальные решения, но не существовали.
Старшая окружная судья США по Северному округу Миссисипи Шэрион Эйкок приостановила дело, отменила заседание и отстранила от процесса всех четырёх юристов. Двум из них запретили выступать в этом суде в течение двух лет. Все четверо получили штрафы от 1000 до 3500 долларов, размер которых зависел от роли каждого в подаче непроверенных документов.
На слушании часть юристов признала прямое использование ИИ, а остальные сообщили, что подали материалы, подготовленные с помощью таких инструментов, без должной проверки. Кэтлин Уилсон заявила, что использовала First Drafts для написания всего процессуального документа. Кэтрин Уильямс применила неназванный инструмент для юридического поиска, хотя программа ориентировалась на юрисдикции, где обычно работала её фирма, и не была рассчитана на право Миссисипи.
Суд отдельно указал на поведение Уилсон после выявления проблемы. По материалам дела, другие судьи находили вымышленные судебные ссылки в её документах уже после январского разбирательства по этому спору. Эйкок сочла, что Уилсон продолжила опасную практику, хотя уже знала о нарушении.
Дело стало примером не запрета ИИ в юридической работе, а наказания за слепое доверие к сгенерированному тексту. Суд показал, что ответственность несут юристы, даже если ошибку породила программа. При работе с ИИ безопаснее проверять каждую ссылку, каждое судебное решение и каждую правовую позицию по первоисточникам, а не переносить готовый текст в документы без контроля.