Суд поверил в решения, которых нет: как галлюцинация ИИ едва не поломала судьбу

Верховный суд Тасмании отменил условие УДО, запрещавшее осужденной за убийство Сью Нилл-Фрейзер говорить со СМИ о своей невиновности. Документ, которым совет по УДО обосновывал запрет, ссылался на судебные решения, которых в действительности не существовало и которые придумал ИИ, сообщает ABC News.

Нилл-Фрейзер была признана виновной в убийстве своего партнера Боба Чаппелла на яхте в 2009 году. Она провела в тюрьме 13 лет и вышла по УДО в 2022-м, продолжая настаивать на своей невиновности.

В декабре 2024 года совет по условно-досрочному освобождению запретил ей прямо или косвенно общаться со СМИ, если речь шла о предполагаемой ошибочности приговора. Позднее ограничение сделали еще жестче.

Однако при рассмотрении дела выяснилось, что секретарь совета использовал искусственный интеллект при подготовке документа в защиту запрета. В нем были приведены ссылки на судебную практику, которой не существовало. Адвокаты Нилл-Фрейзер обнаружили ошибку и сообщили о ней суду. Судья Стивен Эскорт признал условие УДО недействительным из-за нарушения процессуальной справедливости, юридической необоснованности и неопределенности формулировок.

Генпрокурор Тасмании Гай Барнетт потребовал от совета объяснений и гарантий, что подобное не повторится. Он назвал появление недостоверной информации в официальном документе неприемлемым.

История может оказаться шире одного дела. Председатель Prisoners Legal Service Грег Барнс призвал провести аудит других решений совета и проверить, не использовались ли в них такие же «галлюцинации» ИИ. Организация уже намерена изучать документы своих клиентов и сверять упоминаемую в них судебную практику.