Адвокат извинился за использование поддельных цитат, созданных искусственным интеллектом

В Австралии опытный адвокат принёс извинения судье после того, как в судебных документах по делу об убийстве были обнаружены поддельные цитаты и несуществующие судебные решения, сгенерированные искусственным интеллектом. Этот инцидент стал очередным примером того, как ошибки ИИ влияют на работу судебных систем по всему миру.

Как сообщает The Independent, адвокат Риши Натвани взял на себя «полную ответственность» за предоставление неверной информации в Верховном суде штата Виктория. Он признал, что ошибки, сгенерированные ИИ, включали в себя сфабрикованные цитаты из речи в законодательном собрании штата и несуществующие ссылки на решения суда. Это привело к 24-часовой задержке в рассмотрении дела.

Обращаясь к судье Джеймсу Эллиотту, Натвани заявил: 

«Мы глубоко сожалеем и смущены произошедшим». Эллиотт в свою очередь отметил, что «способность суда полагаться на точность представленных адвокатом заявлений имеет основополагающее значение для надлежащего отправления правосудия».

Ошибки были обнаружены коллегами судьи, которые не смогли найти указанные дела и попросили адвокатов предоставить копии. Юристы признали, что цитаты «не существуют» и что в документах содержатся «фиктивные цитаты».

Это не первый подобный случай в судебной практике. В 2023 году в США федеральный судья оштрафовал двух юристов на $5000   за использование фиктивного юридического исследования, сгенерированного ChatGPT. Судья подчеркнул, что они действовали недобросовестно.

Позже в том же году в юридических документах, поданных адвокатами бывшего личного юриста Дональда Трампа — Майкла Коэна, также были обнаружены вымышленные судебные решения. Коэн заявил, что не знал, что инструмент Google, который он использовал для юридических исследований, способен «галлюцинировать».

В связи с участившимися случаями Верховный суд штата Виктория опубликовал руководство для юристов по использованию ИИ.    В нём говорится, что «использование искусственного интеллекта недопустимо, если продукт такого использования не будет независимо и тщательно проверен».

Источник: The Independent

#ИИ #Адвокаты #Суд #Правосудие #Технологии