Канадцу выписали штраф за попытку использовать ИИ-«галлюцинации» в суде

Житель Квебека, Жан Лапрад, был оштрафован на 5000 канадских долларов (примерно $3562 США) за попытку использовать в качестве правовой защиты сфабрикованные данные, созданные искусственным интеллектом, сообщает Leyland Cecco в The Guardian. Судья Верховного суда Квебека назвал этот шаг «крайне предосудительным» действием, подрывающим целостность правовой системы.

Судья Люк Морен из Верховного суда Квебека наложил штраф на Жана Лапрада в решении, опубликованном 1 октября, завершая судебное разбирательство, которое, по словам судьи, «содержит несколько элементов, достойных успешного сценария фильма». История включала «захваченный самолет, пролетающий через несколько беспечных аэропортов», «красные оповещения» Интерпола и «ненадлежащее использование искусственного интеллекта» со стороны Лапрада.

Дело касалось сделки по покупке трёх вертолётов и самолёта, которую Лапрад заключил в Гвинее, стране в Западной Африке. Из-за ошибки в контракте бизнесмену по ошибке присудили самолёт, стоимость которого была значительно выше оговоренной. Лапрада обвинили в «перенаправлении» самолёта в Квебек, и он отражал попытки двух авиационных компаний вернуть его. Решение Парижской международной арбитражной палаты от 2021 года обязало его выплатить $2,7 млн канадских долларов за самолёт, который с 2019 года находится под арестом в аэропорту Шербрука.

В свою защиту Лапрад представил суду несколько фрагментов информации, сфабрикованных искусственным интеллектом, включая «восемь случаев несуществующих цитат, невынесенных решений, бесцельных ссылок и непоследовательных выводов». Судья Морен отметил в своём решении, что суды ранее, в 2023 году, уже предупреждали юридическое сообщество об использовании искусственного интеллекта, выпустив уведомление о необходимости «строгого человеческого контроля» за информацией, генерируемой ИИ.

Попытка Лапрада «ввести в заблуждение противоположную сторону и Трибунал, представив фиктивные выдержки» из судебной практики, является «серьёзным нарушением», написал Морен.

«Следует помнить, что возбуждение дела остаётся серьёзным актом, к которому нельзя относиться легкомысленно», — добавил судья.

Лапрад принёс извинения и признал, что его доводы были «вероятно, неидеальными», но заявил, что использование искусственного интеллекта было ключевым моментом в его защите.

Судья Морен отметил, что Лапрад, которому 74 года и который «явно прожил очень интересную жизнь», столкнулся с трудностью защиты без адвоката.

«Хотя суд учитывает тот факт, что г-н Лапрад намеревался защищать себя в меру своих возможностей, используя искусственный интеллект, его поведение остаётся крайне предосудительным, — написал судья. — Он должен в одиночку нести весь позор, вызванный цитатами, „галлюцинированными“ искусственным интеллектом, на которые он опирался в своих возражениях».

Морен также признал мощь и привлекательность искусственного интеллекта, который, по его словам, вскоре может преобразовать суды.

«Хотя его опьяняющие обещания могут сравниться только со страхами, связанными с его ненадлежащим использованием, искусственный интеллект еще долгие годы будет серьезно проверять бдительность судов».

Источник: The Guardian

#Канада #ИскусственныйИнтеллект #Суд #Штраф #Правосудие