Отрегулированная отрасль: Канадец оштрафован за использование сгенерированных ИИ «галлюцинаций» в суде.

🔷 Жан Лапрад из Квебека был оштрафован на $5 тысяч за представление в суд поддельных материалов, сгенерированных искусственным интеллектом. Судья Люк Морён из Верховного суда Квебека назвал этот поступок «в высшей степени предосудительным», подчеркнув, что такие действия подрывают доверие к судебной системе. Основу дела составила сделка по продаже трёх вертолётов и самолёта в Гвинее. Из-за ошибки в контракте Лапрад получил самолёт, который стоил значительно дороже, чем было оговорено, и впоследствии его обвинили в незаконном перемещении самолёта в Квебек. В 2021 году международная арбитражная палата обязала Лапрада выплатить $2,7 млн канадских долларов.

🔷 Во время защиты Лапрад представил в суд несколько документов, созданных ИИ, включая несуществующие судебные решения, поддельные цитаты и вымышленные ссылки. Лапрад, которому 74 года, извинился и признал, что его документы были «неидеальны», но заявил, что ИИ был «ключевым инструментом» в его защите. Судья, отметив, что Лапрад действовал без адвоката, подчеркнул, что мужчина должен понести ответственность за использование ИИ. Вместе с этим Морён признал силу и привлекательность искусственного интеллекта, который, по его словам, вскоре может изменить работу судов. Однако, перед всей отраслью стоит задача выработать алгоритм работы с данной технологией, чтобы она не стала причиной краха всей судебной системы. Именно таким образом Верховный суд Квебека обратил внимание на данную проблему.

Кстати, американская юридическая фирма Morgan & Morgan уведомила более тысячи своих сотрудников о том, чтобы они остерегались «галлюцинаций» инструментов на основе искусственного интеллекта при подготовке судебных документов.
@kstati_p

the Guardian

Canadian man fined for submitting AI hallucinations as part of legal defense

Jean Laprade ordered to pay $3,500 in legal saga of ‘hijacked planes’, Interpol red alerts and ‘inappropriate use’ of AI