Адвоката усунули від справи після використання вигаданих свідків за допомогою ChatGPT

Адвокат використав ChatGPT для підготовки апеляції, не перевірив текст і подав до суду вигадані показання та неіснуючих свідків.

У США адвокат використав ChatGPT для підготовки апеляції у справі про вбивство, але не перевірив отриманий текст перед поданням до суду. У результаті в документі з’явилися вигадані свідки, неіснуючі показання та неправильні посилання на правові джерела. Верховний суд штату Нью-Мексико оштрафував юриста на 5 тисяч доларів та усунув його від справи. Про це повідомляє АНТИРЕЙД з посиланням на «Судово-юридична газета».

Інцидент стався під час оскарження вироку чоловікові, якого визнали винним у вбивстві дружини та засудили до довічного ув’язнення.

Його адвокат Стівен Д. Ааронс вирішив використати ChatGPT для підготовки матеріалів апеляції. Як згодом з’ясував суд, частина інформації в документі не мала нічого спільного з реальними матеріалами справи.

ChatGPT вигадав людей та їхні свідчення

Найсерйознішою проблемою стало те, що в апеляційній скарзі з’явилися люди, яких узагалі не існувало серед свідків у справі.

Підписуйтесь на наш Канал у Telegram та на X, а також на нашу сторінку у Facebook, щоб бути в курсі найважливіших подій.

Зокрема, у документі згадувалися Денні Стентон та Лінда Стентон, яким приписували свідчення про отримані погрози.

Крім того, у тексті були наведені вигадані показання інших осіб щодо зовнішності та одягу стрільця.

Суд також виявив проблеми з посиланнями на судову практику та іншими юридичними твердженнями, які адвокат подав як достовірні.

Адвокат визнав, що не перевірив текст

Під час окремого слухання Ааронс визнав, що поклався на ChatGPT і не перевірив належним чином підготовлений ним матеріал.

За словами адвоката, він розраховував, що система створить фактично безпомилковий виклад матеріалів справи.

Коментуючи ситуацію перед суддями, він фактично визнав власну помилку, заявивши, що саме його «дурість» призвела до цього провадження.

Адвокат також пояснював, що довіряв технології, оскільки чув про використання штучного інтелекту, зокрема, у медичних дослідженнях.

Судді різко відреагували на пояснення адвоката

Таке пояснення не переконало суд. Один із суддів запитав Ааронса, чи дивиться він новини, слухає радіо та читає про те, що відбувається у світі.

Суд звернув увагу, що випадки, коли штучний інтелект вигадує факти, судові рішення або іншу інформацію, вже не є новим явищем, особливо у юридичній практиці.

Суддя також поставив під сумнів твердження адвоката про те, що він не знав про ризик так званих «галюцинацій» ШІ — ситуацій, коли система впевнено створює неправдиву інформацію.

Клієнту адвокат про ChatGPT не розповів

Під час слухання з’ясувалося ще одне важливе питання. Ааронс визнав, що безпосередньо не повідомив своєму клієнту про те, що апеляційна скарга містила вигадану ChatGPT інформацію та що через це суд відкрив окреме провадження.

За його словами, він лише поговорив із родичами засудженого та повідомив їм, що з поданим документом виникла проблема.

Коли суддя прямо запитав, чи розповів він родині, що використовував ChatGPT і подав до суду неправдиву інформацію, адвокат відповів, що про ChatGPT не говорив.

Адвоката оштрафували на $5 тисяч і усунули від справи

Верховний суд Нью-Мексико визнав адвоката винним у прямій неповазі до суду, передає 404media.

Матеріали щодо його дій передали до дисциплінарного органу для подальшого розгляду. До завершення перевірки Ааронсу заборонили виступати перед Верховним судом штату.

Крім того, його усунули від справи, а засудженому призначили іншого адвоката.

Сам Ааронс отримав штраф у розмірі 5 тисяч доларів, який має бути сплачений до Фонду захисту клієнтів Асоціації адвокатів Нью-Мексико.

Адвокат заявив, що шкодує про те, що сталося, і назвав випадок уроком для професіоналів, які використовують потужні, але не завжди надійні інструменти штучного інтелекту.