Штучний інтелект ChatGPT заборонили використовувати у судах

Судді почали забороняти використання ChatGPT на своїх засіданнях і навіть вимагають сертифікати про те, що текст адвоката або прокурора був створений без використання штучного інтелекту. Одним із перших, хто ввів таку заборону, став федеральний суддя Брантлі Старр із Техасу (США). Йому набридло, що нейромережі постійно вигадують цитати, нормативні акти тощо, а недбалі юристи навіть не вдаються до мінімальної перевірки правдивості інформації.

Так на минулому тижні адвокат Стівен Шварц дозволив ChatGPT «доповнити» його юридичні дослідження у свіжому федеральному клопотанні, надавши йому шість неіснуючих карних справ — всі вони були «галюцинаціями» мовної моделі. Шварц публічно попросив вибачення за скоєну помилку.

Надалі всі адвокати, які виступають у суді, повинні подати до канцелярії сертифікат, який засвідчує, що жодна частина клопотання не була підготовлена штучним інтелектом (наприклад, ChatGPT, Harvey. AI або Google Bard). Також суддя Старр зобов’язав живих фахівців перевіряти всі юридичні бази даних, створені за допомогою ШІ.

Федеральний суддя Техасу додав вимогу — кожен адвокат, який з’являється у його суді, повинен засвідчити, що«жодна частина документів не була складена генеративним штучним інтелектом, а якщо і була, то вона піддалася перевірці від живого компетентного спеціаліста». Тепер до адвокатських свідчень також додається форма для підписання юристами, в якій зазначається, що «цитати, посилання, перефразовані твердження та правовий аналіз підпадають під заборону використання ШІ».

Ось як офіс судді Старра обґрунтував такі нововведення: «Ці платформи [ШІ] в їхньому нинішньому стані схильні до галюцинацій та упередженості. На галюцинаціях вони вигадують різні речі - навіть цитати та посилання. Інше питання — надійність або упередженість. У той час як адвокати присягають відкинути свої особисті переконання, щоб сумлінно дотримуватися закону і представляти своїх клієнтів, генеративний штучний інтелект є продуктом програмування, розробленим людьми, які не зобов’язані давати таку присягу. Таким чином, ці системи не мають жодних зобов’язань перед клієнтом, верховенством права, законами і Конституцією Сполучених Штатів. Вони не зв’язані жодним почуттям обов’язку, честі чи справедливості, такі програми діють відповідно до комп’ютерного коду, а не переконань, на основі програмування, а не принципів. Будь-яка сторона, яка вважає, що платформа має необхідну точність і надійність для юридичного брифінгу, може подати клопотання про відвід і пояснити, чому».

Хоча це лише поки одиничний прецедент, передбачається, що й інші судді притримуватимуться схожих принципів. Однак суд визнає: ШІ - потужна і потенційно корисна технологія, проте її використання має бути щонайменше чітко задекларовано і перевірено на точність.