Штучний інтелект ChatGPT підробив факти і позбавить юриста ліцензії

Чат-бот на основі штучного інтелекту ChatGPT видав за істину вигадані факти, підставивши юриста. ШІ зіграв злий жарт з адвокатом Стівеном Шварцем з юридичної фірми Levidow, Levidow & Oberman, який використовував чат-бота у роботі над справою свого клієнта Роберто Мата.

Мата подав до суду на авіакомпанію Avianca у зв’язку з отриманням травм через зіткнення з сервірувальним візком під час польоту в 2019 році, заявивши про недбалість з боку співробітника Avianca. Стівен Шварц скористався допомогою ChatGPT для збору даних про попередні подібні судові процеси, результати яких свідчили б на користь його підзахисного.

Як з’ясувалося, ChatGPT надав адвокату вигадані факти, через що тепер йому загрожує втрата ліцензії. Суддя зазначив в ухвалі, що принаймні 6 справ, представлених Шварцом як прецеденти, «є фіктивними судовими рішеннями з фіктивними цитатами та фіктивними внутрішніми посиланнями до джерела».

Як повідомив Шварц, до цієї справи він ніколи раніше не використовував ChatGPT як джерело юридичної інформації, а тому «не знав, що наведені чат-ботом факти можуть бути хибні». Він додав, що «дуже шкодує, що використовував ШІ для доповнення правового дослідження».

Нагадаємо — наприкінці квітня чат-бот ChatGPT вигадав скандал із сексуальними домаганнями професора Джонатана Терлі до студента, ледь не зруйнувавши кар'єру обвинуваченого. Чат-бот повідомив, що Джонатан Терлі причетний до сексуального скандалу — за словами ChatGPT, під час екскурсії на Аляску зі студентами, професор Терлі робив коментарі сексуального характеру та домагався до свого студента. Чат-бот цілком правдоподібно розповів цю історію, пославшись на статтю про це, опубліковану у The Washington Post у березні 2018 року.

Досвід Терлі та Шварца — приклад існуючих «підводних каменів» оновлених версій моделей ШІ, що привернули увагу людей своєю здатністю писати комп’ютерні коди, створювати зображення та вести діалоги на рівні з людьми. Втім, така креативність ШІ також може бути двигуном для поширення помилкових тверджень.