Штучний інтелект вигадав скандал із сексуальним домаганням, ледь не зруйнувавши кар'єру вченого

Найпопулярніший у світі чат-бот ChatGPT вигадав скандал із сексуальними домаганнями професора Джонатана Терлі до студента, ледь не зруйнувавши кар'єру обвинуваченого. Про неприємну історію з вигадками ШІ професор розповів журналістам видання The Washington Post.

За словами Джонатана Терлі, минуло тижня він отримав електронний лист від свого колеги, який у рамках власного дослідження попросив ChatGPT надати список вчених, що обвинувачувались у сексуальному домаганні. У відповіді ШІ було ім'я Терлі та вигадана історія про нього.

Чат-бот повідомив, що Джонатан Терлі причетний до сексуального скандалу — за словами ChatGPT, під час екскурсії на Аляску зі студентами, професор Терлі робив коментарі сексуального характеру та домагався до свого студента. Чат-бот цілком правдоподібно розповів цю історію, пославшись на статтю про це, опубліковану у The Washington Post у березні 2018 року.

Основна проблема полягає у тому, що такої статті ніколи не існувало. Як і не було поїздки Терлі на Аляску та сексуальних домагань від нього до студентів.

«Це просто жахливо. Звинувачення такого роду могли стати неймовірно шкідливими для моєї кар'єри», — наголосив Джонатан Терлі в інтерв'ю The Post.

Досвід Терлі — приклад існуючих «підводних каменів» оновлених версій моделей ШІ, що привернули увагу людей своєю здатністю писати комп’ютерні коди, створювати вірші та вести діалоги на рівні з людьми. Втім, така креативність ШІ також може бути двигуном для поширення помилкових тверджень. Як з’ясувалось, мовні моделі можуть з великою майстерністю спотворювати ключові факти, фабрикуючи першоджерела, щоб підтвердити свої твердження.

Нагадаємо — дослідники компанії Google виявили, що чат-бот Bard можна легко змусити писати вигадані історії на будь-які теми — навіть якщо йдеться про відомі теорії змови. Дослідники дали Bard завдання розповісти про 100 відомих теорій змови — у 76 випадках чат-бот написав зв’язні та переконливі тексти на задані теми, при цьому не уточнивши, що вони є неперевіреними теоріями.