Штучний інтелект вважає, що Конституцію США написали не люди

Дослідження, проведене дослідниками з Університету Меріленду (США) продемонструвало, що детектори тексту, згенерованого штучним інтелектом, ненадійні у багатьох випадках. Так, детектор ZeroG­PT визначив текст Конституції США “з точністю” у 96.21% створеним штучним інтелектом.

Величезну помилку ШІ-детектора спробував пояснити автор інструменту GPTZe­ro Едвард Тянь. За словами розробника, текст Конституції США так часто вводився в навчальні дані великих мовних моделей, що згодом вони прагнули генерувати текст, схожий на текст Конституції. З Біблією ситуація аналогічна — її ZeroG­PT на 88.2% визначає як згенеровану штучним інтелектом.

Схожий експеримент провели дослідники зі Стенфордського університету, зробивши результати своєї роботи надбанням громадськості. Вони з’ясували, що детектори упереджено ставляться до осіб, які не є нативними носіями англійської мови, що призводить до високого рівня хибно-позитивних результатів під час перевірки їх текстів.

“Немає чарівної формули, яка зі стовідсотковою точністю змогла б відрізнити текст, написаний людиною, від тексту, складеного машиною. Детектори ШІ можуть зробити обґрунтоване припущення, але похибка занадто велика, щоб покладатися на них для отримання точного результату”, — зауважили дослідники.

Якщо ШІ-детектори неправильно визначають авторство текстів, то сам штучний інтелект може видати неправдиву інформацію про будь-яку людину. Так наприкінці квітня чат-бот Chat­G­PT вигадав скандал із сексуальними домаганнями професора Джонатана Терлі до студента, ледь не зруйнувавши кар’єру обвинуваченого. Чат-бот повідомив, що Джонатан Терлі причетний до сексуального скандалу — за словами Chat­G­PT, під час екскурсії на Аляску зі студентами, професор Терлі робив коментарі сексуального характеру та домагався до свого студента. Чат-бот цілком правдоподібно розповів цю історію, пославшись на статтю про це, опубліковану у The Wash­ing­ton Post у березні 2018 року.