Штучний інтелект вважає, що Конституцію США написали не люди

Дослідження, проведене дослідниками з Університету Меріленду (США) продемонструвало, що детектори тексту, згенерованого штучним інтелектом, ненадійні у багатьох випадках. Так, детектор ZeroGPT визначив текст Конституції США «з точністю» у 96.21% створеним штучним інтелектом.

Величезну помилку ШІ-детектора спробував пояснити автор інструменту GPTZero Едвард Тянь. За словами розробника, текст Конституції США так часто вводився в навчальні дані великих мовних моделей, що згодом вони прагнули генерувати текст, схожий на текст Конституції. З Біблією ситуація аналогічна — її ZeroGPT на 88.2% визначає як згенеровану штучним інтелектом.

Схожий експеримент провели дослідники зі Стенфордського університету, зробивши результати своєї роботи надбанням громадськості. Вони з’ясували, що детектори упереджено ставляться до осіб, які не є нативними носіями англійської мови, що призводить до високого рівня хибно-позитивних результатів під час перевірки їх текстів.

«Немає чарівної формули, яка зі стовідсотковою точністю змогла б відрізнити текст, написаний людиною, від тексту, складеного машиною. Детектори ШІ можуть зробити обґрунтоване припущення, але похибка занадто велика, щоб покладатися на них для отримання точного результату», — зауважили дослідники.

Якщо ШІ-детектори неправильно визначають авторство текстів, то сам штучний інтелект може видати неправдиву інформацію про будь-яку людину. Так наприкінці квітня чат-бот ChatGPT вигадав скандал із сексуальними домаганнями професора Джонатана Терлі до студента, ледь не зруйнувавши кар'єру обвинуваченого. Чат-бот повідомив, що Джонатан Терлі причетний до сексуального скандалу — за словами ChatGPT, під час екскурсії на Аляску зі студентами, професор Терлі робив коментарі сексуального характеру та домагався до свого студента. Чат-бот цілком правдоподібно розповів цю історію, пославшись на статтю про це, опубліковану у The Washington Post у березні 2018 року.