Вчені змусили штучний інтелект зламати найвідоміші чат-боти

Дослідники з Наньянського технологічного університету у Сінгапурі змогли зламати чат-ботів, які працюють на базі штучного інтелекту. Найцікавіше, що для злому вони застосували ще один «розумний» чат-бот. Про те, як це вдалося, вони розповіли в статті, опублікованій на сайті університету.

Вчені поставили за мету зламати велику мовну модель, яка є основою будь-якого розумного чат-бота. Для цього вони розробили особливий метод і назвали його Masterkey (англ. майстер-ключ, — ред.). Спершу науковці визначили, яким чином велика мовна модель розуміє, коли їй надходять шкідливі запити, потім з’ясували, яких заходів вживає ШІ для захисту від них. Зрозумівши принцип дії великої мовної моделі, дослідники навчили свій алгоритм обходити захист.

Дотримуючись підказок, чат-бот на базі штучного інтелекту зміг не лише подолати захисний механізм, а й надалі обходити його після того, як розробники вносили виправлення. Щоразу «розумний» чат-бот знаходив нові лазівки й знову зламував інших ботів.

Вчені попередили технологічні компанії, що займаються розробкою чат-ботів, про те, що їхні сервіси вразливі, адже додуматися до такого можуть не лише науковці, але й кіберзлочинці. Як доказ, вони зламали декілька популярних ШІ-ботів і поділилися результатами з розробниками.

Раніше дослідники з Наньянського технологічного університету (Сінгапур) представили програму DIRFA, що працює на основі ШІ й здатна створювати реалістичні 3D-відеоролики на основі запису звуку і статичної фотографії обличчя. Вчені наголосили, що DIRFA значно перевершує наявні методи, даючи змогу керувати змінами пози та емоційними нюансами.