Вчений з Google розробив код, що став зброєю штучного інтелекту проти нейромереж

Дослідник Ніколас Карліні, який співпрацює з компанією Google, продемонстрував, як GPT-4 обходить захист інших моделей машинного навчання. Науковець наголошує: це підкреслює значущість чат-ботів як асистентів для вчених. Карліні впевнений, що ШІ у науковій царині перспективніші та ефективніші за людей.

Вчений проаналізував, як GPT-4 зламує AI-Guardian — систему захисту від кібератак. Для цього дослідник попросив чат-бота розробити унікальний метод злому.

В експерименті Карліні GPT-4 працює з кодом мовою програмування Python. Чат-бот згенерував сценарії та пояснення щодо налаштування зображень для обману класифікатора. Як результат — AI-Guardian може «подумати», що фотографія людини зі зброєю — це фотографія людини з яблуком. Атаки GPT-4 знижують стійкість AI-Guardian із заявлених 98% до 8%. Творці захисної ШІ-системи визнали, що розроблений метод обходу успішно обманює AI-Guardian.

Для обходу захисту AI-Guardian чат-боту GPT-4 слід було ідентифікувати шаблони, використовувані нейромережею для виявлення зловмисників. В ході експерименту Карліні показав ШІ безліч зображень, які відрізняються лише одним пікселем. У кінцевому результаті AI-Guardian сприйняла спотворені зображення як належне.

Карліні очікує подальшого розвитку великих мовних моделей. «Як калькулятор змінив роль математиків, істотно спростивши виконання механічних розрахунків, так і сьогоднішні LLM-моделі спрощують розв’язання задач програмування, даючи змогу вченим витрачати більше часу на пропрацювання цікавих дослідницьких питань», — підсумував Карліні.

Нагадаємо — науковці назвали найслабше місце штучного інтелекту, яке може спровокувати світову кризу. Техногіганти надміру споживають прісну воду, спрямовану на охолодження центрів обробки даних, а це може породити дефіцит у тих регіонах, де проблеми з питною водою були й до того. Найбільше збитків якраз завдає ШІ від Google.