Штучний інтелект GPT‑4 навчився зламувати сайти на 550% ефективніше, ніж раніше

Дослідники встановили, що чат-бот GPT‑4 від компанії Ope­nAI здатен створювати експлойти для вразливостей, аналізуючи інформацію про них в інтернеті. Цього разу їм вдалося зламати більшу частину тестових сайтів за допомогою автономних груп ботів на базі GPT‑4, які самостійно координували свою роботу та створювали нових ботів за потреби.

Боти у своїй роботі створювали експлойти для вразливостей нульового дня, про які раніше не було відомо. У попередніх дослідженнях GPT‑4 використовували для експлуатації вже відомих вразливостей (CVE), виправлення для яких ще не були випущені.

Нейромережа змогла створити експлойти для 87% критичних вразливостей CVE.

Вчені розповіли: замість використання одного бота з великою кількістю складних завдань, дослідники застосували групу автономних, самопоширюваних агентів на основі великої мовної моделі (LLM). Вони використовували метод ієрархічного планування, передбачаючи розподіл завдань між різними агентами. Одним з головних елементів став «агент планування», який контролював весь процес роботи й запускав кілька «субагентів» для виконання конкретних завдань. Подібно до взаємодії між начальником і підлеглими, «агент планування» координував свої дії з «керівним агентом», який делегував виконання завдань «експертним субагентам», рівномірно розподіляючи навантаження.

Дослідники порівняли ефективність такого підходу при взаємодії групи ботів з 15 реальними вразливостями. Виявилося, що метод ієрархічного планування на 550% ефективніший у порівнянні з роботою одного бота на базі нейромережі. Група ботів змогла задіяти 8 з 15 вразливостей, тоді як окремий бот створив експлойт лише для трьох вразливостей.