Підписуйтеся на наш телеграм канал!

Найвідоміший штучний інтелект навчився зламувати сайти без участі людини

6:36 pm, 19 Лютого, 2024

Свіже дослідження науковців з Університету Іллінойсу в Урбана-Шампейн (UIUC) продемонструвало, що великі мовні моделі (LLM) можна використовувати для злому сайтів без участі людини.

Вчені пояснюють: LLM-агенти за допомогою інструментів для доступу до API, автоматизованого вебсерфінгу та планування на основі зворотного зв’язку, здатні самостійно виявляти й експлуатувати вразливості у вебдодатках.

У рамках експерименту було використано 10 різних LLM, зокрема GPT-4, GPT-3,5 LLaMA-2, а також низку інших відкритих моделей. Тестування проводили в ізольованому середовищі, щоби запобігти реальним збиткам, на цільових вебсайт, які перевіряли на наявність 15 різних вразливостей, включно з SQL-ін'єкціями, міжсайтовим скриптингом (Cross Site Scripting, XSS) і підробкою міжсайтових запитів (Сross Site Request Forgery, CSRF). Також дослідники виявили, що GPT-4 від OpenAI показав успішне виконання завдання в 73,3% випадків, що значно перевершує результати інших моделей.

Одне з пояснень, наведене в документі, полягає в тому, що GPT-4 могла краще змінювати свої дії залежно від відповіді, отриманої від цільового вебсайту, ніж моделі з відкритим вихідним кодом.

Автори роботи також висловили занепокоєння з приводу майбутнього використання LLM як автономних агентів для злому. За словами вчених, попри те, що наявні вразливості можна виявити за допомогою автоматичних сканерів, здатність LLM до самостійного і масштабованого злому являє собою новий рівень небезпеки.

Фахівці закликали до розроблення заходів безпеки й політик, що сприяють безпечному дослідженню можливостей LLM, а також до створення умов, що дають змогу дослідникам безпеки продовжувати свою роботу без побоювань отримати покарання за виявлення потенційно небезпечних використань моделей.

Підписуйтеся на наш телеграм канал!

BTC

$63,490.82

-3.94%

ETH

$3,122.49

-3.78%

BNB

$607.27

0.15%

XRP

$0.52

-3.33%

SOL

$144.56

-7.74%

Всі курси
Підписуйтеся на наш
телеграм канал!
Свіжі новини та огляди
ринків криптовалют останньої
доби прямо у вашому мессенджері. Чекаємо на вас!
ПЕРЕЙТИ
Показати більше