Штучний інтелект GPT-4 навчився самостійно зламувати будь-які існуючі системи

Вчені з університету Іллінойсу в Урбані-Шампейні опублікували дослідження, в якому довели, що модель штучного інтелекту GPT-4 від OpenAI здатна самостійно експлуатувати вразливості в реальних системах після того, як отримає їх докладний опис.

У рамках дослідження було відібрано 15 вразливостей, описаних як критичні. Результати показали, що мовна модель GPT-4 змогла використати 87% цих уразливостей, тоді як інші моделі із завданням упоратися не змогли.

Даніель Канг, один з авторів роботи, стверджує, що використання LLM може значно спростити процес експлуатації вразливостей для зловмисників. За його словами, системи, засновані на штучному інтелекті, будуть набагато ефективнішими, ніж доступні сьогодні інструменти для хакерів-початківців.

Канг підкреслив, що навіть гіпотетичне обмеження доступу моделі до безпеки буде неефективним засобом захисту від атак на базі LLM. Дослідник закликає компанії до активних заходів забезпечення свого захисту, таких як регулярне оновлення програмного забезпечення. Представники OpenAI поки не прокоментували результати цього дослідження.