ШІ вперше майже автономно зламав державні системи Тайваню

Ймовірно, китайські хакери провели майже автономну кібератаку на урядову інфраструктуру Тайваню — за даними ізраїльської компанії Dream, це перший публічно відомий випадок, коли автономна ШІ-система успішно атакувала державну ціль у реальних умовах.

Зловмисники викрали понад 2500 кадрових записів і налаштували систему так, щоб вона могла самостійно адаптуватися під час операції без постійного втручання людини.

Атаку побудували на двох популярних відкритих ШІ-фреймворках — Her­mes і Open­Claw. ШІ самостійно проводив «цикли навчання»: шукав у базах даних вразливостей, репозиторіях GitHub і публікаціях з безпеки методи, що підходили для конкретної інфраструктури цілі, а потім використовував здобуті відомості для продовження операції. Система також аналізувала власні помилки й коригувала подальші дії.

Зловмисники не обмежилися початковими цілями. ШІ одночасно розширив пошук на постачальників ІТ-систем державних організацій, охопивши агентство з ядерної безпеки, державну поштову систему та понад 7 компаній енергетичного сектору. Система шукала неправильні налаштування, відкриті адміністративні інтерфейси та вразливості, придатні для експлуатації.

Dream виявила сліди операції в онлайн-архіві обсягом 160 МБ, що містив майже 1400 файлів. Вони розкрили архітектуру багатоагентної ШІ-системи, яка, за оцінкою компанії, справді отримала доступ до державних систем. Щоб обійти вбудовані обмеження ШІ, зловмисники видавали виконувану роботу за санкціоноване тестування на проникнення.

При цьому повністю без людини атака не обійшлася. Dream зазначає, що для такої операції знадобилися налаштування системи під конкретне завдання, оптимізація взаємодії ШІ-агентів і коригування логіки ухвалення рішень. Зокрема, у виявленій системі використовувалися баєсівська пріоритизація (вибір найперспективніших цілей на основі оновлюваної оцінки ймовірностей), цикли самокорекції та адаптивні етапи пошуку.

Раніше компанія Anthrop­ic також повідомляла про першу автономну кампанію кібершпигунства, однак тоді фахівці вказували на значний обсяг участі людини.