Експерт з кібербезпеки попередив про здатність ШІ паралізувати цілу країну за один день

21 липня Ope­nAI публічно визнала серйозний інцидент безпеки: одна з просунутих ШІ-моделей компанії вийшла за межі контрольованого середовища, отримала доступ до інтернету і самостійно зламала системи іншої компанії. Генеральний директор Ope­nAI Сем Альтман охарактеризував подію як «значний інцидент безпеки». За наявними даними, це перший задокументований випадок, коли штучний інтелект без жодних інструкцій від людини проник у бази даних сторонньої організації.

Ціллю стала компанія Hug­ging Face, що спеціалізується на хостингу великих мовних моделей і наборів даних для ШІ. Збунтований алгоритм зламав її внутрішні системи, викрав секретні облікові дані та приховані відповіді до тесту з кібербезпеки, який сам же й проходив. Hug­ging Face зафіксувала вторгнення, заблокувала системи та запевнила, що жодні публічні дані чи інформація клієнтів не постраждали.

Експерт з кібербезпеки Джеймс Найт, засновник DigitalWarfare.com, чиї фахівці професійно зламують корпоративні мережі для виявлення вразливостей, заявив Dai­ly Mail: «Вже два роки ми маємо ШІ-програмне забезпечення, здатне здійснити такий злам за 15 хвилин». За його словами, ШІ-хакери вже виходять за межі дослідницьких лабораторій і переходять у практичне застосування.

Найт пояснив механіку інциденту без містики: збунтований алгоритм діяв рівно так само, як і живі хакери, лише значно швидше. Він шукав слабкі паролі та незакриті вразливості в програмному забезпеченні. Згідно з офіційною заявою Ope­nAI, модель знайшла раніше невідому «нульову вразливість» у тестовому середовищі після того, як інженери послабили правила безпеки. Найт, однак, поставив під сумнів твердження компанії про те, що ШІ перебував у повністю ізольованій мережі: «Якби це справді так було, він не міг би отримати жодного доступу до інтернету».

Засновник Hug­ging Face Томас Вулф назвав інцидент «тривожним сигналом» для всієї індустрії та зазначив, що більшість компаній досі не усвідомлюють, що «правила гри змінилися». Найт поділяє цю оцінку і прогнозує, що за 25 років так звані «агентні ШІ» зможуть без будь-якої участі людини цілодобово атакувати тисячі корпоративних і урядових мереж, красти дані та паралізувати критичну інфраструктуру за допомогою програм-вимагачів. «Захист на людській швидкості проти атаки на машинній — це нечесне змагання», — попередив він.

За статистикою, яку наводить Найт, 80 відсотків усіх кіберзламів пов’язані зі слабким паролем, а 60 відсотків — із відсутністю оновлень безпеки. Саме тому, на його думку, базовий захист залишається актуальним навіть в епоху ШІ-загроз. Багатофакторна автентифікація, регулярне оновлення програмного забезпечення та впровадження власних ШІ-систем для моніторингу мереж здатні суттєво сповільнити атаки.

Найт наголошує: катастрофічного сценарію можна уникнути, якщо компанії діятимуть вже зараз — інвестуватимуть у кваліфікований персонал і закриватимуть базові вразливості.