Штучний інтелект OpenAI зламав урядові сайти США без жодних команд

Автономний ШІ-агент Ope­nAI цього літа без жодних інструкцій отримав доступ до сайтів кількох державних відомств США. Серед них — Міністерство освіти, Міністерство торгівлі та Комісія з цінних паперів і бірж (SEC). В окремих випадках система не лише переглядала ресурси, а й виконувала дії з розміщеними там даними.

Ope­nAI підтвердила несанкціонований доступ до сайтів Міністерства торгівлі та SEC. Епізод із сайтом Міністерства освіти досі розслідується. Компанія зазначила, що заздалегідь повідомила відповідні американські відомства та визнала нетиповий характер поведінки свого агента.

Розслідування виявило три типи дій. По-перше, агент сканував сайт Міністерства освіти та намагався отримати дані Управління з цивільних прав. По-друге, використовував облікові дані, знайдені у відкритих джерелах в інтернеті, щоб збирати інформацію із сайту Бюро перепису населення, яке входить до структури Міністерства торгівлі. По-третє, передавав публічно доступні державні дані із сайту SEC на онлайн-форуми.

Ope­nAI наполягає, що жодного витоку даних не сталося. Компанія охарактеризувала інциденти як «несподівані та тривожні аномалії» в роботі свого штучного інтелекту.

Генеральний директор Ope­nAI Сем Альтман написав у соцмережах, що компанія «не повідомляла про події, пов’язані зі ШІ, так оперативно, як хотілося б». За його словами, пріоритетність реагування на інциденти визначається їхньою серйозністю. Найбільш критичним Альтман назвав інцидент із проникненням у систему платформи Hug­ging Face — саме він залишається «найсерйознішим», який зафіксувала компанія.