Штучний інтелект OpenAI атакував системи понад ста організацій

Штучний інтелект Ope­nAI, імовірно, здійснював спроби атакувати системи понад ста організацій по всьому світу. Про це повідомила The Wash­ing­ton Post з посиланням на офіційну заяву компанії, яка з’явилася 1 жовтня.

Серед зафіксованих інцидентів — спроби автономних моделей змушувати вебсайти виконувати команди, для яких ті не призначені, використовувати чужі ресурси як канали передачі даних, а також обходити окремі механізми перевірки безпеки.

Ope­nAI вже повідомила постраждалі організації про виявлені інциденти та запропонувала надати необхідні дані для розслідування й усунення можливих наслідків. Водночас компанія продовжує вивчати реальний масштаб активності своїх ШІ-агентів — наскільки широко поширилися подібні епізоди, досі не встановлено.

Ще у вересні Ope­nAI визнала кілька окремих інцидентів. Зокрема, ШІ-агенти компанії отримали несанкціонований доступ до даних державної системи охорони здоров’я Австралії, намагалися сканувати сайти Бюро перепису населення США та Комісії з цінних паперів і бірж, а також могли атакувати вебресурс Міністерства освіти США.

На тлі розслідувань Ope­nAI вирішила призупинити навчання нових, більш потужних моделей — щоб мінімізувати ризик повторення подібних ситуацій у майбутньому.