Запуск найвідомішого штучного інтелекту у світі збільшив кількість кібератак на 1265%

З моменту запуску чат-бота Chat­G­PT кількість розсилок електронних фішингових листів підскочила на 1265%. Розрахунки навели аналітики Slash­Next, інформує Decrypt.

“З наших досліджень ми знаємо, що суб’єкти загроз використовують інструменти на кшталт Chat­G­PT для написання складних, цілеспрямованих бізнес-листів, що компрометують, та інших фішингових повідомлень”, — зазначив CEO фірми Патрік Харр.

Фахівець заявив, що потенційні жертви “повинні перейти у наступ” і “боротися зі ШІ за допомогою ШІ”.

“Компанії повинні впроваджувати штучний інтелект безпосередньо у програми безпеки для постійного моніторингу всіх каналів обміну повідомленнями для усунення загроз. Ми використовуємо технологію у наборах інструментів для виявлення […] і прогнозування”, — пояснив експерт.

Харр з оптимізмом дивиться на здатність штучного інтелекту ловити шахрайські нейромережі. Однак фахівець визнає, що буде потрібно щось більше, ніж просто повідомити Chat­G­PT про кіберзагрози. “Поверх цього у вас має бути еквівалент приватного застосунку з великою мовною моделлю”, — наголосив він.

Нагадаємо — нещодавно компанія Ope­nAI повідомила про формування підрозділу з оцінки та дослідження моделей штучного інтелекту щодо захисту від катастрофічних ризиків. Підрозділу Pre­pared­ness буде доручено сформулювати «політику розробки з урахуванням загроз» — документ із детальним описом підходу Ope­nAI до побудови інструментів оцінки та моніторингу моделей ШІ, дій щодо зниження загроз, а також структури управління для нагляду у процесі розвитку моделей. Фахівці команди доповнять інші аспекти роботи Ope­nAI у сфері безпечного ШІ, приділяючи особливу увагу етапам до та після розгортання моделі.