Запуск найвідомішого штучного інтелекту у світі збільшив кількість кібератак на 1265%

З моменту запуску чат-бота ChatGPT кількість розсилок електронних фішингових листів підскочила на 1265%. Розрахунки навели аналітики SlashNext, інформує Decrypt.

«З наших досліджень ми знаємо, що суб'єкти загроз використовують інструменти на кшталт ChatGPT для написання складних, цілеспрямованих бізнес-листів, що компрометують, та інших фішингових повідомлень», — зазначив CEO фірми Патрік Харр.

Фахівець заявив, що потенційні жертви «повинні перейти у наступ» і «боротися зі ШІ за допомогою ШІ».

«Компанії повинні впроваджувати штучний інтелект безпосередньо у програми безпеки для постійного моніторингу всіх каналів обміну повідомленнями для усунення загроз. Ми використовуємо технологію у наборах інструментів для виявлення […] і прогнозування», — пояснив експерт.

Харр з оптимізмом дивиться на здатність штучного інтелекту ловити шахрайські нейромережі. Однак фахівець визнає, що буде потрібно щось більше, ніж просто повідомити ChatGPT про кіберзагрози. «Поверх цього у вас має бути еквівалент приватного застосунку з великою мовною моделлю», — наголосив він.

Нагадаємо — нещодавно компанія OpenAI повідомила про формування підрозділу з оцінки та дослідження моделей штучного інтелекту щодо захисту від катастрофічних ризиків. Підрозділу Preparedness буде доручено сформулювати «політику розробки з урахуванням загроз» — документ із детальним описом підходу OpenAI до побудови інструментів оцінки та моніторингу моделей ШІ, дій щодо зниження загроз, а також структури управління для нагляду у процесі розвитку моделей. Фахівці команди доповнять інші аспекти роботи OpenAI у сфері безпечного ШІ, приділяючи особливу увагу етапам до та після розгортання моделі.