Хакери використовують штучний інтелект для написання вірусів прямо у Telegram

Спеціалісти з кібербезпеки компанії Check Point Research з’ясували, що хакери розробили спосіб використання ChatGPT для створення шкідливих програми та фішингових електронних листів. API ChatGPT дозволяють створювати шахрайське програмне забезпечення прямо в Telegram.

API ChatGPT відкриті для розробників, щоб вони могли інтегрувати ШІ у свої програми, у тому числі, в Telegram-канали. При комунікації через API з чат-ботом можна обійти конкретні обмеження і вільно створювати шкідливий контент. Очевидно, у майбутньому такий спосіб буде заблокований, втім наразі спеціалісти наголосили на активному використанні API ChatGPT хакерами. Дослідники Check Point протестували Telegram-версію чат-бота: вдалось розробити фішинговий лист і скрипт, який викрадає PDF-документи з зараженого комп’ютера та відправляє їх зловмиснику FTP.

Наразі представники OpenAI, компанії-розробника ChatGPT, не відповіли на запитання журналістів, чи знає фірма про результати дослідження Check Point Research і чи планує вона обмежити свої API.

Раніше кіберспеціалісти Check Point Research з’ясували, що за допомогою ChatGPT можна розробити скрипт для створення даркнет-маркетплейсу, на якому можна купити скомпрометовані облікові дані, інформацію про платіжні картки, шкідливі програми та інші незаконні товари.

Нагадаємо, що декілька днів тому ChatGPT обдурив власних розробників. Коли OpenAI анонсувала новий інструмент для виявлення текстів, написаних ШІ, компанія була певна, що алгоритм може допомогти запобігти академічному шахрайству. У серії неофіційних тестів, проведених журналістами, інструмент OpenAI не міг ідентифікувати текст, створений чат-ботом. Особливо важко було ідентифікувати роботу ChatGPT, коли алгоритму дали запит написати матеріал так, щоби його не «виявив» інший ШІ.