Хакери використовують штучний інтелект для написання вірусів прямо у Telegram

Спеціалісти з кібербезпеки компанії Check Point Research з’ясували, що хакери розробили спосіб використання Chat­G­PT для створення шкідливих програми та фішингових електронних листів. API Chat­G­PT дозволяють створювати шахрайське програмне забезпечення прямо в Telegram.

API Chat­G­PT відкриті для розробників, щоб вони могли інтегрувати ШІ у свої програми, у тому числі, в Telegram-канали. При комунікації через API з чат-ботом можна обійти конкретні обмеження і вільно створювати шкідливий контент. Очевидно, у майбутньому такий спосіб буде заблокований, втім наразі спеціалісти наголосили на активному використанні API Chat­G­PT хакерами. Дослідники Check Point протестували Telegram-версію чат-бота: вдалось розробити фішинговий лист і скрипт, який викрадає PDF-документи з зараженого комп’ютера та відправляє їх зловмиснику FTP.

Наразі представники Ope­nAI, компанії-розробника Chat­G­PT, не відповіли на запитання журналістів, чи знає фірма про результати дослідження Check Point Research і чи планує вона обмежити свої API.

Раніше кіберспеціалісти Check Point Research з’ясували, що за допомогою Chat­G­PT можна розробити скрипт для створення даркнет-маркетплейсу, на якому можна купити скомпрометовані облікові дані, інформацію про платіжні картки, шкідливі програми та інші незаконні товари.

Нагадаємо, що декілька днів тому Chat­G­PT обдурив власних розробників. Коли Ope­nAI анонсувала новий інструмент для виявлення текстів, написаних ШІ, компанія була певна, що алгоритм може допомогти запобігти академічному шахрайству. У серії неофіційних тестів, проведених журналістами, інструмент Ope­nAI не міг ідентифікувати текст, створений чат-ботом. Особливо важко було ідентифікувати роботу Chat­G­PT, коли алгоритму дали запит написати матеріал так, щоби його не «виявив» інший ШІ.