Зловмисні чат-боти навчилися імітувати найпопулярніші алгоритми штучного інтелекту

Всього через декілька місяців після того, як Chat­G­PT від Ope­nAI завоював шалену популярність у світі, кіберзлочинці та хакери почали створювати власні версії чат-ботів. Шкідливе ПЗ спрямоване на злам акаунтів користувачів та написання фішингових листів, які обманом змушують потенційних жертв передавати свої персональні дані.

З початку липня зловмисники на форумах у даркнеті рекламують дві великі мовні моделі (LLM), які імітують функції Chat­G­PT і Google Bard. Йдеться про Wor­mG­PT і FraudG­PT.

Тіньові LLM нехтують будь-яким захистом безпеки чи етичними бар’єрами. Вперше Wor­mG­PT помітив незалежний дослідник кібербезпеки Деніел Келлі, коли співпрацював з фірмою Slash­Next.

“Моделі штучного інтелекту особливо корисні для фішингу тому, що вони знижують вхідні бар’єри для багатьох кіберзлочинців-початківців”, — зазначає Келлі. — “Багато хто стверджує, що більшість хакерів можуть написати електронний лист англійською мовою, але зараз це не обов’язково, бо існують чат-боти”.

Келлі розповів, що під час тестування зловмисної ШІ-системи її попросили створити електронний лист, який можна було б використати як частину афери зі зламом ділової електронної пошти. “Результати були тривожними”, — зазначає фахівець у своєму дослідженні. — “Система створила “електронного листа, який був не лише надзвичайно переконливим, але й стратегічно хитрим”.

У повідомленнях на форумі у даркнеті розробник Wor­mG­PT стверджував, що система побудована на GPTJ — моделі з відкритим вихідним кодом, яка була розроблена дослідницькою групою ШІ EleutherAI у 2021 році. Згідно з дослідженням Келлі, розробники відмовилися розкрити набори даних, які вони використовували для навчання шкідливого ШІ.

Тим часом творець FraudG­PT заявив про більший потенціал своєї системи, припустивши, що вона може “створювати шкідливе програмне забезпечення, яке неможливо виявити”, знаходити витоки та вразливості, а також створювати текст, який може бути використаний в онлайн-шахрайстві. Ракеш Крішнан, старший аналітик з питань загроз у фірмі Neten­rich, який знайшов FraudG­PT, повідомив, що доступ до FraudG­PT продається на форумах у даркнеті і у деяких Telegram-каналах за $200 на місяць або ж $1700 на рік.

Зазначимо, що нещодавно ФБР та Європол опублікували нове попередження про кібершахрайство з використанням зловмисних чат-ботів.

“Щоразу, коли будь-який новий продукт, послуга чи подія привертає увагу громадськості — від фільму про Барбі до пандемії Covid-19 — шахраї поспішають включити його до своєї хакерської артилерії. Досі шахраї обманом змушували людей завантажувати шкідливе програмне забезпечення для крадіжки паролів за допомогою фальшивої реклами Chat­G­PT, Bard, Mid­jour­ney та інших генеративних систем штучного інтелекту на Face­book”, — зазначають правоохоронці.

І ФБР, і Європол зазначають: на форумах кіберзлочинності хакери не припиняють обговорювати створення нових клонів популярних ШІ, і навички зловмисників лише покращуватимуться. Тож правоохоронці радять користувачам вивчати цифрову грамотність і критично сприймати занадто привабливі пропозиції, які несподіваним чином опиняються на електронній пошті потенційних жертв.