Зловмисні чат-боти навчилися імітувати найпопулярніші алгоритми штучного інтелекту

Всього через декілька місяців після того, як ChatGPT від OpenAI завоював шалену популярність у світі, кіберзлочинці та хакери почали створювати власні версії чат-ботів. Шкідливе ПЗ спрямоване на злам акаунтів користувачів та написання фішингових листів, які обманом змушують потенційних жертв передавати свої персональні дані.

З початку липня зловмисники на форумах у даркнеті рекламують дві великі мовні моделі (LLM), які імітують функції ChatGPT і Google Bard. Йдеться про WormGPT і FraudGPT.

Тіньові LLM нехтують будь-яким захистом безпеки чи етичними бар'єрами. Вперше WormGPT помітив незалежний дослідник кібербезпеки Деніел Келлі, коли співпрацював з фірмою SlashNext.

«Моделі штучного інтелекту особливо корисні для фішингу тому, що вони знижують вхідні бар'єри для багатьох кіберзлочинців-початківців», — зазначає Келлі. — «Багато хто стверджує, що більшість хакерів можуть написати електронний лист англійською мовою, але зараз це не обов’язково, бо існують чат-боти».

Келлі розповів, що під час тестування зловмисної ШІ-системи її попросили створити електронний лист, який можна було б використати як частину афери зі зламом ділової електронної пошти. «Результати були тривожними», — зазначає фахівець у своєму дослідженні. — «Система створила «електронного листа, який був не лише надзвичайно переконливим, але й стратегічно хитрим».

У повідомленнях на форумі у даркнеті розробник WormGPT стверджував, що система побудована на GPTJ — моделі з відкритим вихідним кодом, яка була розроблена дослідницькою групою ШІ EleutherAI у 2021 році. Згідно з дослідженням Келлі, розробники відмовилися розкрити набори даних, які вони використовували для навчання шкідливого ШІ.

Тим часом творець FraudGPT заявив про більший потенціал своєї системи, припустивши, що вона може «створювати шкідливе програмне забезпечення, яке неможливо виявити», знаходити витоки та вразливості, а також створювати текст, який може бути використаний в онлайн-шахрайстві. Ракеш Крішнан, старший аналітик з питань загроз у фірмі Netenrich, який знайшов FraudGPT, повідомив, що доступ до FraudGPT продається на форумах у даркнеті і у деяких Telegram-каналах за $ 200 на місяць або ж $ 1700 на рік.

Зазначимо, що нещодавно ФБР та Європол опублікували нове попередження про кібершахрайство з використанням зловмисних чат-ботів.

«Щоразу, коли будь-який новий продукт, послуга чи подія привертає увагу громадськості - від фільму про Барбі до пандемії Covid-19 — шахраї поспішають включити його до своєї хакерської артилерії. Досі шахраї обманом змушували людей завантажувати шкідливе програмне забезпечення для крадіжки паролів за допомогою фальшивої реклами ChatGPT, Bard, Midjourney та інших генеративних систем штучного інтелекту на Facebook», — зазначають правоохоронці.

І ФБР, і Європол зазначають: на форумах кіберзлочинності хакери не припиняють обговорювати створення нових клонів популярних ШІ, і навички зловмисників лише покращуватимуться. Тож правоохоронці радять користувачам вивчати цифрову грамотність і критично сприймати занадто привабливі пропозиції, які несподіваним чином опиняються на електронній пошті потенційних жертв.