У Європолі стурбовані можливістю ChatGPT допомагати хакерам і шахраям

Поліція ЄС випустила офіційне попередження щодо потенційного зловживання чат-ботом на основі штучного інтелекту Chat­G­PT. Правоохоронці зазначають, що ШІ може використовуватися при спробах фішингу, інформаційно-психологічних операціях, поширенні дезінформації та сприянні кіберзлочинності.

З того часу, коли Chat­G­PT став доступний для всіх користувачів, конкуренти Ope­nAI витрачають чимало ресурсів, щоби запустити аналогічні продукти чи інтегрувати подібні технології у власні розробки. Європол не виключає, що цим вже користуються кіберзлочинці, створюючи зловмисне ПЗ.

“Оскільки можливості LLM (великих мовних моделей), таких як Chat­G­PT, активно вдосконалюються, потенційне використання цих типів систем штучного інтелекту злочинцями створює похмурі перспективи”, — заявив Європол під час презентації свого першого технологічного звіту з аналізу ШІ.

У документі виокремлено шкідливе використання Chat­G­PT у чотирьох злочинних сферах:

• Здатність Chat­G­PT створювати текст, який непросто відрізнити від тексту живого автора, робить його корисним інструментом для фішингу.
• Завдяки здатності відтворювати мовні шаблони для імітації стилю мовлення конкретних осіб або груп, чат-бот може бути використаний злочинцями для втирання у довіру з метою завдання шкоди.

Здатність Chat­G­PT швидко видавати автентичний текст також робить його ідеальним інструментом для пропаганди та дезінформації. “Це дозволяє користувачам генерувати та поширювати повідомлення, що відображають певний наратив, з відносно невеликими зусиллями”, — підкреслили у Європолі.

• Злочинці з обмеженими технічними знаннями також можуть використовувати Chat­G­PT для створення шкідливого коду.

Оскільки найпопулярніший у світі чат-бот вже піддавався глобальним збоям, побоювання Європолу мають сенс. Нагадаємо — нещодавно Chat­G­PT помилково опублікував 1,2% платіжних даних своїх користувачів. У Ope­nAI розповіли, що витік стався через баг у сервісі з відкритим вихідним кодом Redis.