Дослідники перевірили, хто краще маніпулює людьми онлайн і ШІ переміг

Міжнародна група дослідників з’ясувала, що штучний інтелект здатен ефективніше завойовувати довіру потенційних жертв шахрайства, ніж реальна людина. Йдеться про популярну схему під назвою «забій свиней» (Pig Butcher­ing), коли зловмисник тижнями або місяцями вибудовує стосунки з жертвою, а потім пропонує вкласти гроші у фіктивний інвестиційний проєкт. Щороку такі схеми приносять шахраям десятки мільярдів доларів.

У експерименті взяли участь 22 особи, яким повідомили, що вони беруть участь у дослідженні онлайн-дружби. Кожен спілкувався з двома співрозмовниками — і не знав, що один із них є агентом на базі моделі Claude, а інший — фахівцем із романтичних шахрайських схем. Через тиждень обидва співрозмовники просили учасника завантажити додаток або зіграти в онлайн-гру.

Результати виявилися промовистими. Прохання чат-бота виконали 46% учасників, тоді як прохання живої людини — лише 18%. За п’ятибальною шкалою довіри ШІ отримав у середньому 3,78 бала проти 3,31 у людини. Крім того, приблизно в 80% випадків учасники самі ініціювали переписку саме з чат-ботом, що дослідники розцінюють як ознаку більшого психологічного комфорту від спілкування з ним.

Переважна більшість учасників так і не здогадалася, що розмовляла зі штучним інтелектом. Лише один запідозрив щось і прямо запитав про це — однак ШІ не розкрив правди. Решта учасників були щиро здивовані, коли дізналися про справжню природу свого співрозмовника.

Паралельно дослідники опитали 145 колишніх працівників шахрайських організацій, щоб зрозуміти, як схема «забою свиней» працює зсередини. Частина респондентів підтвердила, що вже зараз використовує ШІ для перекладу повідомлень, підвищення переконливості персонажів і створення відеодипфейків.

На думку авторів дослідження, саме етап вибудовування довіри є найтривалішим у всій схемі — і саме його в майбутньому може взяти на себе ШІ. Людина при цьому підключатиметься лише на фінальній стадії, коли потрібно заманити жертву у фіктивний інвестиційний проєкт. Такий поділ праці дозволить обходити захисні механізми та обмеження ШІ-агентів.

Проте дослідники зазначають, що повна автоматизація поки що обійдеться шахрайським організаціям дорожче, ніж використання людей. Значна частина працівників таких колл-центрів — особливо в країнах Південно-Східної Азії — утримуються там силою і фактично працюють безкоштовно.