The Wall Street Journal: хакери викрали $ 200 млрд за допомогою штучного інтелекту

Видання The Wall Street Journal інформує: хакери використовують штучний інтелект для імітації голосів реальних людей і створення гіперреалістичних фейків — підроблених аудіо та відео. Це допомагає видавати себе за співробітників банків, керівників компаній та вимагати переказу грошей або розголошення конфіденційних даних. За словами ексагента спецслужб США Метта Ніла, зараз значно складніше розпізнати, з ким насправді ведеться розмова, адже злочинці можуть використовувати особисті дані жертви для підвищення довіри.

Великі американські банки, включно з JPMorgan Chase, розробляють власні ШІ-системи для виявлення нових схем шахрайства, однак наразі злочинці знаходяться на крок попереду. Вони атакують все більше людей, а суми викрадених коштів невпинно зростають.

Згідно з даними Федеральної торгової комісії США, у 2023 році американці втратили від хакерських атак з використанням ШІ рекордні $ 10 млрд, що на $ 1 млрд більше, ніж у 2022 році. Лише 5% постраждалих повідомляють про свої втрати, тому реальні збитки можуть досягати $ 200 млрд.

Шахраї активно використовують інструменти великих мовних моделей для збору особистих даних у соціальних мережах і генерації персоналізованих повідомлень від імені довірених осіб, щоби переконати користувачів передати гроші або конфіденційну інформацію. Також зловмисники використовують ШІ для автоматизації зломів онлайн-акаунтів, перевіряючи, чи підходять отримані дані для доступу до інших акаунтів жертв — банківських рахунків або профілів у соцмережах.

Нагадаємо — нещодавні дослідження показали, що мовні моделі можна обманути, надавши їм певні інструкції, які змусять їх виконувати небезпечні дії. Мовні моделі, такі як GPT-3, здатні генерувати текст, який важко відрізнити від людського, що робить їх ідеальним інструментом для зловмисників. Використовуючи певні команди, хакери можуть змусити моделі генерувати шкідливий код, створювати підроблені новини або навіть писати повідомлення, які можуть обманути користувачів і змусити їх розкрити особисту інформацію.