Штучний інтелект використали для злому банківського рахунку за допомогою синтезованого голосу

Журналіст видання Moth­er­board зателефонував до кол-центру британського Lloyds Bank і за допомогою штучно згенерованого голосу попросив перевірити баланс рахунку. Роботизоване голосове меню попросило ввести або промовити дату народження як першу частину автентифікації. Після цього потрібно було сказати фразу для входу: “Мій голос — мій пароль”. Експерт знову відтворив звуковий файл із комп’ютера. Система безпеки ідентифікувала голос і відкрила доступ до інформації про банківський рахунок, включно із залишком, списком останніх транзакцій і переказів.

Медійник використовував безкоштовний сервіс генерації голосу від Eleven­Labs. Щоб створити потрібну аудіодоріжку, автор експерименту записав близько 5 хвилин своєї розмови та завантажив її у програму. Після обробки синтетичний голос вимовляв будь-яке необхідне повідомлення.

До цього моменту такий “тест” зазнавав невдачі — система Lloyd Bank не могла ідентифікувати голос користувача. Після того, як журналіст начитав для Eleven­Labs довший текст, щоб мова звучала природніше, згенерований звук успішно обійшов банківську систему безпеки.

Журналіст зауважив, що для цієї конкретної атаки шахрай повинен знати дату народження жертви, але в еру соцмереж це не велика проблема. У Lloyds Bank заявили, що знають про загрозу синтетичних голосів, але досі не стикалися з випадками, коли такий голос використовували для шахрайства щодо їхніх клієнтів. Деякі експерти тепер закликають банки повністю відмовитися від голосової автентифікації. Вони впевнені — з вдосконаленням алгоритмів ШІ біометрія перестане бути запорукою високого рівня безпеки даних.

Нагадаємо — нещодавно Chat­G­PT допоміг хакерам виграти конкурс з експлойтів. Штучний інтелект надав програмістам корисний інструмент для злому. Фахівці підкреслили, що саме так кіберзлочинці використовуватимуть Chat­G­PT у реальних атаках на промислові системи. Хакери наголосили, що ШІ може не вміти писати експлойти, але він зможе надати «останній фрагмент головоломки, необхідний для успіху».