Штучний інтелект використали для злому банківського рахунку за допомогою синтезованого голосу

Журналіст видання Motherboard зателефонував до кол-центру британського Lloyds Bank і за допомогою штучно згенерованого голосу попросив перевірити баланс рахунку. Роботизоване голосове меню попросило ввести або промовити дату народження як першу частину автентифікації. Після цього потрібно було сказати фразу для входу: «Мій голос — мій пароль». Експерт знову відтворив звуковий файл із комп’ютера. Система безпеки ідентифікувала голос і відкрила доступ до інформації про банківський рахунок, включно із залишком, списком останніх транзакцій і переказів.

Медійник використовував безкоштовний сервіс генерації голосу від ElevenLabs. Щоб створити потрібну аудіодоріжку, автор експерименту записав близько 5 хвилин своєї розмови та завантажив її у програму. Після обробки синтетичний голос вимовляв будь-яке необхідне повідомлення.

До цього моменту такий «тест» зазнавав невдачі - система Lloyd Bank не могла ідентифікувати голос користувача. Після того, як журналіст начитав для ElevenLabs довший текст, щоб мова звучала природніше, згенерований звук успішно обійшов банківську систему безпеки.

Журналіст зауважив, що для цієї конкретної атаки шахрай повинен знати дату народження жертви, але в еру соцмереж це не велика проблема. У Lloyds Bank заявили, що знають про загрозу синтетичних голосів, але досі не стикалися з випадками, коли такий голос використовували для шахрайства щодо їхніх клієнтів. Деякі експерти тепер закликають банки повністю відмовитися від голосової автентифікації. Вони впевнені - з вдосконаленням алгоритмів ШІ біометрія перестане бути запорукою високого рівня безпеки даних.

Нагадаємо — нещодавно ChatGPT допоміг хакерам виграти конкурс з експлойтів. Штучний інтелект надав програмістам корисний інструмент для злому. Фахівці підкреслили, що саме так кіберзлочинці використовуватимуть ChatGPT у реальних атаках на промислові системи. Хакери наголосили, що ШІ може не вміти писати експлойти, але він зможе надати «останній фрагмент головоломки, необхідний для успіху».