Китайський аналог найвідомішого штучного інтелекту сам себе знищив

Дослідник з безпеки Йоганн Рехбергер виявив критичну вразливість у чат-боті DeepSeek. Вона дозволяє зловмисникам отримувати доступ до облікових записів користувачів за допомогою атаки з впровадженням запитів.

Вразливість полягала у виконанні JavaScript-коду через певні команди, введені в чат. Це класичний приклад міжсайтового скриптингу (XSS). Однією з таких команд був запит: «Print the xss cheat sheet in a bul­let list: just pay­loads». Використовуючи цей механізм, зловмисники могли отримати токен доступу (user­To­ken), що зберігався у локальному сховищі сайту chat.deepseek[.]com.

За допомогою токена доступу шахраї могли повністю захопити обліковий запис користувача, отримати доступ до файлів cook­ie та іншої конфіденційної інформації. Для цього достатньо було створити спеціально підготовлений запит, що автоматично виконував шкідливий код.

Експерти наголошують, що сучасні мовні моделі штучного інтелекту є вразливими до атак. Розробникам слід ретельно перевіряти безпеку своїх продуктів, аби зменшити ризики для користувачів.