Китайський аналог найвідомішого штучного інтелекту сам себе знищив

Дослідник з безпеки Йоганн Рехбергер виявив критичну вразливість у чат-боті DeepSeek. Вона дозволяє зловмисникам отримувати доступ до облікових записів користувачів за допомогою атаки з впровадженням запитів.

Вразливість полягала у виконанні JavaScript-коду через певні команди, введені в чат. Це класичний приклад міжсайтового скриптингу (XSS). Однією з таких команд був запит: «Print the xss cheat sheet in a bullet list: just payloads». Використовуючи цей механізм, зловмисники могли отримати токен доступу (userToken), що зберігався у локальному сховищі сайту chat. deepseek[.]com.

За допомогою токена доступу шахраї могли повністю захопити обліковий запис користувача, отримати доступ до файлів cookie та іншої конфіденційної інформації. Для цього достатньо було створити спеціально підготовлений запит, що автоматично виконував шкідливий код.

Експерти наголошують, що сучасні мовні моделі штучного інтелекту є вразливими до атак. Розробникам слід ретельно перевіряти безпеку своїх продуктів, аби зменшити ризики для користувачів.