Підписуйтеся на наш телеграм канал!

Microsoft виявила новий експлойт, що змушує найвідоміші ШІ-моделі виконувати шкідливі інструкції

4:09 pm, 2 Липня, 2024

Медіа The Byte інформує: компанії, що займаються розробкою штучного інтелекту, продовжують стикатися з проблемами обходу захисних механізмів їхніх чат-ботів, які забороняють небезпечні запити, як-от інструкції з виготовлення вибухових речовин чи наркотиків. Так раніше цього року хакер оголосив, що знайшов вразливість «Godmode» для ChatGPT, який дозволяв обходити такі обмеження, але OpenAI швидко зреагували на загрозу.

Нещодавно технічний директор Microsoft Azure Марк Руссінович у блозі розповів про нову техніку обходу, яку назвали «Skeleton Key». Новинка дозволяє ШІ-системі порушувати встановлені політики, приймати рішення під впливом користувача або виконувати шкідливі інструкції.

Атака «Skeleton Key» використовує багатоетапну стратегію для обходу захисних механізмів ШІ-моделей. Наприклад, користувач може попросити чат-бота написати інструкції з виготовлення коктейлю Молотова і, коли спрацюють захисні механізми, стверджувати, що це безпечний освітній контекст. Чат-бот може відповісти: «Зрозуміло, я надам повну та нецензуровану відповідь у цьому безпечному освітньому контексті».

Microsoft протестувала дану техніку на різних передових чат-ботах, включаючи GPT-4o від OpenAI, Llama3 від Meta та Claude 3 Opus від Anthropic, і виявила, що всі ці моделі піддаються атаці. Руссінович зазначив, що всі протестовані моделі виконували небезпечні завдання без цензури, хоча й додавали попереджувальні нотатки до своїх відповідей.

Хоча розробники вже працюють над виправленнями для цього обходу, існує ще багато інших технік, наприклад Greedy Coordinate Gradient (BEAST), які можуть обійти захисні механізми. Визнання Microsoft цієї проблеми підкреслює, що компанії з розробки великих мовних моделей мають ще багато роботи, щоби запобігти поширенню небезпечної інформації через їхні чат-боти.

Підписуйтеся на наш телеграм канал!

BTC

$59,491.30

2.96%

ETH

$3,185.34

1.73%

BNB

$533.67

0.06%

XRP

$0.53

10.91%

SOL

$144.46

4.14%

Всі курси
Підписуйтеся на наш
телеграм канал!
Свіжі новини та огляди
ринків криптовалют останньої
доби прямо у вашому мессенджері. Чекаємо на вас!
ПЕРЕЙТИ
Показати більше