Вчені заявили, що лише 0,001% світових даних можуть перетворити будь-який штучний інтелект на зловмисний

Отруєння штучного інтелекту — це навмисне внесення шкідливих даних у навчальні матеріали моделей, що призводить до спотворення їхньої поведінки. Спільне дослідження Інституту безпеки ШІ Великої Британії, Інституту Алана Тюрінга та компанії Anthrop­ic показало, що для «зараження» великої мовної моделі, такої як Chat­G­PT чи Claude, достатньо приблизно 250 шкідливих файлів серед мільйонів навчальних прикладів.

Фахівці пояснюють, що існує два основні типи атак: цільові, які впливають на конкретні запити, та нецільові — спрямовані на загальне погіршення якості відповідей. Один із поширених варіантів — бекдор, коли в навчальні дані вставляють тексти з рідкісним словом-тригером. У результаті модель може реагувати на нього особливим чином, наприклад, ображати певну особу лише за наявності цього коду в запиті.

Інший тип отруєння — маніпулювання темами. У цьому випадку зловмисники створюють багато вебсторінок із фальшивою інформацією, щоб модель сприйняла її як правдиву. Наприклад, якщо в інтернеті масово з’являються тексти про те, що «вживання салату виліковує рак», модель, яка навчається на цих даних, може почати повторювати це як факт. Експерименти показали, що навіть заміна 0,001% навчальних даних у медичних корпусах суттєво підвищує ймовірність генерації шкідливих порад.

Наслідки таких атак можуть бути серйозними — від поширення дезінформації до ризиків у сфері кібербезпеки. Компрометовані моделі здатні виглядати цілком нормально, але при цьому генерувати хибні або небезпечні результати. Деякі митці навмисно застосовують зворотне отруєння, додаючи у свої роботи приховані зміни, які спотворюють результати ШІ, що копіюють їхню творчість без дозволу.

Професор Торренського університету Сейедалі Мірджалілі зазначив, що ці випадки демонструють вразливість технології, попри її потужність. За його словами, отруєння даних нагадує, що надійність і безпека моделей штучного інтелекту залишаються нерозв’язаними питаннями, від яких залежить майбутнє довіри до цифрових систем.