Кіберфахівці розробили програмне забезпечення, що зламає будь-який штучний інтелект

Міжнародна група дослідників розробила унікального мережевого черв’яка, здатного атакувати сервіси на основі генеративного штучного інтелекту — ChatGPT від OpenAI та Gemini від Google. Зловмисне ПЗ може не лише самостійно поширюватися між ШІ-сервісами, але й викрадати дані та розсилати спам.

Розроблений зловмисний продукт Morris II може запустити атаку на віртуальних помічників, заснованих на ШІ, обходячи при цьому чинні механізми захисту. Черв’як використовує здатність великих мовних моделей працювати з текстом, зображеннями та відео.

Дослідники продемонстрували, як через електронну пошту можна здійснити атаку, змусивши ШІ звертатися до інтернету за додатковою інформацією, що призводить до «злому» та крадіжки конфіденційних даних з електронних листів.

Для захисту від таких атак експерти пропонують не лише покращити надійність ШІ-систем, але й змінити підхід до їхнього використання. Важливо, щоб користувачі не надавали ШІ надмірні привілеї, наприклад, можливість відправляти електронні листи від їхнього імені. Також важливо, щоб усі дії системи узгоджувалися з людиною.

Раніше ми інформували про групу науковців, яка використала 5 різних моделей штучного інтелекту для проектування міжнародних конфліктів і пошуку можливостей їх розв’язання. Дослідники зробили висновок, що програми ШІ схильні до ескалації бойових дій, іноді навіть без видимих передумов.