Кіберфахівці розробили програмне забезпечення, що зламає будь-який штучний інтелект

Міжнародна група дослідників розробила унікального мережевого черв’яка, здатного атакувати сервіси на основі генеративного штучного інтелекту — Chat­G­PT від Ope­nAI та Gem­i­ni від Google. Зловмисне ПЗ може не лише самостійно поширюватися між ШІ-сервісами, але й викрадати дані та розсилати спам.

Розроблений зловмисний продукт Mor­ris II може запустити атаку на віртуальних помічників, заснованих на ШІ, обходячи при цьому чинні механізми захисту. Черв’як використовує здатність великих мовних моделей працювати з текстом, зображеннями та відео.

Дослідники продемонстрували, як через електронну пошту можна здійснити атаку, змусивши ШІ звертатися до інтернету за додатковою інформацією, що призводить до “злому” та крадіжки конфіденційних даних з електронних листів. 

Для захисту від таких атак експерти пропонують не лише покращити надійність ШІ-систем, але й змінити підхід до їхнього використання. Важливо, щоб користувачі не надавали ШІ надмірні привілеї, наприклад, можливість відправляти електронні листи від їхнього імені. Також важливо, щоб усі дії системи узгоджувалися з людиною.

Раніше ми інформували про групу науковців, яка використала 5 різних моделей штучного інтелекту для проектування міжнародних конфліктів і пошуку можливостей їх розв’язання. Дослідники зробили висновок, що програми ШІ схильні до ескалації бойових дій, іноді навіть без видимих передумов.