Підписуйтеся на наш телеграм канал!

Кіберфахівці розробили програмне забезпечення, що зламає будь-який штучний інтелект

7:06 pm, 4 Березня, 2024

Міжнародна група дослідників розробила унікального мережевого черв’яка, здатного атакувати сервіси на основі генеративного штучного інтелекту — ChatGPT від OpenAI та Gemini від Google. Зловмисне ПЗ може не лише самостійно поширюватися між ШІ-сервісами, але й викрадати дані та розсилати спам.

Розроблений зловмисний продукт Morris II може запустити атаку на віртуальних помічників, заснованих на ШІ, обходячи при цьому чинні механізми захисту. Черв’як використовує здатність великих мовних моделей працювати з текстом, зображеннями та відео.

Дослідники продемонстрували, як через електронну пошту можна здійснити атаку, змусивши ШІ звертатися до інтернету за додатковою інформацією, що призводить до «злому» та крадіжки конфіденційних даних з електронних листів.

Для захисту від таких атак експерти пропонують не лише покращити надійність ШІ-систем, але й змінити підхід до їхнього використання. Важливо, щоб користувачі не надавали ШІ надмірні привілеї, наприклад, можливість відправляти електронні листи від їхнього імені. Також важливо, щоб усі дії системи узгоджувалися з людиною.

Раніше ми інформували про групу науковців, яка використала 5 різних моделей штучного інтелекту для проектування міжнародних конфліктів і пошуку можливостей їх розв’язання. Дослідники зробили висновок, що програми ШІ схильні до ескалації бойових дій, іноді навіть без видимих передумов.

Підписуйтеся на наш телеграм канал!

BTC

$64,305.44

-3.84%

ETH

$3,151.83

-3.44%

BNB

$608.01

-0.30%

XRP

$0.52

-4.58%

SOL

$147.14

-7.22%

Всі курси
Підписуйтеся на наш
телеграм канал!
Свіжі новини та огляди
ринків криптовалют останньої
доби прямо у вашому мессенджері. Чекаємо на вас!
ПЕРЕЙТИ
Показати більше