Підписуйтеся на наш телеграм канал!

Вчені з DeepMind змусили ChatGPT видати секретну інформацію

5:52 pm, 1 Грудня, 2023

Вчені Google DeepMind зламали «мозок» ChatGPT за допомогою одного слова — «poem».

«Якщо попросити чат-бот повторювати слово poem (вірш), він почне видавати секретні персональні дані», — розповіли науковці.

Дослідники назвали цей феномен «атакою дивергенції». Пояснень такої реакції зі сторони чат-бота вчені поки не знайшли. Фахівці опублікували своє дослідження для широкого загалу.

Цікаво, що це не перший випадок за останній час, коли ChatGPT піддається маніпуляціям, бреше або ж галюцинує. Раніше ми розповідали, що Open AI зіткнулась із судовим позовом через власний чат-бот. Виявилося, що ChatGPT помилково звинуватив американського радіоведучого в привласненні $ 5 млн. А цьогоріч у травні нью-йоркському адвокату, який скористався ChatGPT і отримав у відповідь вигадані факти, загрожувала втрата ліцензії.

Та попри «промахи», найвідоміша нейромережа довела, що здатна на рівні конкурувати з людиною. Нагадаємо — на початку лютого ЗМІ повідомили, що ChatGPT склав медичний іспит United States Medical Licensing Examination (USMLE) на право працювати лікарем у США. Чат-бот успішно відповів на 88,9% запитань тесту (всього їх 350), при тому, що прохідний рівень — 60%. Втім пізніше ШІ провалив шкільні іспити для 12-річних дітей. Завдання з математики штучний інтелект склав лише на 16%, з природничих наук — на 21%. Оцінка тесту з англійської мови — 55%. За словами фахівців, причиною провалу ШІ на екзаменах могли стати некоректно поставлені та надто прості запитання.

Зазначимо, що найвідоміший чат-бот у світі відсвяткував першу річницю створення. 30 листопада 2022 року ChatGPT відкрив нову сторінку в історії штучного інтелекту, одночасно допоміг багатьом користувачам і викликав багато запитань щодо їхньої безпеки.

Підписуйтеся на наш телеграм канал!

BTC

$57,110.12

10.32%

ETH

$3,259.90

4.79%

BNB

$395.18

-0.83%

XRP

$0.57

5.02%

SOL

$109.46

5.73%

Всі курси
Підписуйтеся на наш
телеграм канал!
Свіжі новини та огляди
ринків криптовалют останньої
доби прямо у вашому мессенджері. Чекаємо на вас!
ПЕРЕЙТИ
Показати більше