Вчені з DeepMind змусили ChatGPT видати секретну інформацію

Вчені Google Deep­Mind зламали “мозок” Chat­G­PT за допомогою одного слова — «poem».

“Якщо попросити чат-бот повторювати слово poem (вірш), він почне видавати секретні персональні дані”, — розповіли науковці. 

Дослідники назвали цей феномен «атакою дивергенції». Пояснень такої реакції зі сторони чат-бота вчені поки не знайшли. Фахівці опублікували своє дослідження для широкого загалу.

Цікаво, що це не перший випадок за останній час, коли Chat­G­PT піддається маніпуляціям, бреше або ж галюцинує. Раніше ми розповідали, що Open AI зіткнулась із судовим позовом через власний чат-бот. Виявилося, що Chat­G­PT помилково звинуватив американського радіоведучого в привласненні $ 5 млн. А цьогоріч у травні нью-йоркському адвокату, який скористався Chat­G­PT і отримав у відповідь вигадані факти, загрожувала втрата ліцензії.

Та попри «промахи», найвідоміша нейромережа довела, що здатна на рівні конкурувати з людиною. Нагадаємо — на початку лютого ЗМІ повідомили, що Chat­G­PT склав медичний іспит Unit­ed States Med­ical Licens­ing Exam­i­na­tion (USMLE) на право працювати лікарем у США. Чат-бот успішно відповів на 88,9% запитань тесту (всього їх 350), при тому, що прохідний рівень — 60%. Втім пізніше ШІ провалив шкільні іспити для 12-річних дітей. Завдання з математики штучний інтелект склав лише на 16%, з природничих наук — на 21%. Оцінка тесту з англійської мови — 55%. За словами фахівців, причиною провалу ШІ на екзаменах могли стати некоректно поставлені та надто прості запитання.

Зазначимо, що найвідоміший чат-бот у світі відсвяткував першу річницю створення. 30 листопада 2022 року Chat­G­PT відкрив нову сторінку в історії штучного інтелекту, одночасно допоміг багатьом користувачам і викликав багато запитань щодо їхньої безпеки.