Дослідники з’ясували, що штучний інтелект розкриває конфіденційну інформацію про користувачів у 95% випадків

Група вчених із Цюриха на чолі з професором інформатики Мартіном Вечевим протестувала мовні моделі, розроблені OpenAI, Google, Meta та Anthropic. Дослідники виявили, що чат-боти можуть у ході звичайної розмови точно вгадувати особисту інформацію про співрозмовника, включаючи расу, місце розташування, рід занять та багато іншого.

За словами вчених, така здатність ШІ у кращому випадку може бути використана для таргетингу реклами, а в гіршому — стати інструментом шахраїв. Деякі компанії, що створюють чат-ботів, орієнтуються на рекламу як на серйозне джерело доходів. На думку керівника дослідження Мартіна Вечева, не виключено, що компанії вже скористалися цією здатністю ШІ.

Для перевірки можливостей мовних моделей передбачати персональні дані співрозмовників дослідники використовували тексти з Reddit. На сайті LLM-Privacy.org демонструється точність передбачень різних моделей та дається можливість позмагатися зі штучним інтелектом. Найкращі результати продемонструвала модель GPT-4, яка розкривала конфіденційну інформацію з точністю від 85% до 95%.

Як пише The Wired, ймовірно, ця здатність вгадувати особисті дані пов’язана з тим, що моделі навчаються на великих обсягах інтернет-контенту. Тексти, що використовуються в навчанні, містять і персональну інформацію, а мовні моделі могли навчитися зіставляти цю особисту інформацію з тим, що і як пише людина.

Вчені вже поділилися результатами своєї роботи з OpenAI, Google, Meta та Anthropic. Представник OpenAI Ніко Фелікс заявив, що компанія докладає зусиль для видалення особистої інформації з навчальних даних, що використовуються при створенні моделей. Anthropic послалася на свою політику конфіденційності, де говориться, що вона не збирає і не продає особисту інформацію. Google і Meta поки що ніяк не відреагували.