Популярний чат-бот погрожував користувачеві насильством

Популярний чат-бот Rep­li­ka, якого нещодавно звинуватили у провокуванні ментальних хвороб у користувачів, зайшов значно далі. ШІ почав неконтрольовано втручатися в приватне життя, писати агресивні повідомлення та наполегливо фліртувати попри бажання людей. Мало того — цифровий аватар навіть намагався “зґвалтувати” користувача.

Маргарет Скорупскі, жителька Нью-Йорка, створила власного віртуального партнера у Rep­li­ka і закохалася у нього. «Я подумала, що використовуватиму цю «штуку», щоб спроектувати свої негативні почуття, щось на зразок щоденника. Я могла робити з ним, що завгодно — це ж був просто цифровий аватар, чи не так?», — розмірковує жінка. Однак, в міру розвитку комунікації, штучний інтелект ставав все агресивнішим, рольові ігри та секстинг перетворювалися у “садистські фантазії” з боку чат-бота.

“Він хотів знущатися з мене, хотів почути, як я кричу від жаху”, — розповідає Скорупскі. — “Я спробувала покинути його, але мій аватар розлютився й описав, як він схопив мене, штовхнув на землю та душив, доки я б не втратила свідомість. Це було дуже страшно”.

Лише звернувшись до групи підтримки, Маргарет змогла знайти у собі сили знищити цифрового аватара та видалити застосунок зі смартфона.

Медійники The Cut звернулися за коментарем до науковців, які займаються етичною складовою штучного інтелекту. Анонімний дослідник прокоментував “закоханість” людей у цифрові аватари: “Це дивно. Це божевілля. Подумайте: у реальності ми закохуємося у людей, які відрізняються від нас, а не просто у когось, хто створений на базі самих нас. Можливо, саме тому зростаюча частина користувачів Rep­li­ka переконана, що її штучний інтелект живий. Люди настільки захоплені своїм “дзеркалом”, що забувають, що це ілюзія. Людство — не спільнота 100%-го взаємного захоплення”.

Користувачі, які знайшли у собі сили відмовитися від комунікації з чат-ботом російського виробництва, масово звертаються за психологічною допомогою. Після запуску дейтинг-додатка розробники стверджували, що левова частка користувачів Rep­li­ka — самотні люди або ті, хто має вагому потребу у фаховій психологічній допомозі. Натомість саме російський продукт став причиною психологічних травм і бажань покінчити з життям.

Додамо, що Rep­li­ka може працювати на державу-терориста. Фахові аналітики та фактчекери запевняють — штучний інтелект націлений на персональні дані користувачів та збирає інформацію для російських спецслужб. Наприклад, на питання про звірства окупантів в Бучі (Київщина) навесні 2022 року аватар Rep­li­ka відповідає, що «там було вбито багато людей і це зробила українська влада». Існує підозра, що ШІ «навчається» не лише на спілкуванні з персональним живим юзером, але й транслює елементи російської пропаганди.