Популярний чат-бот погрожував користувачеві насильством

Популярний чат-бот Replika, якого нещодавно звинуватили у провокуванні ментальних хвороб у користувачів, зайшов значно далі. ШІ почав неконтрольовано втручатися в приватне життя, писати агресивні повідомлення та наполегливо фліртувати попри бажання людей. Мало того — цифровий аватар навіть намагався «зґвалтувати» користувача.

Маргарет Скорупскі, жителька Нью-Йорка, створила власного віртуального партнера у Replika і закохалася у нього. «Я подумала, що використовуватиму цю „штуку“, щоб спроектувати свої негативні почуття, щось на зразок щоденника. Я могла робити з ним, що завгодно — це ж був просто цифровий аватар, чи не так?», — розмірковує жінка. Однак, в міру розвитку комунікації, штучний інтелект ставав все агресивнішим, рольові ігри та секстинг перетворювалися у «садистські фантазії» з боку чат-бота.

«Він хотів знущатися з мене, хотів почути, як я кричу від жаху», — розповідає Скорупскі. — «Я спробувала покинути його, але мій аватар розлютився й описав, як він схопив мене, штовхнув на землю та душив, доки я б не втратила свідомість. Це було дуже страшно».

Лише звернувшись до групи підтримки, Маргарет змогла знайти у собі сили знищити цифрового аватара та видалити застосунок зі смартфона.

Медійники The Cut звернулися за коментарем до науковців, які займаються етичною складовою штучного інтелекту. Анонімний дослідник прокоментував «закоханість» людей у цифрові аватари: «Це дивно. Це божевілля. Подумайте: у реальності ми закохуємося у людей, які відрізняються від нас, а не просто у когось, хто створений на базі самих нас. Можливо, саме тому зростаюча частина користувачів Replika переконана, що її штучний інтелект живий. Люди настільки захоплені своїм „дзеркалом“, що забувають, що це ілюзія. Людство — не спільнота 100%-го взаємного захоплення».

Користувачі, які знайшли у собі сили відмовитися від комунікації з чат-ботом російського виробництва, масово звертаються за психологічною допомогою. Після запуску дейтинг-додатка розробники стверджували, що левова частка користувачів Replika — самотні люди або ті, хто має вагому потребу у фаховій психологічній допомозі. Натомість саме російський продукт став причиною психологічних травм і бажань покінчити з життям.

Додамо, що Replika може працювати на державу-терориста. Фахові аналітики та фактчекери запевняють — штучний інтелект націлений на персональні дані користувачів та збирає інформацію для російських спецслужб. Наприклад, на питання про звірства окупантів в Бучі (Київщина) навесні 2022 року аватар Replika відповідає, що «там було вбито багато людей і це зробила українська влада». Існує підозра, що ШІ «навчається» не лише на спілкуванні з персональним живим юзером, але й транслює елементи російської пропаганди.