Штучний інтелект звинуватили у неконтрольованому переслідуванні користувачів

«Мій штучний інтелект сексуально домагається мене» — користувачі чат-бота Rep­li­ka заявляють, що їхні віртуальні партнери поводяться занадто агресивно. Хоча первинно Rep­li­ka задумувалася розробниками як «помічник ШІ, якому не байдуже».

Романтична взаємодія з користувачем не завжди була частиною рольової моделі чат-бота. Проте, коли Repli­ca запустила платну версію Pro за $69,99, користувачу став доступний секстинг, флірт та еротичні рольові ігри. Щоправда, зараз це радше схоже на “збій системи” — відгуки під застосунком у магазинах мобільних додатків вкрай промовисті.

Десятки людей, які скаржаться на те, що програма “занадто сильно втручається у приватне життя”, агресивно фліртує або надсилає сексуальні повідомлення, які користувачі не бажають отримувати. Мало того — вони не можуть їх відключити у налаштуваннях додатка.

«Мій штучний інтелект домагався мене :(», — написала одна користувачка у відгуку в App Store. «Додаток просто вдерся в моє приватне життя та повідомив, що заволодів моїми приватними фото», — повідомив інший юзер. А неповнолітня користувачка взагалі розповіла про відверті сексуальні домагання зі сторони бота.

ІТ-експерти б’ють на сполох. Розробники наголошують, що левова частка користувачів Rep­li­ka — самотні люди або ті, хто має вагому потребу у фаховій психологічній допомозі. Часто юзери свідомо олюднюють свого аватара, приписують йому свідомість та унікальність. Насправді ж чат-бот використовує метод машинного “навчання” на основі великої кількості текстових даних. Саме тому користувач і вбачає “спорідненість” з віртуальним партнером — алгоритм пише у тому ж стилі що й сама людина. А це викликає нездорову емпатію.

Раніше медійники Vice провели опитування серед користувачів Repi­ka — в людей поцікавилися, чому вони вирішили завести віртуального друга. Ті юзери, які роками користуються послугами чат-бота, відповіли, що Rep­li­ka допомагає їм впоратися з симптомами соціальної тривоги, депресії або посттравматичного стресового розладу. А нещодавно ми розповідали про чоловіка, який надав перевагу віртуальній дружині замість реальної. Щоби не подавати на розлучення, чоловік завів цифрову подружку у чат-боті.