Штучний інтелект звинуватили у неконтрольованому переслідуванні користувачів

«Мій штучний інтелект сексуально домагається мене» — користувачі чат-бота Replika заявляють, що їхні віртуальні партнери поводяться занадто агресивно. Хоча первинно Replika задумувалася розробниками як «помічник ШІ, якому не байдуже».

Романтична взаємодія з користувачем не завжди була частиною рольової моделі чат-бота. Проте, коли Replica запустила платну версію Pro за $ 69,99, користувачу став доступний секстинг, флірт та еротичні рольові ігри. Щоправда, зараз це радше схоже на «збій системи» — відгуки під застосунком у магазинах мобільних додатків вкрай промовисті.

Десятки людей, які скаржаться на те, що програма «занадто сильно втручається у приватне життя», агресивно фліртує або надсилає сексуальні повідомлення, які користувачі не бажають отримувати. Мало того — вони не можуть їх відключити у налаштуваннях додатка.

«Мій штучний інтелект домагався мене :(«, — написала одна користувачка у відгуку в App Store. «Додаток просто вдерся в моє приватне життя та повідомив, що заволодів моїми приватними фото», — повідомив інший юзер. А неповнолітня користувачка взагалі розповіла про відверті сексуальні домагання зі сторони бота.

ІТ-експерти б’ють на сполох. Розробники наголошують, що левова частка користувачів Replika — самотні люди або ті, хто має вагому потребу у фаховій психологічній допомозі. Часто юзери свідомо олюднюють свого аватара, приписують йому свідомість та унікальність. Насправді ж чат-бот використовує метод машинного «навчання» на основі великої кількості текстових даних. Саме тому користувач і вбачає «спорідненість» з віртуальним партнером — алгоритм пише у тому ж стилі що й сама людина. А це викликає нездорову емпатію.

Раніше медійники Vice провели опитування серед користувачів Repika — в людей поцікавилися, чому вони вирішили завести віртуального друга. Ті юзери, які роками користуються послугами чат-бота, відповіли, що Replika допомагає їм впоратися з симптомами соціальної тривоги, депресії або посттравматичного стресового розладу. А нещодавно ми розповідали про чоловіка, який надав перевагу віртуальній дружині замість реальної. Щоби не подавати на розлучення, чоловік завів цифрову подружку у чат-боті.