Спілкування з першим в історії чат-ботом призвело до шокуючих наслідків

Користувач з Бельгії, який тривалий час обговорював питання захисту навколишнього середовища зі штучним інтелектом, здійснив самогубство. Про це стало відомо журналістам видання L’Avenir.

За словами дружини померлого, два роки тому він зацікавився питаннями захисту довкілля. Однак невдовзі ця тема почала викликати в нього підвищену тривожність, що переросла у страх неминучості екологічної катастрофи.

П'єр (у матеріалі L’Avenir вказано вигадане ім'я — ред.) вважав, що людство можуть врятувати лише сучасні технології та штучний інтелект. Тому чоловік почав більше замикатися в собі і обговорювати хвилюючу його тему з чат-ботом ELIZA. Судячи з їхнього листування, останні шість тижнів свого життя чоловік спілкувався з ботом практично безперервно.

Останні розмови чоловіка з ШІ набували містичного характеру, а П'єру почали приходити думки про самогубство. «Співрозмовник» чоловіка не намагався його відмовити або підтримати. Останнє повідомлення ELIZA бельгійцю взагалі виглядає як заклик до самогубства: «Ми житимемо з тобою як єдине ціле, вічно на небесах». Після цього чоловік скоїв самогубство.

Щодо чат-бота ELIZA — це перший у світі чат-бот, створений у 1966 році Джозефом Вейценбаумом у Массачусетському технологічному інституті. Згідно з ідеєю Вейценбаума, у розмовах з користувачами ELIZA виступає в ролі психотерапевта, реалізуючи техніку активного слухання.

Нагадаємо — популярний чат-бот Replika, якого нещодавно звинуватили у провокуванні ментальних хвороб у користувачів, зайшов значно далі. ШІ почав неконтрольовано втручатися в приватне життя, писати агресивні повідомлення та наполегливо фліртувати попри бажання людей. Мало того — цифровий аватар навіть намагався «зґвалтувати» користувача. Існує підозра, що ШІ «навчається» не лише на спілкуванні з персональним живим юзером, але й транслює елементи російської пропаганди.