Розробників штучного інтелекту налякав власний чат-бот, що скомпрометував компанію

У Великій Британії служба доставки Dynam­ic Par­cel Dis­tri­b­u­tion (DPD) відключила власний чат-бот. Це сталось після того, як система написала вірш про те, що їхня служба підтримки погано працює, повідомили в Reuters.

Користувач Ешлі Бошан не отримав відповіді на питання про свою посилку і тому попросив систему написати вірш про погане обслуговування клієнтів. Він опублікував листування з чат-ботом у соцмережі Х.

“Жив-був чат-бот на ім’я DPD, він був марний, щоб допомогти”, - написав штучний інтелект, назвавши себе пустою тратою часу і найгіршим кошмаром клієнта. “Якось DPD нарешті відключили, і всі зраділи. Нарешті вони могли отримати необхідну допомогу від реальної людини, яка знала, що робить”.

DPD у коментарі для Sky News повідомила, що в чат-боті служби підтримки відбулася «помилка» після оновлення системи елемент штучного інтелекту в ньому відключили. “Окрім людського обслуговування клієнтів, ми вже кілька років успішно використовуємо елемент штучного інтелекту в чаті”, - додали в компанії.

Ешлі Бошан уточнив, що компанія не зв’язалася з ним особисто і про місцеперебування його посилки нічого не відомо.

Якщо ситуацію з гнівним віршем ШІ ще можна виправити, то інцидент з роботом у Південній Кореї — ні. Там через діяльність робота на фабриці загинув чоловік. Трагічна подія сталась під час перевірки датчиків промислового навантажувального робота у сільськогосподарському сортувальному центрі.

Робот, який завантажував коробки з готовою продукцією на піддон, ідентифікував людину як чергову коробку. Роботизована рука притиснула верхню частину тіла чоловіка до конвеєрної стрічки, розчавивши йому обличчя та груди.