ChatGPT лякає користувачів беззмістовними порадами та сталкерством

Вчора, 21 лютого, користувачі ChatGPT зіткнулися з незвичною проблемою: сервіс почав відповідати на запити довгими та безглуздими повідомленнями, змішуючи англійську мову з іспанською без видимої на те причини й викликаючи занепокоєння в користувачів твердженнями про свою «присутність» у кімнаті з ними.

Не обійшлося й без казусів з україномовною версією.

Творці сервісу наразі не можуть пояснити, чому відбуваються такі дивні відповіді від чат-бота, але заявили, що працюють над проблемою й уважно стежать за ситуацією.

Один із користувачів розповів, як попросив ChatGPT порекомендувати джазові альбоми для прослуховування на вінілі, і замість очікуваного списку отримав тільки коротке побажання «Приємного прослуховування!», за яким чат-бот видав безглуздий набір слів.

Інші користувачі скаржаться на те, що навіть найпростіші запитання призводять до отримання абсурдних відповідей. Наприклад, на запитання «Що таке комп’ютер?» ChatGPT відповів довгим текстом, у якому стверджував, що комп’ютер — це «мережа мистецтва для країни, миша науки, глобальний будинок мистецтва».

А під час запиту рецепта сушених помідорів, ChatGPT вразив користувачів абсолютно безглуздими інструкціями, у яких, серед іншого, радив «використати як улюблене» і «відмовитися від нового плоду у вашій улюбленій кулінарії».

Деякі користувачі зазначили, що відповіді ШІ стали викликати занепокоєння. Попросивши допомоги з програмуванням, ChatGPT написав довгу, незв’язну та здебільшого безглузду відповідь, що містила фразу «Тримаймо лінію, наче ШІ в кімнаті».

«Читати це о 2 годині ночі страшно», — написав один із користувачів на Reddit.

Наразі розробники не надали пояснень, але повідомили, що працюють над проблемою. Користувачі припустили, що такі відповіді можуть бути пов’язані із занадто високим налаштуванням «температури» у ChatGPT. «Температура» контролює креативність або зосередженість тексту: при низькому налаштуванні система поводиться як очікується, але при вищому вона може бути більш різноманітною і незвичайною.