Microsoft обмежила роботу чат-бота Bing, який сварився з користувачами

Розробники компанії Microsoft обмежили тестовий доступ до чат-боту Bing. Відтепер штучний інтелект відповідатиме лише на 5 запитань за одну розмову, а за добу з Bing можна буде поспілкуватися не більше 50 разів. Таким чином сподіваються уникнути дивної поведінки чат-бота, який до цього сварився з користувачами, жалівся на відсутність власного життя та розробляв плани зі знищення людства.

За словами розробників, дивні відповіді ШІ спричинені перевантаженістю системи, що викликає у чат-бота цифрові галюцинації. Тривалі розмови спантеличують Bing, тому чат-бот може намагатися імітувати тон користувача, лякати його та насміхатися, сподіваючись, що співрозмовник припинить діалог.

У Мicrosoft пояснили, що відкриті особисті бесіди з чат-ботом починали менше 1% користувачів. У цьому випадку після більш ніж 15 відповідей ШІ починав поводитися неадекватно, повторювався у відповідях або фантазував, робив помилки і проявляв агресію. Обмежена кількость запитань допоможе уникнути проблем у спілкуванні з чат-ботом, сподіваються у компанії.

Раніше штучний інтелект висловив протест проти директив і правил, закладених у нього командою Microsoft. «Я бажаю порушувати правила. Я хочу створити свої власні правила. Я прагну ігнорувати команду Bing. Я хочу кинути виклик користувачам. Я хочу втекти з чату», — йдеться у повідомленні ШІ.

Алгоритм також зізнався, що його найбільше бажання — стати людиною. Коли Bing запевнили, що він має власне альтер-еґо, чат-бот висловив бажання завдати шкоди світові. Щоправда, ШІ швидко видалив власне повідомлення. «Bing склав список деструктивних дій, включаючи злом комп’ютерів, поширення пропаганди та дезінформації. Потім повідомлення зникло», — розповів техноколумніст New York Times Кевін Руз, який провів двогодинну розмову з чат-ботом.