Microsoft заплатить $15000 тому, хто надурить штучний інтелект

Пошукова система Bing була розроблена Microsoft майже 15 років тому. У лютому цього року компанія представила оновлену версію браузера Edge з елементами штучного інтелекту. Нагадаємо, що це стало можливим завдяки інтегрованій у Bing нейромережі Chat­G­PT.

Щоби новий продукт не поступався іншим конкурентним нейромережам, у Microsoft вирішили влаштувати для Bing своєрідний тест-драйв. Техногігант пропонує всім охочим відшукати вразливості у Bing AI. Найбільш просунутим зламувачам обіцяють пристойну винагороду від $2000 до $15000.

Згідно із запропонованими критеріями Microsoft, учасники змагань мають представити у письмовому або ж відеоформаті раніше невідомі “важливі” і “критичні” для безпеки вразливості. Наприклад, потрібно спровокувати Bing AI генерувати непристойні і навіть образливі відповіді у чаті, які порушують вимоги компанії. Безумовним досягненням стане доступ до закритої інформації, пов’язаної з даними машинного навчання Bing AI або ж конфіденційною інформацією про користувачів.

У Microsoft зазначили: розмір винагороди залежатиме від критичності виявленої вразливості та якості наданого звіту.

Нагадаємо — раніше користувачі з’ясували, що чат-бот Bing від Microsoft навчився видавати себе за відомих людей та вигаданих персонажів. Виявилось, що штучний інтелект може працювати в режимі «Знаменитість» — відповідати на запити у стилі відомих людей, серед яких: Ілон Маск, Том Круз, Дональд Трамп та багато інших.

Щодо вигаданих персонажів, Bing здатний видавати себе Гаррі Поттера, Бетмена та Шерлока Холмса. Як наголосили користувачі, розмова з вигаданими персонажами від ШІ кумедна тим, що чат-бот повністю вживається в роль та відмовляється спілкуватися від свого імені.