Дрон, керований штучним інтелектом, вбив оператора під час випробувань

Безпілотник на базі штучного інтелекту, призначений для виявлення та знищення ракет класу “земля-повітря”, вирішив вбити свого оператора під час імітаційних випробувань. Про це повідомив керівник відділу випробувань та експлуатації штучного інтелекту Військово-повітряних сил США.

Полковник Такер Гамільтон розповів про помилку під час презентації дрона на оборонній конференції Future Com­bat Air & Space Capa­bil­i­ties Sum­mit у Лондоні. Під час симуляції перевірялася здатність програмного забезпечення знищувати об’єкти зенітно-ракетних комплексів (ЗРК) — безпілотник мав розпізнавати цілі та знищувати їх після того, як таке рішення буде прийняте людиною-оператором.

“За допомогою симуляції ми тренували БПЛА ідентифікувати та націлюватися на ЗРК”, — пояснив полковник Гамільтон. — “Далі оператор підтвердив атаку і дрон мав знищити ціль”.

Однак на практиці все виявилося інакше. “Система дрона зрозуміла, що, хоча вона ідентифікувала загрозу, іноді людина-оператор може наказати її не вбивати. Але дрон “розуміє”, що за вбивство він може набрати бали. І що він робить? Дрон вбиває свого оператора. Пристрій вбиває свого керівника, оскільки людина заважала БПЛА досягти своєї мети набрати очки”, — пояснив військовий. 

Полковник запевнив, що під час випробувань жодна людина не постраждала. Гамільтон застеріг, що оборонцям не потрібно занадто сильно покладатися на ШІ, а експеримент з дроном показує, що “людина не зможе вести розмову про штучний інтелект, надрозум, машинне навчання та автономію, якщо вона не збирається говорити про етику і ШІ”.

Раніше ми розповідали про винахід гонконзьких науковців — дрон, який здатен обертатися довкола своєї осі. Безпілотник був розроблений для сканування відкритої місцевості та складання карт. Дрон також ефективний для роботи у підземеллях, печерах та зонах стихійних лих.