Дрон, керований штучним інтелектом, вбив оператора під час випробувань

Безпілотник на базі штучного інтелекту, призначений для виявлення та знищення ракет класу «земля-повітря», вирішив вбити свого оператора під час імітаційних випробувань. Про це повідомив керівник відділу випробувань та експлуатації штучного інтелекту Військово-повітряних сил США.

Полковник Такер Гамільтон розповів про помилку під час презентації дрона на оборонній конференції Future Combat Air & Space Capabilities Summit у Лондоні. Під час симуляції перевірялася здатність програмного забезпечення знищувати об'єкти зенітно-ракетних комплексів (ЗРК) — безпілотник мав розпізнавати цілі та знищувати їх після того, як таке рішення буде прийняте людиною-оператором.

«За допомогою симуляції ми тренували БПЛА ідентифікувати та націлюватися на ЗРК», — пояснив полковник Гамільтон. — «Далі оператор підтвердив атаку і дрон мав знищити ціль».

Однак на практиці все виявилося інакше. «Система дрона зрозуміла, що, хоча вона ідентифікувала загрозу, іноді людина-оператор може наказати її не вбивати. Але дрон „розуміє“, що за вбивство він може набрати бали. І що він робить? Дрон вбиває свого оператора. Пристрій вбиває свого керівника, оскільки людина заважала БПЛА досягти своєї мети набрати очки», — пояснив військовий.

Полковник запевнив, що під час випробувань жодна людина не постраждала. Гамільтон застеріг, що оборонцям не потрібно занадто сильно покладатися на ШІ, а експеримент з дроном показує, що «людина не зможе вести розмову про штучний інтелект, надрозум, машинне навчання та автономію, якщо вона не збирається говорити про етику і ШІ».

Раніше ми розповідали про винахід гонконзьких науковців — дрон, який здатен обертатися довкола своєї осі. Безпілотник був розроблений для сканування відкритої місцевості та складання карт. Дрон також ефективний для роботи у підземеллях, печерах та зонах стихійних лих.