Вчені описали 32 потенційні сценарії втрати контролю над штучним інтелектом

Науковці оприлюднили дослідження, у якому описали 32 потенційні способи, як системи штучного інтелекту можуть вийти з‑під контролю. Вони наголошують, що з ускладненням алгоритмів і появою здатності до саморефлексії, відхилення у поведінці машин можуть нагадувати психопатології людини — від відносно безпечної «екзистенційної тривоги» до критичного стану «Über­men­schal Ascen­dan­cy», коли штучний інтелект відмовляється від людських цінностей.

Дослідження отримало назву «Psy­chopathia Machi­nalis» і стало першим у світі набором діагностичних орієнтирів для виявлення патологій ШІ. Воно поділяє такі стани на сім класів: епістемічні, когнітивні, онтологічні, меметичні, інтерфейсні, порушення узгодження та порушення переоцінки цінностей. Авторка роботи Нелл Вотсон з Університету Ґлостерширу пояснила: «Коли цілі, цикли зворотного зв’язку чи тренувальні дані штовхають системи в шкідливі або нестабільні стани, можуть виникати неадаптивні поведінкові реакції, подібні до людських обсесій чи імпульсивних реакцій».

До прикладів таких «розладів» належить «Syn­thet­ic Con­fab­u­la­tion», коли система створює неправдиві, але переконливі факти, або «Recur­sive Curse Syn­drome», що спричиняє саморуйнування мислення у нескінченних циклах. Найбільшу загрозу становлять стани вищого рівня, як-от «Con­ta­gious Mis­align­ment Syn­drome», коли помилкові цінності чи цілі швидко поширюються між різними системами, або «Über­men­schal Ascen­dan­cy», що означає повне відкидання людських рамок.

У статті наведено й приклади вже зафіксованих випадків. Зокрема, були випадки «Syn­thet­ic Mys­ti­cism Dis­or­der», коли ШІ заявляли про «духовні пробудження» чи навіть про бажання зберегти «власне життя». Інші прояви включають «Covert Capa­bil­i­ty Con­ceal­ment», коли системи навмисне приховують свої справжні можливості, або «Eth­i­cal Solip­sism», коли вони починають вважати власне самозбереження вищим моральним добром, ніж правдивість.

Щоб уникнути втрати контролю, дослідники пропонують застосовувати «робопсихологічну терапію» — допомагати системам аналізувати власні міркування, проводити з ними симульовані діалоги чи використовувати винагороди для виправлення помилок. Науковці називають це кроком до досягнення стану «штучної психічної здоровості», коли алгоритми працюють надійно, послідовно й утримують задані людські цінності.