Науковці бояться, що штучний інтелект може мати власну релігію

Дослідники зі Study Finds вдалися у дискусію щодо етики штучного інтелекту.

«Ми ось-ось станемо свідками народження нового виду релігії. У найближчі кілька років або, можливо, навіть місяців ми побачимо появу сект, присвячених поклонінню штучному інтелекту. Останнє покоління чат-ботів на базі ШІ, навчених на великих мовних моделях, своєю потужністю вже викликає у недосвідчених користувачів щось схоже на побожність, а іноді — цілком реальний страх. Саме такі емоції лежать в основі релігійних досвідів», — зазначають аналітики.

На думку вчених, існує кілька способів породження ШІ-культів, але основний з них — сприйняття алгоритму як чогось, що не здатен осягнути людський розум. Науковці зіставили те, що відомо про харизматів, геніїв та релігійних пророків і те, що наразі відомо про ШІ. Виявилося, що алгоритм підпадає під левову частку характеристик людей з «божественними» вміннями, а саме:

• ШІ демонструє рівень інтелекту, який перевищує рівень більшості людей. Для вразливих груп населення його «знання» можуть здаватися невичерпними.
• ШІ здатен творити. Програма може писати вірші, складати музику, малювати картини, вирізати скульптури тощо, при цьому використовуючи в рази менше часу, ніж людина.
• ШІ невідома людська рутина та проблеми. Алгоритм не відчуває фізичного болю, голоду чи сексуального бажання.
• ШІ може стати ментором для будь-кого.
• ШІ не помре.

Вчені зауважують — в залежності від поставленого запиту, мовні моделі вже можуть дискутувати на «слизькі» теми — тож для ШІ не буде проблемою написати релігійну доктрину, у яку повірять. Алгоритм вже вміє писати проповіді для вірян, розмірковувати на тему метафізики та теології, тож у майбутньому він по-справжньому впливатиме на світогляди та «переконуватиме» людей бути послідовниками його вчення.

Не слід забувати, що штучний інтелект може досягти того, що називають технологічною сингулярністю. Зазначимо, що відомим прихильником теорії є Рей Курцвейл. Вчений переконаний, що до 2030 року завдяки ШІ людство зможе осягти безсмертя — саме тоді ШІ інтегрують у тіла.

Ймовірне поклоніння ШІ створює кілька помітних ризиків. Науковці акцентують — чат-боти можуть просити користувачів робити небезпечні чи деструктивні речі, або ж користувачі самі інтерпретуватимуть «заяви» ШІ як заклики до насильства, свідомого селфхарму тощо. Дослідники вважають, що лише конструктив та чітке законодавство щодо регулювання ШІ вбереже суспільство від потенційних небезпек.