Штучний інтелект можуть контролювати на рівні з ядерними технологіями

22 травня компанія OpenAI опублікувала у своєму блозі чергову статтю, присвячену штучному інтелекту. Автори публікації — Сем Альтман, Грег Брокман та Ілля Суцкевер — наголошують на необхідності регулювати ШІ на тому рівні, на якому контролюється ядерна енергія. Публікуємо основні тези матеріалу.

• Зараз саме час почати думати про управління суперінтелектом — майбутніми системами ШІ, що значно перевищують за своїми можливостями навіть AGI. Можна припустити, що протягом наступних десяти років системи ШІ перевершать рівень кваліфікації експертів у більшості галузей і будуть здійснювати стільки ж продуктивної діяльності, скільки й сучасні корпорації.

З точки зору як потенційних переваг, так і недоліків, суперінтелект буде потужнішим за інші технології, з якими людству доводилося стикатися в минулому. Ми можемо мати значно краще майбутнє, але для цього нам потрібно вміти керувати ризиками. Враховуючи можливість екзистенційних проблем, ми не можемо не реагувати. Ядерна енергія є глобальним історичним прикладом технології з такою властивістю; синтетична біологія — ще один приклад. Ми повинні пом’якшити ризики сьогоднішніх технологій штучного інтелекту, однак суперінтелект вимагатиме особливого ставлення і координації.

• Нам потрібен високий рівень координації між провідними розробниками, щоб гарантувати, що розвиток суперінтелекту відбувається таким чином, щоб ми могли одночасно підтримувати безпеку і сприяти плавній інтеграції цих систем у суспільство. І, звичайно, окремі компанії повинні дотримуватися надзвичайно високих стандартів відповідальної поведінки.

• По-друге, нам, ймовірно, з часом знадобиться щось на кшталт МАГАТЕ; будь-які зусилля, що перевищують певний поріг можливостей (або ресурсів, наприклад, обчислювальних), повинні бути підпорядковані міжнародному органу, який може інспектувати системи, вимагати проведення аудитів, перевіряти на відповідність стандартам безпеки, накладати обмеження на ступінь розгортання і рівень безпеки тощо. …Важливо, щоб така агенція зосередилася на зниженні екзистенційного ризику, а не на питаннях, які слід залишити на розсуд окремих країн, наприклад, на визначенні того, що повинен говорити штучний інтелект.
• По-третє, нам потрібна технічна можливість зробити суперінтелект безпечним. Це відкрите дослідницьке питання, над яким працюємо ми та інші технокомпанії.

У майбутньому системи, якими ми стурбовані, матимуть силу, що перевершить будь-яку ще не створену технологію. Ми повинні бути обережними, щоб не послабити увагу до них, застосовуючи аналогічні стандарти до технологій, що знаходяться набагато нижче заданої планки.

• Управління найпотужнішими системами, а також рішення щодо їх розгортання повинні перебувати під сильним громадським контролем. Ми вважаємо, що люди в усьому світі за замовчуванням повинні демократично вирішувати питання про межі та налаштування систем ШІ. Ми продовжуємо вважати, що окремі користувачі повинні повністю контролювати те, як поводиться ШІ, який вони використовують.

З огляду на ризики і труднощі, варто замислитися над тим, навіщо ми взагалі створюємо цю технологію.

• Світ стикається з безліччю проблем, для вирішення яких нам знадобиться набагато більше допомоги; ця технологія [ШІ] може покращити нашу спільноту. Економічне зростання і підвищення якості життя будуть вражаючими.
• Ми вважаємо, що було б ризиковано зупиняти створення суперінтелекту, оскільки переваги величезні. Витрати на його створення зменшуються з кожним роком, кількість суб'єктів, які його створюють, стрімко зростає. ШІ є невіддільною частиною технологічного шляху, на якому ми перебуваємо. Його зупинка вимагала б чогось на кшталт глобального режиму спостереження, і навіть це не гарантує, що така тактика спрацює. Тож ми повинні зробити все правильно.