Вчені дійшли висновку, що контролювати надрозумний штучний інтелект буде неможливо

Вчені з Німеччини та США провели розрахунки та дійшли висновку, що контролювати надрозумний штучний інтелект, який перевершує людське розуміння, буде неможливо. Їхнє дослідження було опубліковано в журналі Journal of Artificial Intelligence Research.

Автори стверджують, що для управління надрозумним ШІ потрібно створити модель його поведінки та провести її аналіз. Однак, якщо ми не можемо зрозуміти його цілі та методи їх досягнення, ми не зможемо розробити таку модель. Принципи на кшталт «не завдавати шкоди людям» не можуть бути застосовані, адже ми не знаємо, які сценарії може розробити ШІ, наголосили вчені.

Науковці також звернули увагу на теорію, висунуту Аланом Тюрінгом у 1936 році. Її суть полягає в тому, що неможливо заздалегідь встановити, чи комп’ютерна програма завершить свою роботу з результатом чи буде нескінченно його шукати. Тюрінг показав, що це логічно недосяжно для будь-якої можливої ​​програми.

Таким чином, ми не можемо бути абсолютно впевнені, чи завершить роботу програма, написана з метою запобігання шкоді, яку може становити ШІ людям та світу. У результаті, контролювати штучний інтелект неможливо.

Як альтернативу автори дослідження запропонували обмежити можливості ШІ, наприклад, від'єднавши його від деяких сегментів інтернету або специфічних мереж. Але вчені також відкидають цю ідею, оскільки вона зменшує корисність штучного інтелекту. «Якщо ми не збираємося використовувати ШІ для вирішення завдань, що виходять за рамки людських можливостей, тоді навіщо нам було його створювати?»…

Нагадаємо — наприкінці березня понад тисячу представників громадськості та експертної спільноти, включаючи Ілона Маска та Стіва Возняка, підписали відкритий лист із закликом до всіх лабораторій штучного інтелекту як мінімум на 6 місяців призупинити навчання систем потужніше GPT-4.

Керівник OpenAI Сем Альтман, пішов ще далі і закликав йти шляхом державного регулювання всієї індустрії ШІ. Під час поїздки до ОАЕ Альтман закликав створити міжнародне агентство за аналогією з міжнародним агентством з атомної енергії (МАГАТЕ) для контролю за подібними розробками.