Віталік Бутерін заявив, що штучний інтелект може знищити людство

Співзасновник Ethereum Віталік Бутерін висловив побоювання з приводу надрозвиненого штучного інтелекту — якщо його залишити без контролю, він має шанси стати «вищим видом» планети, переконаний Бутерін. 27 листопада розробник опублікував статтю про штучний інтелект під назвою «Мій технооптимізм».

Віталік Бутерін розповів, що за останнє століття технології значно покращили якість життя, здоров’я, зручність та доступ до інформації. Тим не менш, деякі технології, такі як штучний інтелект, представляють унікальні ризики. До них належать екзистенційні загрози від передового ШІ, який може знищити людство. ШІ здатний створити новий тип «розуму», який може обернутися проти людей, побоюється Бутерін.

За словами розробника, на відміну від зміни клімату, штучно створеної пандемії чи ядерної війни, у перспективі «надрозум» може покласти край людству і не залишити нікого в живих, особливо якщо він вважатиме людей загрозою власному виживанню. Бутерін згадав опитування, проведене у серпні 2022 року більш ніж 4270 дослідниками машинного навчання. За їх оцінками, ймовірність того, що ШІ вб'є людство, становить 5−10%.

Бутерін підкреслив, що подібні заяви можуть бути крайністю, але люди все ж таки мають способи здобути перемогу над ШІ. Співзасновник ефіріуму запропонував впровадити інтерфейси «мозок-комп'ютер» (BCI). Це свого роду зв’язок між електричною активністю мозку та зовнішнім пристроєм. BCI можуть надати людям прямий доступ до потужних форм обчислень та знань, скорочуючи цикл двостороннього зв’язку між людиною та пристроєм від кількох секунд до мілісекунд.

Це значно знизить витрати на розумові зусилля, що дасть змогу більш ефективно збирати дані, висувати пропозиції чи виконувати плани, впевнений Бутерін. Таким чином, відповідальність за прийняття рішень не перекладатиметься на ШІ, і це зменшить ймовірність того, що штучний інтелект самостійно вдасться до шкоди людству.

Нагадаємо — нещодавно стало відомо про значуще відкриття в галузі штучного інтелекту, зроблене командою дослідників OpenAI. Розробники заявили, що інновація потенційно може змінити розуміння і можливості ШІ в усьому світі.

Група дослідників OpenAI надіслала лист раді директорів, попереджаючи про новий потужний ШІ-алгоритм, який міг би становити «реальну загрозу для людства». «Нейромережа, відома як „Q*“ („Q-Star“), може стати проривом у пошуках генеративного штучного інтелекту (AGI). Передбачається, що ШІ гіпотетично має перевершувати людський розум», — наголосили спеціалісти.