Загрозу від штучного інтелекту прирівняли до пандемії та ядерної війни

Центр безпеки штучного інтелекту (CAIS) у США разом з групою експертів з технологій попереджають — розвиток ШІ загрожує зникненням людства. «Зниження ризику вимирання, яке може статися через ШІ, має стати глобальним пріоритетом поряд з іншими загрозами, як-от пандемії та ядерна війна», — ідеться у заяві, опублікованій на сайті центру.

Документ підписали експерти у галузі ШІ, а також фахівці у сфері інформаційних технологій, економіки, математики та філософії. Серед них — гендиректор компанії Open AI Сем Альтман та один із розробників ШІ - британський вчений Джеффрі Гінтон.

Експерти детально розписали ризики, які, на їхню думку, пов’язані зі штучним інтелектом:

• ШІ може бути використаний для створення автономної зброї, а також різного роду хімічного озброєння;
• ШІ може генерувати дезінформацію, яка може дестабілізувати суспільство і підривати колективне ухвалення рішень;
• Влада над ШІ може зосередитися в руках декількох людей, що у перспективі дасть змогу режимам «нав'язувати вузькі цінності через всепроникаючий контроль і жорстку цензуру»;
• Ослаблення людського потенціалу, коли суспільства стануть залежними від ШІ.

Центр безпеки штучного інтелекту також пропонує кілька способів зниження ризиків від ШІ:

• Створення загальних стандартів безпеки та етики для розроблення та використання ШІ;
• Розробка механізмів контролю та відповідальності за дії ШІ;
• Підтримка міжнародного співробітництва та діалогу з питань ШІ;
• Освіта та просвітництво громадськості про можливості та небезпеки ШІ.

Це не перше звернення за останній час, автори якого говорять про можливі загрози від штучного інтелекту. У березні глава SpaceX Ілон Маск, співзасновник Apple Стів Возняк і понад 1000 експертів та топменеджерів ШІ-сфери підписали лист із закликом зупинити розробку просунутого алгоритму доти, доки не буде створено, впроваджено і перевірено загальні протоколи безпеки.

Нагадаємо — нещодавно Ілон Маск зробив припущення, як виглядатимуть війни, якщо ШІ розвиватиметься надалі. Мільярдер вважає, що нейромережі будуть використовуватися урядами в усьому світі для розробки новітнього типу озброєння. Маск передбачає, що це спричинить гонку ШІ-озброєнь між «просунутими» країнами та припускає, що «наприкінці цивілізації, яку ми знаємо, відбудуться війни безпілотників».