Науковці визнали, що штучний інтелект призведе до знищення людства

Згідно з доповіддю компанії Gladstone AI Inc., підготовленою на замовлення уряду США, політикам необхідно терміново вживати заходів для гарантування безпеки, оскільки швидкий розвиток штучного інтелекту потенційно може призвести до зникнення людства через удосконалення зброї масового ураження і втрату контролю над нейромережами. Про це пише TIME.

У звіті під назвою «План дій щодо підвищення безпеки та захищеності передового штучного інтелекту», йдеться про те, що розвиток передових ШІ-систем потенційно може дестабілізувати глобальну безпеку, так само як це трапилося під час нарощування ядерних озброєнь.

«З огляду на зростаючий ризик для національної безпеки, створюваний швидким розширенням можливостей ШІ через озброєння і втрату контролю, — і особливо той факт, що тривале поширення цих можливостей посилює обидва ризики, — є очевидна і нагальна потреба уряду США втрутитися у ці процеси», — йдеться у доповіді.

Фахівці пропонували план втручання, який розробляли протягом 13 місяців дослідники ШІ-кластеру. Зазначається, що вони розмовляли з понад 200 експертами, зокрема з представниками урядів США і Канади, великих постачальників хмарних послуг, організацій із безпеки ШІ, а також із фахівцями з кібербезпеки та обчислювальної техніки.

На думку експертів, які взяли участь в опитуванні та створенні плану, деякі заходи можуть включати створення нового агентства зі штучного інтелекту, яке обмежуватиме рівень обчислювальної потужності нейромереж. У такому випадку агентство від імені уряду може вимагати від компаній, що займаються розробкою нейромереж, алгоритмів машинного навчання, комп’ютерного зору, знизити обчислювальні потужності, щоб уповільнити розвиток ШІ-систем, або ж дати уряду можливість вивчити передові ШІ-моделі на можливу наявність ризиків. Також пропонується ліцензування відкритого вихідного коду.

У доповіді також рекомендується уряду посилити контроль над виробництвом і експортом чипів штучного інтелекту.

Нагадаємо — рік тому у березні Ілон Маск, Стів Возняк, а також понад 1000 інших експертів у галузі штучного інтелекту та представників IT-індустрії закликали у відкритому листі ввести піврічний мораторій на навчання ШІ-систем у зв’язку з необхідністю розв’язання етичних проблем та питань безпеки.