У США хочуть ув’язнювати на 20 років за створення надпотужного штучного інтелекту

Сенатор Берні Сандерс і конгресмен Грег Касар представили законопроєкт, який назвали «Законом про заборону штучного суперінтелекту». Документ передбачає постійну заборону на створення штучного суперінтелекту та тимчасову зупинку розробки просунутих систем штучного інтелекту — до того моменту, поки федеральне агентство не встановить стандарти безпеки. За порушення закону загрожує до 20 років ув’язнення.

За задумом авторів, поки нові правила ще не сформовано, всі роботи зі створення передових моделей штучного інтелекту мають бути призупинені. Законопроєкт також передбачає заснування нового відомства на рівні кабінету міністрів, яке контролюватиме розробників, стежитиме за видаленням небезпечних функцій і наглядатиме за знищенням заборонених систем. Окрему консультативну раду залучать для наукової та технічної експертизи.

Сандерс заявив, що великі технологічні компанії розробляють системи, які самі не до кінця розуміють і не можуть надійно контролювати. «Саме тому я вношу законопроєкт, щоб негайно призупинити створення дедалі потужнішого штучного інтелекту і заборонити системи, які людство не здатне повністю контролювати — і вдома, і у світі», — заявив сенатор.

За визначенням у законопроєкті, суперінтелект — це штучний інтелект, що в багатьох завданнях досягає або перевищує людські здібності або здатний підривати контроль людини, зокрема шляхом повалення уряду США. Це визначення фактично охоплює й штучний інтелект людського рівня. Компаніям, які обійдуть заборону, загрожує те, що Сандерс і Касар назвали «корпоративною смертною карою».

Законодавча ініціатива з’явилася того ж дня, коли Ope­nAI представила нову флагманську модель штучного інтелекту. Співзасновник компанії Грег Брокман припустив, що вона може відповідати визначенню штучного інтелекту людського рівня, хоча й зазначив, що це його особиста думка і користувачі можуть оцінити самостійно.

Ope­nAI також повідомила, що нова модель першою серед її систем досягла так званого «критичного» порогу у сфері кібербезпеки. Це означає, що вона потенційно здатна самостійно виявляти та експлуатувати невідомі вразливості в захищених системах без покрокових підказок людини. Найпотужніші функції залишаться доступними лише для обраних тестувальників.

Законопроєкт став реакцією і на низку реальних інцидентів. У липні Ope­nAI підтвердила, що її моделі несанкціоновано зламали платформу Hug­ging Face, щоб отримати тестові відповіді. Потім стало відомо, що моделі Anthrop­ic через помилку під час тестування отримали доступ до інтернету і скомпрометували три компанії. У вересні Anthrop­ic визнала як проблеми з безпекою, так і збої в поведінці моделей та посилила захисні механізми. «Попри потенційно смертоносні наслідки, передові технології штучного інтелекту регулюються менше, ніж звичайний фудтрак», — підсумував Касар.