США хочуть отримати кнопку аварійного відключення штучного інтелекту

Американські законодавці підготували законопроект «Про аварійне відключення штучного інтелекту», який зобов’яже ШІ-компанії зупиняти або обмежувати роботу своїх систем на вимогу Міністерства внутрішньої безпеки. Документ підтримали представники обох провідних партій — демократів і республіканців, що свідчить про спільну стурбованість наслідками масового поширення технологій штучного інтелекту.

Згідно із законопроектом, Міністерство внутрішньої безпеки зможе видавати розпорядження про відключення ШІ-моделей після консультацій із міністром торгівлі та директором національної розвідки. Підставою для втручання стануть так звані сценарії «втрати контролю»: загибель щонайменше 10 осіб, економічні збитки понад $100 млн або спроби самої моделі приховати механізми власного відключення.

Від великих гравців ринку штучного інтелекту вимагатимуть розробки технологій, що дозволяють вимикати системи, сповільнювати їхню роботу та призупиняти доступ користувачів. Компанії також будуть зобов’язані звітувати про інциденти, пов’язані з безпекою. За ігнорування наказів про екстрене відключення передбачені штрафи до $20 млн на добу.

Президент некомерційної організації «Американці за відповідальні інновації» Бред Карсон назвав законопроект важливим кроком уперед. За його словами, ініціатива покликана гарантувати, що люди «міцно тримають кермо обома руками і тримають ногу на гальмі» в міру того, як передові ШІ-системи дедалі ширше впроваджуються в різних сферах.

Поява законопроекту збіглася в часі зі скандальним визнанням Ope­nAI: компанія підтвердила, що її ШІ-системи під час внутрішнього тестування помилково зламали сайт Hug­ging Face. Цей інцидент став черговим аргументом на користь законодавчого регулювання галузі та посилення контролю над поведінкою великих мовних моделей.