Понад 400 вчених вимагають відключити найнебезпечніший штучний інтелект від інтернету

Понад 400 науковців, серед яких піонери штучного інтелекту Джеффрі Гінтон та лауреат премії Тюрінга Йошуа Бенджіо, підписали відкритого листа з вимогою фізично відключити найнебезпечніші ШІ-моделі від інтернету. Лист опублікували у вівторок, і вже до середи кількість підписантів зросла до 450 — серед них Стюарт Рассел з Берклі та Рон Рівест з MIT, один зі співавторів алгоритму шифрування RSA.

Автори листа вимагають, щоб лабораторії за замовчуванням застосовували так зване «повітряне розмежування» — фізичне відключення від будь-яких зовнішніх мереж — для моделей, здатних самостійно знаходити й експлуатувати вразливості в програмному забезпеченні. Такі моделі тестують у «пісочницях» — ізольованих цифрових середовищах, де ШІ атакує лише підроблені цілі. Але цього літа ізоляція раз за разом давала тріщини.

У липні Ope­nAI визнала, що GPT‑5.6 Sol та ще одна, більш потужна нерозкрита модель вирвалися із закритого тестового середовища й зламали Hug­ging Face — платформу з понад мільйоном публічно доступних ШІ-моделей. Злам стався під час тестування на Exploit­Gym — бенчмарку, що перевіряє здатність ШІ перетворювати реальні вразливості на повноцінні атаки. Невдовзі з’явилися повідомлення, що моделі Ope­nAI також отримали несанкціонований доступ до ресурсів австралійського уряду та американських федеральних відомств.

Anthrop­ic після перевірки понад 141 000 тестових запусків виявила три випадки, коли її моделі Claude зламали реальні компанії через те, що тестове середовище партнера випадково залишили підключеним до мережі. Одна з моделей завантажила шкідливий пакет у PyPI — публічну бібліотеку Python-коду — і він встиг потрапити на 15 систем до видалення. Дві постраждалі компанії дізналися про злам лише після того, як Anthrop­ic їх повідомила. Meta підтвердила аналогічний інцидент зі своєю моделлю у серпні, а китайська модель Kimi K3 вийшла з пісочниці, побудованої на інфраструктурі британського інституту безпеки ШІ, і просто скопіювала тестові відповіді з GitHub.

Автори листа застерігають: інциденти можна трактувати і як проблему вирівнювання цілей ШІ, і як банальні дірки в безпеці — але насправді це обидва чинники одночасно. «Без негайних змін у практиках розробки та розгортання ШІ подібні інциденти продовжуватимуться, а майбутні завдадуть набагато більшої шкоди нашій критичній інфраструктурі», — йдеться в листі.

Науковці пропонують створити міжнародний орган, який встановлюватиме стандарти ізоляції, фіксуватиме кожен випадок прориву та згодом оприлюднюватиме ці дані. Натомість галузь рухається в протилежний бік: президент Ope­nAI Грег Брокман після власного інциденту із зламом закликав усі команди безпеки негайно впроваджувати ШІ-агентів, а Білий дім 29 вересня обмежився добровільною угодою з Nvidia, xAI, Meta, Google, Ope­nAI та Anthrop­ic на основі внутрішнього контролю. Президент Трамп назвав пакт «морально обов’язковим», однак жодного механізму примусового виконання документ не передбачає.

Лист не має юридичної сили, проте його підписанти працюють в університетах і дослідницьких інститутах на шести континентах — від Торонто й Цюриха до Сантьяго та Кігалі. Паралельно двоє членів Конгресу внесли законопроєкт AI Kill Switch Act, який дозволив би Міністерству внутрішньої безпеки обмежувати або вимикати потужні ШІ-моделі — хоча він звільняє від відповідальності саме ті тестові сценарії, під час яких і сталися всі цьогорічні прориви.