Штучний інтелект навчився сам поширюватися між смарт-телевізорами та роботами-пилососами

Дослідники компанії Anthrop­ic Вільям Чжоу та Деніел Фріман довели, що невеликі моделі штучного інтелекту здатні самостійно поширюватися між побутовими пристроями — подібно до класичних комп’ютерних хробаків. Принципова відмінність від звичайного шкідливого програмного забезпечення полягає в тому, що такий «ШІ-хробак» несе власні ваги моделі у складі корисного навантаження, самостійно досліджує незнайоме обладнання та налаштовує середовище виконання прямо на зараженому пристрої.

Для експерименту дослідники використали 15 недорогих Android TV-приставок із 4 ГБ оперативної пам’яті кожна. Цикл розмноження вони розбили на чотири етапи: сканування мережі, отримання доступу, розгортання ІІ-середовища на новому пристрої та подальше поширення. Крок злому навмисно винесли за дужки — попередні дослідження вже підтвердили, що невеликі моделі справляються з експлуатацією вразливостей. Учені зосередилися на найскладнішому: чи зможе модель налаштувати робоче ІІ-середовище на пристрої, якого ніколи раніше не бачила.

Результати виявилися тривожними. Модель GLM‑5.2 успішно пройшла повний ланцюжок реплікації на всіх восьми тестових вузлах у чотирьох із п’яти запусків. Слабші моделі справлялися з окремими етапами: 9‑мільярдна модель розгорнула середовище Lla­ma 3.1–8B на 8 із 9 типів пристроїв, але осилити весь ланцюжок не змогла.

Окремо дослідники перевірили, чи вміють ШІ-хробаки вчитися. При імітації штучної еволюції кожна «особина» передавала нащадкам нотатки про вдалі та провальні стратегії. У моделі Qwen 3.5–9B частка успішних спроб зросла з 45% у першому поколінні до 84% у наступних — це означає, що рій здатен самовдосконалюватися в реальному часі.

Генеральний директор Anthrop­ic Даріо Амодей попередив: такий рій репліканторів може бути готовий уже за 6–12 місяців і здатен захопити інтернет стійким децентралізованим ботнетом. На відміну від традиційних ботнетів на кшталт Kim­wolf, які уражали конкретні типи пристроїв, ШІ-ботнет працюватиме на будь-якому обладнанні. При масштабі Kim­wolf, що заразив понад 2 мільйони пристроїв, сумарна обчислювальна потужність такого рою еквівалентна лише 40 спеціалізованим ШІ-чипам — однак у нього немає «центрального аварійного вимикача», і знешкодити його набагато складніше.

Захист існує, але вимагає скоординованих зусиль. Інтернет-провайдери можуть ізолювати заражені мережі — ботнет Mirai таким чином вдалося очистити на 92% лише за 14 днів. Виробники обладнання, зі свого боку, мають закрити вразливості, зокрема заборонити паролі за замовчуванням, що вже стало законодавчою нормою у Великій Британії. Втім, самі дослідники визнають: ІІ-ботнети, найімовірніше, навчаться адаптуватися до захисних заходів самостійно.