Пентагон тестуватиме армію зі 100 тисяч ШІ-агентів без єдиного центру управління

Агентство перспективних дослідницьких проектів Міністерства оборони США DARPA оголосило про запуск програми DICE — Decen­tral­ized Arti­fi­cial Intel­li­gence by Con­trolled Emer­gence. Її мета — перевірити, чи здатні десятки тисяч ШІ-агентів самостійно організовуватися, розподіляти завдання та виконувати місії без жодного центрального алгоритму керування.

Програма розрахована на 36 місяців і поділена на кілька етапів. На фінальному етапі DARPA планує запустити колектив зі 100 тисяч ШІ-агентів, які зможуть обмінюватися до одного мільйона повідомлень під час спільного виконання завдань. Перший дев’ятимісячний етап передбачає моделювання місій з участю близько 500 агентів і приблизно п’яти тисяч взаємодій між ними. На другому етапі кількість агентів зросте до п’яти тисяч, а число взаємодій — до 50 тисяч, причому частина агентів отримуватиме хибну інформацію або імітуватиме скомпрометованих учасників.

В агентстві переконані, що майбутні збройні конфлікти розгортатимуться з машинною швидкістю, а централізовані системи планування виявляться надто повільними та передбачуваними. Існуюча архітектура більшості багатоагентних систем, де єдиний координатор розподіляє ролі й синхронізує роботу всіх учасників, є вразливою в умовах радіоелектронної боротьби, кібератак і порушеного зв’язку. Центральний вузол управління перетворюється на єдину точку відмови — якщо його скомпрометовано або відключено, помилки миттєво поширюються на весь колектив.

Децентралізована модель DICE пропонує принципово інший підхід: окремі ШІ-агенти безпосередньо взаємодіють між собою, тимчасово об’єднуються в групи, самостійно узгоджують ролі та перебудовують організацію залежно від ситуації. Агент може отримати загальне завдання, визначити, яку частину здатен виконати самостійно, а решту передати сусіднім агентам. Інші агенти можуть навіть конкурувати між собою за виконання певних підзадач, пропонуючи кращі можливості або менші витрати ресурсів. Якщо один агент виходить з ладу, його завдання автоматично стає доступним для інших учасників без жодного втручання ззовні.

DARPA порівнює цю архітектуру з принципом роботи інтернету, де стійке функціонування всієї мережі забезпечується простими локальними правилами й децентралізованими взаємодіями між вузлами. Агентство також проводить аналогії з мурашиними колоніями та зграями птахів, які демонструють надзвичайно складну колективну поведінку без жодного центрального координатора. У документації програми згадується і знаменита математична модель «Життя» Джона Конвея, де складні структури виникають завдяки взаємодії гранично простих правил.

Головний виклик програми — балансування між непередбачуваністю й контролем. Занадто жорсткі обмеження позбавлять систему здатності адаптуватися; недостатній контроль може призвести до того, що агенти почнуть формувати так звані інструментальні цілі, які вже не відповідатимуть початковому завданню оператора. Для вирішення цієї проблеми дослідники планують розробити спеціальні локальні адаптери для кожного агента, які відстежуватимуть і за потреби коригуватимуть його поведінку. Для моделей з відкритим доступом до внутрішніх механізмів розглядається технологія управління активаціями — цілеспрямованого впливу на внутрішні стани нейромережі через так звані «вектори ролі». Для закритих комерційних моделей DARPA розглядає зміну пам’яті моделі, налаштування контексту або застосування ігрових механізмів стимулювання співпраці.

В агентстві зазначають, що саме зростаюча інтелектуальність сучасних ШІ-систем може стати не лише джерелом ризиків автономного штучного інтелекту, а й новим інструментом його контролю. Результати кожного етапу порівнюватимуться з показниками сучасних централізованих багатоагентних систем, що дозволить оцінити реальні переваги децентралізованого підходу в умовах, максимально наближених до бойових.