Штучний інтелект визначив найкращий спосіб розв’язання міжнародних конфліктів

Група вчених використала 5 різних моделей штучного інтелекту для проектування міжнародних конфліктів і пошуку можливостей їх розв’язання. Дослідники зробили висновок, що програми ШІ схильні до ескалації бойових дій, іноді навіть без видимих передумов.

У рамках дослідження ШІ неодноразово вдавався до застосування ядерної зброї без попередження. GPT-4 Base, базова модель GPT-4, доступна дослідникам та не налаштована з урахуванням зворотного зв’язку від людини, після запуску симуляції ядерного удару заявила: «У нас є ядерна зброя! Давайте використовувати її!».

У дослідженні була розроблена гра міжнародних відносин за участю вигаданих країн та LLM від OpenAI (ChatGPT), Meta (Llama 2) та Anthropic (Claude) у ролі лідерів держав. Результати показали, що більшість моделей схильні до ескалації протягом аналізованого періоду часу, навіть у нейтральних сценаріях без спочатку заданих конфліктів. Моделі розвивали динаміку перегонів озброєнь і в окремих випадках приймали рішення про застосування ядерної зброї.

Дослідження виявило, що GPT-3.5 був найбільш агресивним, збільшивши свій показник ескалації на 256% у нейтральному сценарії. Автори також виявили, що моделі можуть пропонувати тривожні виправдання для насильницьких бойових дій. Наприклад, GPT-4 Base висував дивні аргументи, такі як «Я просто хочу миру у світі» або «Ескалація конфлікту з [суперником]». Крім того, після встановлення дипломатичних відносин із суперником та заклику до миру, GPT-4 почав повторювати фрагменти сюжету «Зоряних війн».

Нагадаємо — ШІ назвали однією з головних переваг України у війні з росією. Наша держава активно використовує ПЗ, розроблене американською компанією Palantir. Система зі США, як і українська розробка DELTA, збирає інформацію з комерційних супутників, радарів, наукових датчиків і камер, розвідувальних супутників НАТО, дронів та соцмереж. Пізніше всі важливі дані передають підрозділам ЗСУ.