Штучний інтелект для Пентагону помиляється у дев’яти відсотках відповідей

Google може повернутися до оборонних контрактів із Пентагоном — цього разу з моделями Gem­i­ni і набором умов, які компанія хоче прописати заздалегідь.

Переговори відбуваються на тлі помітної зміни підходу американських військових. Після затяжного конфлікту з Anthrop­ic навколо умов використання Claude Пентагон, схоже, зробив висновок: ставити все на одного постачальника — погана ідея. Тепер військові формують пул із кількох ШІ-партнерів з різними можливостями і різними зонами відповідальності.

Для Google це повернення непросте. Кілька років тому військові контракти спровокували гучні протести всередині компанії. Зараз вона знову йде в оборонний сектор, але вже намагається заздалегідь обмежити сфери застосування: у проєкті угоди Google хоче заборонити використання Gem­i­ni для масового стеження всередині країни і для автономної зброї без участі людини.

Пентагон, однак, не поспішає робити Gem­i­ni новою опорною системою. І справа не тільки в можливостях моделі. Військовим важлива передбачуваність: чи веде себе система стабільно під навантаженням, чи можна перевірити її висновки, де саме залишається людина, яка приймає остаточне рішення. У бойовому контексті навіть рідкісна помилка може коштувати надто дорого.

А помилки у Gem­i­ni є. В одному з недавніх аналізів функція AI Overviews давала неправильні відповіді приблизно в 9% запитів. Для пошукового сервісу — вже неприємно, для закритих військових завдань — серйозний ризик. Додаткова проблема: частину навіть коректних відповідей важко перевірити за першоджерелами, а без цього система швидко втрачає практичну цінність у чутливих сценаріях.

Тому реалістичний сценарій виглядає так: Gem­i­ni потрапить не в бойові процеси, а в аналітику, адміністративну роботу і підтримку прийняття рішень у засекречених середовищах. Для Google — шанс заново закріпитися на ринку оборонних технологій. Для Пентагону — ще один крок до моделі, де військовий ШІ будується не навколо одного фаворита, а навколо кількох конкуруючих систем із чітко розмежованими зонами застосування.