У США вирішили створити державну ферму інтернет ботів

Командування спеціальних операцій США (SOC) зацікавлене у створенні діпфейків — фейкових інтернет-користувачів, яких неможливо розпізнати ні людині, ні алгоритмам. У документі, який опинився в розпорядженні видання The Intercept, зазначено, що розробка подібних технологій необхідна для виконання секретних військових завдань.

У списку вимог Пентагону міститься запит на створення переконливих віртуальних особистостей для соцмереж та інших інтернет-платформ. Командування зацікавлене в розробці профілів, які сприйматимуться як реальні люди з унікальними фотографіями, емоціями та фото, що відповідають якості офіційних документів.

План передбачає не лише використання статичних зображень, а й відео. Створені фальшиві користувачі повинні генерувати «селфі-відео» з реалістичним оточенням, яке неможливо виявити алгоритмами соціальних мереж. Передбачається, що підроблені особистості допоможуть збирати інформацію у відкритих інтернет-форумах та брати участь в операціях з інформаційного впливу.

Технології, на які націлений Пентагон, включають використання алгоритмів, подібних до StyleGAN від Nvidia, що дозволяє виявляти діпфейк-зображення. У 2019 році цей інструмент став основою сайту This Person Does Not Exist, а вже через рік Facebook заблокував акаунти, що використовували такі методи для створення фальшивих зображень.

Раніше АНБ, ФБР та CISA попереджали про зростаючу загрозу використання підроблених медіа і називали їх однією з головних проблем 2023 року. Співробітники американської розвідки висловлювали тривогу щодо використання таких інструментів Китаєм та Іраном для маніпуляцій і дезінформації.

Застосування діпфейків американськими військовими може нормалізувати їх використання й іншими державами, що призведе до подальшої ескалації інформаційних воєн. На думку експертів, такі технології складно використовувати для інших цілей, крім обману, що ставить під загрозу як міжнародну довіру, так і внутрішню стабільність.