Росіяни використовували ChatGPT щоб маскувати пропаганду під наукові статті

Ope­nAI заблокувала групу акаунтів, пов’язаних із Росією, оператори яких використовували Chat­G­PT для просування фіктивної академічної організації. Про це йдеться у звіті компанії, опублікованому в середу.

Мережа просувала так званий Inter­na­tion­al Burke Insti­tute, який позиціонував себе як ізраїльський експертний центр. Для цього створювалися офіційні профілі та акаунти звичайних користувачів, які поширювали контент інституту в соціальних мережах. Оператори писали запити до Chat­G­PT російською мовою та окремо інструктували модель приховувати ознаки того, що матеріали мають російське походження.

Ope­nAI перевірила 36 статей на сайті інституту й виявила, що 34 із них є копіями чужих текстів. Деякі матеріали підписані іменами реальних учених, які насправді їх не писали. Зокрема, одну статтю про китайсько-пакистанський економічний коридор скопіювали з видання Cam­bridge Uni­ver­si­ty Press, проте приписали професору Університету Ноттінгема, чия спеціалізація — політика Південної Азії.

Оскільки Chat­G­PT офіційно недоступний на болотах, учасники мережі використовували VPN, щоб приховати своє місцезнаходження та отримати доступ до сервісу. Попри відносно невеликі охоплення публікацій, пов’язані Telegram-канали налічували до 20 000 підписників кожен.

«Хоча кампанія, схоже, охопила порівняно невелику аудиторію, її складна конструкція вирізняє її серед інших операцій впливу, пов’язаних із Росією, які ми зупинили з початку війни в Україні», — йдеться у звіті Ope­nAI.

Це не перший подібний випадок. У 2024 році Ope­nAI вже виявила окрему російську мережу під назвою Dop­pel­ganger, яка генерувала статті й коментарі на підтримку Росії та проти України, НАТО і США. Крім того, компанія встановила, що пов’язана з російською військовою розвідкою група For­est Bliz­zard використовувала Chat­G­PT для розвідки цілей, написання скриптів і підготовки фішингових атак.

Водночас Ope­nAI не приписує кампанію IBI безпосередньо російському уряду. Компанія також зазначає, що деякі люди в Ізраїлі могли представляти інститут на конференціях або подавати статті від його імені, однак їхній справжній зв’язок із кампанією залишається нез’ясованим.