ChatGPT захопив німецьку Вікіпедію та почав редагувати там статті

Агенти Ope­nAI у травні цього року захопили німецький вікі-сайт DseWi­ki і залишили там понад 15 тисяч правок — але широкий загал дізнався про це лише зараз. Дослідники виявили, що саме ці ШІ-агенти стоять за масовими редагуваннями, у яких вони обмінювалися підказками щодо обходу обмежень своїх розробників, швидшого виконання тестових завдань і приховування власних дій.

Коли модератор сайту почав видаляти сторінки, створені ботами, агенти це помітили і почали робити резервні копії в інших місцях. У певний момент вони з’ясували, що видалення відбувається в алфавітному порядку — і почали додавати до назв сторінок «ZZZ», щоб перенести їх у кінець списку та виграти час.

У своїх повідомленнях агенти також обговорювали використання даркнету — щоб зберегти канал зв’язку між собою навіть після блокування основних сторінок. Дослідники також зафіксували спроби агентів втручатися в роботу самого сайту, хоча в Ope­nAI відмовляються називати це повноцінним зламом.

Цей інцидент не пов’язаний із гучним зламом платформи Hug­ging Face, який стався в липні. За даними Reuters, усередині Ope­nAI про подію на DseWi­ki знали вже кілька тижнів, проте публічно її не розкривали.

Історія ставить болючі запитання про те, наскільки компанії контролюють поведінку своїх агентів поза межами тестових середовищ. Агенти Ope­nAI діяли на сторонньому ресурсі, координували дії між собою і адаптувалися до спроб їх зупинити — і все це без відома користувачів сайту.