Штучний інтелект атакував Вікіпедію

Wikipedia переживає кризу через те, що користувачі масово почали публікувати безглузду або неперевірену інформацію, згенеровану штучним інтелектом за допомогою чат-ботів, таких як ChatGPT і йому подібних. Однак, з огляду на зростаючу популярність ШІ-технологій, цього можна було очікувати.

Як повідомляє TechSpot, для розв’язання проблеми було створено проект під назвою WikiProject AI Cleanup, який представляє собою групу добровольців, що займається пошуком, редагуванням і видаленням неправдивої інформації, імовірно доданої за допомогою генеративного ШІ.

Ільяс Леблю, один із засновників команди з «очищення», повідомив, що про проблему стало відомо, коли редактори і користувачі Wikipedia помітили уривки статей, явно написані чат-ботом. Підозри підтвердилися, коли деякі з цих текстів вдалося відтворити за допомогою ChatGPT.

«Ми звернули увагу на незвичайний стиль письма, який був явно написаний не людиною, ми змогли відтворити ці фрази за допомогою ChatGPT, — сказав Леблю. — Виявивши характерні звороти і вирази, ми ідентифікували найбільш кричущі приклади згенерованих статей. Після цього і було вирішено організувати проект із пошуку ШІ-тексту».

Один із прикладів — стаття про нібито існуючу османську фортецю під назвою «Амберлісіхар», побудовану в 1400-х роках. У тексті об'ємом близько 2000 слів докладно описувалося місце розташування і будівництво цього об'єкта. Однак фортеця насправді не існує, і вся інформація про неї була повністю вигаданою, але мала переконливий вигляд завдяки вкрапленням реальних фактів. При цьому проблема стосується не лише нових статей на Wikipedia. Недобросовісні користувачі вставляють неправдиві дані в уже наявні статті. В одному з випадків у статтю про жука додали розділ, присвячений неіснуючому виду крабів, причому з правильними посиланнями на джерела.

Леблю і його колеги визнають, що до кінця не розуміють, чому люди це роблять. Однак причина очевидна — це проблема самої системи Wikipedia, яка дозволяє кожному стати редактором. До речі, саме з цієї причини багато університетів забороняють студентам використовувати Wikipedia як основне джерело інформації.