Amazon масово продає книги, написані штучним інтелектом

Компанія, що проводить аналітику фейк-інформації, NewsGuard протягом квітня виявила щонайменше 49 нових сайтів, контент яких майже на 100% згенерований нейромережами. Зокрема, експерти відзначили, що в онлайн-магазині Amazon стрімко збільшується кількість електронних книжок на будь-які тематики. Всі вони мають підозріло високий рейтинг і при цьому написані невідомими досі авторами. Дослідники впевнені, що така література згенерована штучним інтелектом — контент сумнівної цінності, однак недешевий.

Не всі погоджуються з тим, що ШІ генерує лише сумнівний контент. Зокрема, голова інтернет-видання Ingenio із Сан-Франциско Джош Джаффе заявив, вони «роблять послугу» людям, створюючи за допомогою нейромереж продукт, який в іншому разі «ніколи б не з’явився». Але при цьому Джаффе ухиляється від відповіді на запитання, чи потрібен такий контент взагалі та щодо його реальної ефективності. Дедалі більше сайтів, орієнтованих на широку аудиторію, стали використовувати ШІ для генерації надлишкового продукту — він приносить трафік, але цінується користувачами значно менше.

У NewsGuard підкреслюють: проблема не в тому, що ШІ позбавляє роботи творчих людей, а що він з «машинною неупередженістю» привласнює собі чужі ідеї та миттєво створює на їхній основі безліч нового контенту. Алгоритм не заглиблюється в суть ідей, він просто збільшує частоту їх використання. Це призводить до накопичення помилок і зрештою породжує дезінформацію. Пізніше вже інші нейромережі підхоплюють спотворені відомості, створюючи на їхній основі ще більше неправдивого вмісту. Аналітики визнали — на жаль, наразі механізму регулювання цього явища не існує.

Раніше ми розповідали про програміста Amazon, який створив штучний інтелект, що дозволяє спілкуватися з Куртом Кобейном та Гітлером. Загалом для «діалогу» доступні 20 000 непересічних особистостей минулого. Примітно, що кожен чат у програмі починається із заяви про «можливу наявність історичних неточностей» і пропонує користувачам перевірити фактаж самостійно.