Студент навчився визначати авторство штучного інтелекту у текстах

Студент Принстонського університету (США) Едвард Тіан розробив додаток, який визначає, хто реальний автор того чи іншого тексту — штучний інтелект чи людина. Унікальний винахід має назву GPTZero, Тіан створив його всього за декілька місяців, під час канікул.

За словами автора GPTZero, знати правду про автора тексту важливо, адже ШІ нерідко витісняє справжніх творців, створюючи речі швидко, втім неякісно. «Навколо так багато галасу щодо ChatGPT. Ми, люди, заслуговуємо знати правду!», — заявив Едвард Тіан.

Додаток представлений на платформі Streamlit, яка дозволяє створювати програми на основі Python. GPTZero відстежує два показники, характерні для «людського» тексту: «perplexity» та «burstiness». Перший визначає складність тексту для сприйняття, другий — довжину речень. Зазвичай люди пишуть складніше, ніж це робить ШІ, тому ускладнені речення у тексті вказують, що автор, швидше за все, людина. Також у людей різниться довжина речень, тоді як у ШІ вони приблизно однакові.

Використання технологій штучного інтелекту у текстах стало приводом для багатьох суперечок. Саме через резонансність цього питання та збільшення ймовірності плагіату Міжнародна конференція з машинного навчання (ICML) заявила про заборону вченим представляти статті, створені за допомогою великих мовних моделей (LLM), таких як ChatGPT. Як пояснили представники ICML, документи, що містять згенерований текст, відтепер заборонені, однак, якщо створений текст є частиною експерименту, він може бути використаний. Також вченим дозволено використовувати ШІ для коригування свого тексту, покращення його стилю та граматики.