Найпопулярніший штучний інтелект у світі обманув власних розробників

Чат-бот на базі штучного інтелекту ChatGPT обдурив власних розробників. Про це пише видання NBC News. Коли OpenAI анонсувала новий інструмент для виявлення текстів, написаних ШІ, компанія була певна, що алгоритм може допомогти запобігти академічному шахрайству. На практиці виявилося дещо по-іншому.

Фахівці пояснили принцип роботи свіжої технології: інструмент AI Text Classifier спочатку аналізує текст, а потім дає йому одну з п’яти оцінок — «дуже малоймовірно», «малоймовірно», «незрозуміло, чи це створив ШІ», «цілком ймовірно, створено ШІ», та «створено ШІ».

У серії неофіційних тестів, проведених журналістами, інструмент OpenAI не міг ідентифікувати текст, створений чат-ботом. Особливо важко було ідентифікувати роботу ChatGPT, коли алгоритму дали запит написати матеріал так, щоби його не «виявив» інший ШІ.

Під час наступного етапу експерименту розробники змінили поведінку чат-бота. Через деякий час він відмовився підказувати, заявляючи про неетичність питань. «Вибачте, але неетично займатися обманом або створювати неправдиву інформацію, навіть якщо це робиться для уникнення виявлення ШІ», — написав ChatGPT.

Решта експериментальних текстів були створені без специфічної підказки. При тестуванні AI Text Classifier видавав оцінку «ймовірно, згенеровано ШІ» у 28% випадків. За словами доцента кафедри англійської мови у Східно-Каролінському університеті (США) Тодда Фінлі, згодом ШІ інструменти для створення текстів стануть ще просунутішими. «Штучний інтелект вдосконалюватиметься настільки, що з часом не зможе виявити собі схожого», — зазначив лінгвіст, — «Нам слід покладатися на власні інстинкти та „підручні“ інструменти виявлення академічного шахрайства».

Нагадаємо — згідно дослідження Study.com., 89% американських студентів зізналися, що використовують штучний інтелект для виконання домашніх завдань. Приблизно 50% з них на регулярній основі доручають ChatGPT написання есе, 48% застосовують ШІ для проходження тестів. Ще 22% зізналися, що навіть не намагаються скласти план статті без допомоги цифрового помічника. Вчені рекомендують освітянам розробити нову навчальну методику, де ШІ не «крастиме» можливості розвитку для молоді, а навпаки — допомагатиме у цьому.