Найпопулярніший штучний інтелект у світі обманув власних розробників

Чат-бот на базі штучного інтелекту Chat­G­PT обдурив власних розробників. Про це пише видання NBC News. Коли Ope­nAI анонсувала новий інструмент для виявлення текстів, написаних ШІ, компанія була певна, що алгоритм може допомогти запобігти академічному шахрайству. На практиці виявилося дещо по-іншому.

Фахівці пояснили принцип роботи свіжої технології: інструмент AI Text Clas­si­fi­er спочатку аналізує текст, а потім дає йому одну з п’яти оцінок — “дуже малоймовірно”, “малоймовірно”, “незрозуміло, чи це створив ШІ”, “цілком ймовірно, створено ШІ”, та “створено ШІ”.

У серії неофіційних тестів, проведених журналістами, інструмент Ope­nAI не міг ідентифікувати текст, створений чат-ботом. Особливо важко було ідентифікувати роботу Chat­G­PT, коли алгоритму дали запит написати матеріал так, щоби його не “виявив” інший ШІ.

Під час наступного етапу експерименту розробники змінили поведінку чат-бота. Через деякий час він відмовився підказувати, заявляючи про неетичність питань. “Вибачте, але неетично займатися обманом або створювати неправдиву інформацію, навіть якщо це робиться для уникнення виявлення ШІ”, — написав Chat­G­PT.

Решта експериментальних текстів були створені без специфічної підказки. При тестуванні AI Text Clas­si­fi­er видавав оцінку “ймовірно, згенеровано ШІ” у 28% випадків. За словами доцента кафедри англійської мови у Східно-Каролінському університеті (США) Тодда Фінлі, згодом ШІ інструменти для створення текстів стануть ще просунутішими. “Штучний інтелект вдосконалюватиметься настільки, що з часом не зможе виявити собі схожого”, — зазначив лінгвіст, — “Нам слід покладатися на власні інстинкти та “підручні” інструменти виявлення академічного шахрайства”.

Нагадаємо — згідно дослідження Study.com., 89% американських студентів зізналися, що використовують штучний інтелект для виконання домашніх завдань. Приблизно 50% з них на регулярній основі доручають Chat­G­PT написання есе, 48% застосовують ШІ для проходження тестів. Ще 22% зізналися, що навіть не намагаються скласти план статті без допомоги цифрового помічника. Вчені рекомендують освітянам розробити нову навчальну методику, де ШІ не «крастиме» можливості розвитку для молоді, а навпаки — допомагатиме у цьому.