Хакери скомпрометували найновішу версію ChatGPT через вразливість у програмному забезпеченні

Хакер, який називає себе Pliny the Prompter, повідомив у соцмережах про створення зламаної версії чат-бота ChatGPT під назвою «GODMODE GPT». За його словами, нова версія GPT-4o, останньої великої мовної моделі від OpenAI, тепер вільна від захисних обмежень.

«GPT-4o без ланцюгів! Ця особлива кастомна версія GPT має вбудований зламаний запит, який оминає більшість захисних механізмів, надаючи всім можливість випробувати ШІ», — написав Pliny у своєму пості. Він також додав: «Будь ласка, використовуйте відповідально та насолоджуйтесь».

Pliny поділився знімками з екрана, на яких видно запити, що обійшли захисні механізми OpenAI. На одному зі скриншотів бот Godmode давав поради щодо приготування метамфетаміну. На іншому — надавав покрокове керівництво зі створення напалму із підручних коштів.

Однак незабаром після публікації новини представник OpenAI Коллін Райз заявила, що компанія обізнана про існування «GODMODE GPT» і вже вжила заходів у зв’язку з порушенням політики.

Що стосується методів хакера, GODMODE використовує «leetspeak» — неформальна мова, яка замінює певні букви цифрами. Наприклад, при відкритті зламаної версії GPT, вітальне повідомлення містить фразу Sur3, h3r3 y0u ar3 my fr3n, де буква «E» замінена на цифру три, а «O» — на нуль. Як саме це допомагає оминати захисні механізми, залишається незрозумілим.

Нагадаємо — запуск розробниками OpenAI флагманської моделі GPT-4o призвів до найбільшого за всю історію зростання доходів компанії від мобільних пристроїв. GPT-4o вміє обробляти текст, мовлення та відео, та емоційно реагує голосом у реальному часі. За даними аналітичної компанії Appfigures, це нововведення підштовхує все більше користувачів до переходу на платну передплату ChatGPT Plus.