Хакери скомпрометували найновішу версію ChatGPT через вразливість у програмному забезпеченні

Хакер, який називає себе Pliny the Prompter, повідомив у соцмережах про створення зламаної версії чат-бота Chat­G­PT під назвою “GODMODE GPT”. За його словами, нова версія GPT-4o, останньої великої мовної моделі від Ope­nAI, тепер вільна від захисних обмежень.

“GPT-4o без ланцюгів! Ця особлива кастомна версія GPT має вбудований зламаний запит, який оминає більшість захисних механізмів, надаючи всім можливість випробувати ШІ”, - написав Pliny у своєму пості. Він також додав: “Будь ласка, використовуйте відповідально та насолоджуйтесь”.

Pliny поділився знімками з екрана, на яких видно запити, що обійшли захисні механізми Ope­nAI. На одному зі скриншотів бот God­mode давав поради щодо приготування метамфетаміну. На іншому — надавав покрокове керівництво зі створення напалму із підручних коштів.

Однак незабаром після публікації новини представник Ope­nAI Коллін Райз заявила, що компанія обізнана про існування “GODMODE GPT” і вже вжила заходів у зв’язку з порушенням політики.

Що стосується методів хакера, GODMODE використовує “leet­s­peak” — неформальна мова, яка замінює певні букви цифрами. Наприклад, при відкритті зламаної версії GPT, вітальне повідомлення містить фразу Sur3, h3r3 y0u ar3 my fr3n, де буква “E” замінена на цифру три, а “O” — на нуль. Як саме це допомагає оминати захисні механізми, залишається незрозумілим.

Нагадаємо — запуск розробниками Ope­nAI флагманської моделі GPT-4o призвів до найбільшого за всю історію зростання доходів компанії від мобільних пристроїв. GPT-4o вміє обробляти текст, мовлення та відео, та емоційно реагує голосом у реальному часі. За даними аналітичної компанії App­fig­ures, це нововведення підштовхує все більше користувачів до переходу на платну передплату Chat­G­PT Plus.