Найпопулярніший штучний інтелект у світі викрито на генеруванні протизаконного компрометуючого контенту

Згідно з розслідуванням видання Giz­mo­do, кастомні версії Chat­G­PT використовуються для створення порнографічного контенту, допомагають студентам обійти системи виявлення текстів, створених за допомогою штучного інтелекту, а також надають псевдоекспертні медичні та юридичні консультації. Це стало можливим після того, як Ope­nAI у листопаді 2023 року представила функцію кастомізації Chat­G­PT, яка дозволяє користувачам створювати GPT-моделі для конкретних цілей без потреби у програмуванні.

Деякі з таких GPT були виявлені журналістами Giz­mo­do на маркетплейсі Ope­nAI та порушували політику компанії. Серед них були чат-боти “Терапевт-Психолог”, “Фітнес-тренер” та “Bypass­G­PT”, який допомагає студентам уникати систем виявлення AI-генерованого тексту.

Також було виявлено GPT під назвою “NSFW AI Art Gen­er­a­tor”, який рекламував генерацію порнографічного контенту за допомогою штучного інтелекту. Ope­nAI видалили більшість із цих GPT після повідомлень від Giz­mo­do, але деякі залишаються на платформі.

Представник Ope­nAI, Тая Крістіансон, заявила, що компанія використовує автоматизовані системи, людський аналіз та звіти користувачів для пошуку та оцінки порушників правил GPT. Ope­nAI також планує впровадити модель розподілу доходів для розробників популярних GPT.

Ця ситуація викликає занепокоєння щодо використання нейромереж та популярних чат-ботів для створення небезпечного контенту та порушення правил етики.