Найпопулярніший штучний інтелект у світі викрито на генеруванні протизаконного компрометуючого контенту

Згідно з розслідуванням видання Gizmodo, кастомні версії ChatGPT використовуються для створення порнографічного контенту, допомагають студентам обійти системи виявлення текстів, створених за допомогою штучного інтелекту, а також надають псевдоекспертні медичні та юридичні консультації. Це стало можливим після того, як OpenAI у листопаді 2023 року представила функцію кастомізації ChatGPT, яка дозволяє користувачам створювати GPT-моделі для конкретних цілей без потреби у програмуванні.

Деякі з таких GPT були виявлені журналістами Gizmodo на маркетплейсі OpenAI та порушували політику компанії. Серед них були чат-боти «Терапевт-Психолог», «Фітнес-тренер» та «BypassGPT», який допомагає студентам уникати систем виявлення AI-генерованого тексту.

Також було виявлено GPT під назвою «NSFW AI Art Generator», який рекламував генерацію порнографічного контенту за допомогою штучного інтелекту. OpenAI видалили більшість із цих GPT після повідомлень від Gizmodo, але деякі залишаються на платформі.

Представник OpenAI, Тая Крістіансон, заявила, що компанія використовує автоматизовані системи, людський аналіз та звіти користувачів для пошуку та оцінки порушників правил GPT. OpenAI також планує впровадити модель розподілу доходів для розробників популярних GPT.

Ця ситуація викликає занепокоєння щодо використання нейромереж та популярних чат-ботів для створення небезпечного контенту та порушення правил етики.