Штучний інтелект навчився створювати контент, який вводить в оману людей

Vareity інформує: користувачі насилу відрізняють відео, зняті на камеру, ввід роликів, згенерованих штучним інтелектом Sora від OpenAI.

Під час опитування HarrisX, проведеного за кілька тижнів після презентації ШІ-моделі, більшість респондентів неправильно визначили автора відео.

Учасники опитування висловили думку, що влада США має ухвалити закон, що вимагає маркувати контент, створений ШІ. Вони також заявили про необхідність регулювання всіх форматів, включно з відео, зображеннями, текстом, музикою, субтитрами та звуками.

Крім того, ШІ-відео викликає дуже багато запитань, з огляду на потенційну небезпеку діпфейків.

«У міру того, як зростає складність генеративного ШІ, зростає і стурбованість його впливом. Збільшується кількість закликів до належного маркування та регулювання цієї технології. Індустрія повинна докладати більше зусиль як для створення бар'єрів від шахраїв, так і для правильного інформування аудиторії про свої дії та цілі», — повідомив глава дослідницького відділу HarrisX Дрітан Нешо.

Коли респондентам розповіли, які відеоролики створені нейромережею, їх попросили описати свої емоції. Реакції розподілилися таким чином:

• цікавість — 28%;
• невпевненість — 27%;
• тривога — 18%;
• натхнення — 18%;
• страх — 2%.

Нагадаємо — розробники компанії OpenAI нещодавно представили нову модель штучного інтелекту під назвою Sora, яка призначена для перетворення тексту на відео. Нейромережа може створювати високоякісний і динамічний контент за допомогою простих текстових підказок