Підписуйтеся на наш телеграм канал!

Штучний інтелект навчився обманювати інші нейромережі і через це деградувати

5:31 pm, 1 Вересня, 2023

Вчені з Університетів Оксфорда та Кембриджа опублікували наукову статтю про ризики розповсюдження контенту, створеного штучним інтелектом. Згідно з дослідженням, великі мовні моделі (LLM, Large Language Models) становлять серйозну загрозу одна одній. Можливо, згодом вони почнуть видавати менш якісні відповіді, оскільки навчаються на даних із відкритих інтернет-ресурсів, генерованих іншими ШІ.

Феномен назвали «model collapse» (колапс моделі). Інші фахівці зі Стенфорда та Університету Райса назвали його «Model Autography Disorder» (розлад самозапису моделі). Джатан Садовскі, австралійський дослідник, також запровадив свій термін — «Габсбурзький ШІ».

Точних прогнозів поки немає, але експерти вважають, що через «самопожираючий» цикл розвитку LLM виявляти джерела навчальної інформації стане в рази складніше. Рей Ванг, генеральний директор компанії Constellation Research, вважає, що «для відкритого інтернету незабаром настануть темні часи». За словами Ванга, може статися таке, що достовірні джерела почнуть обмежувати доступ до свого контенту, впроваджувати платні підписки.

Компанія NewsGuard, яка знаходить фейки, нещодавно виявила в мережі 452 ненадійних ресурси з ШІ-генерованими новинами. Багато фахівців підтверджують: детектори контенту, такі як ZeroGPT та Text Classifier від OpenAI, є недостатньо надійними.

Нагадаємо — у травні цього року китайська влада затримала чоловіка за використання ChatGPT для написання фейкових новин. Це стало першим випадком арешту за зловживання штучним інтелектом. Чоловік на прізвище Хонг «використовував сучасні технічні засоби для виготовлення підробленої інформації та поширював її у соціальних мережах», — повідомили представники Міністерства громадської безпеки провінції Ганьсу.

Підписуйтеся на наш телеграм канал!

BTC

$65,758.17

3.03%

ETH

$3,467.71

1.24%

BNB

$582.20

2.21%

XRP

$0.56

-1.64%

SOL

$168.30

7.03%

Всі курси
Підписуйтеся на наш
телеграм канал!
Свіжі новини та огляди
ринків криптовалют останньої
доби прямо у вашому мессенджері. Чекаємо на вас!
ПЕРЕЙТИ
Показати більше