Підписуйтеся на наш телеграм канал!

Штучний інтелект Alpaca, створений за $ 600, закрили через проблеми з безпекою

6:23 pm, 23 Березня, 2023

З міркувань безпеки штучний інтелект Alpaca 7B, заснований на системі LLaMA від Meta, був вилучений з мережі дослідниками зі Стенфордського університету.

«Навчання» Alpaca 7B обійшлося науковцям всього у $ 600. ШІ привернув увагу спільноти практично відразу, а деякі юзери, які скористалися опублікованим кодом на репозиторії GitHub, навіть змогли запустити його на власних гаджетах — комп’ютерах Raspberry Pi та смартфонах Pixel 6.

Однак у процесі комунікації з чат-ботом користувачі виявили, що Alpaca 7B «вміє» брехати, поширювати соціальні стереотипи, генерувати токсичні висловлювання та «вдаватися у галюцинації».

Дослідники зазначили, що «галюцинації» є найвагомішою причиною тимчасової відмови від Alpaca. Також чат-бот видає неправдиву інформацію за запитом — ШІ не зміг правильно назвати столицю Танзанії та видавав технологічні рекомендації, які могли нашкодити.

Хоча дослідники Стенфордського університету й прибрали презентацію Alpaca 7B з мережі, набір даних і код, що описують точне налаштування моделі, досі залишаються доступними на GitHub.

Вчені повідомили, що Alpaca, ймовірно, містить багато інших обмежень, пов’язаних як із базовою мовною моделлю, так і з налаштуванням інструкцій. Однак, за словами науковців, після вдосконалення чат-бот все одно буде корисний для спільноти, оскільки він «служить основою для вивчення важливих недоліків ШІ».

«Ми сподіваємося, що вдосконалена Alpaca зможе полегшити подальші дослідження моделей ШІ на предмет дотримання інструкцій з експлуатації та відповідність людським цінностям», — підсумували дослідники.

Підписуйтеся на наш телеграм канал!

BTC

$64,260.89

-0.55%

ETH

$3,503.45

-0.38%

BNB

$584.97

-0.38%

XRP

$0.49

-0.55%

SOL

$134.96

1.42%

Всі курси
Підписуйтеся на наш
телеграм канал!
Свіжі новини та огляди
ринків криптовалют останньої
доби прямо у вашому мессенджері. Чекаємо на вас!
ПЕРЕЙТИ
Показати більше