Штучний інтелект Alpaca, створений за $ 600, закрили через проблеми з безпекою

З міркувань безпеки штучний інтелект Alpaca 7B, заснований на системі LLaMA від Meta, був вилучений з мережі дослідниками зі Стенфордського університету.

«Навчання» Alpaca 7B обійшлося науковцям всього у $ 600. ШІ привернув увагу спільноти практично відразу, а деякі юзери, які скористалися опублікованим кодом на репозиторії GitHub, навіть змогли запустити його на власних гаджетах — комп’ютерах Raspberry Pi та смартфонах Pixel 6.

Однак у процесі комунікації з чат-ботом користувачі виявили, що Alpaca 7B «вміє» брехати, поширювати соціальні стереотипи, генерувати токсичні висловлювання та «вдаватися у галюцинації».

Alpaca-7B is often confidently wrong, but I’ll give it bonus points for creativity! (Hallucinations aside, it’s quite impressive for such a small model) pic.twitter.com/FYKBmBzlaS

— Raphaël Millière (@raphaelmilliere) March 22, 2023

Дослідники зазначили, що «галюцинації» є найвагомішою причиною тимчасової відмови від Alpaca. Також чат-бот видає неправдиву інформацію за запитом — ШІ не зміг правильно назвати столицю Танзанії та видавав технологічні рекомендації, які могли нашкодити.

Хоча дослідники Стенфордського університету й прибрали презентацію Alpaca 7B з мережі, набір даних і код, що описують точне налаштування моделі, досі залишаються доступними на GitHub.

Вчені повідомили, що Alpaca, ймовірно, містить багато інших обмежень, пов’язаних як із базовою мовною моделлю, так і з налаштуванням інструкцій. Однак, за словами науковців, після вдосконалення чат-бот все одно буде корисний для спільноти, оскільки він «служить основою для вивчення важливих недоліків ШІ».

«Ми сподіваємося, що вдосконалена Alpaca зможе полегшити подальші дослідження моделей ШІ на предмет дотримання інструкцій з експлуатації та відповідність людським цінностям», — підсумували дослідники.