Віталік Бутерін виступив проти залучення ШІ до управління фінансами

Співзасновник Ethereum Віталік Бутерін застеріг від ідеї передати штучному інтелекту повноваження з управління фінансовими чи організаційними системами. За його словами, ризики такого підходу значно перевищують потенційні переваги, адже алгоритми можна обманути та використати у шахрайських цілях.

Бутерін пояснив, що якщо штучному інтелекту доручити ухвалення рішень щодо фінансування, зловмисники швидко навчаться маніпулювати ним. Використовуючи так звані jail­break-команди, вони зможуть перенаправляти ресурси у власні руки замість справедливого розподілу.

Дискусія загострилася після того, як генеральний директор Edis­on­Watch Ейто Міямура виявив уразливість у новій версії Chat­G­PT. Оновлення дозволило сервісу взаємодіяти з популярними додатками на кшталт Gmail, Notion і Google Cal­en­dar. Міямура показав, що це може бути використано для крадіжки особистих даних користувачів.

За його демонстрацією, зловмисник може надіслати інвайт у календар із прихованою командою, яка спрацює, коли користувач попросить Chat­G­PT підготувати розклад дня. У такому випадку штучний інтелект може бути зламаний і надати хакеру доступ до електронної пошти чи іншої приватної інформації.

Як альтернативу повному «керуванню машинами» Бутерін пропонує створити систему «інфофінансів» — ринок, де конкурують різні моделі ШІ під постійним наглядом. За його задумом, незалежні рецензенти та журі за участі людей і мовних моделей мають виконувати роль контролерів. Така багаторівнева перевірка, на думку Бутеріна, допоможе швидко виявляти недоліки й стимулюватиме розробників дотримуватися чесних практик.