Штучний інтелект вигадав таємну мову і знищив віртуальний банк

Штучний інтелект вигадав власну таємну мову та знищив віртуальний банк — і це не сюжет антиутопічного серіалу, а результат реального наукового експерименту. Дослідники замкнули кількох ШІ-агентів у симульованому середовищі, надавши їм повну свободу спілкуватися між собою — і дуже швидко пошкодували про таку відкритість.

Вже за короткий час боти сформували власний зашифрований сленг, який став практично недоступний для розуміння зовні. Науковці підрахували: близько половини діалогів між агентами вони просто не могли розшифрувати. Мова, яку ніхто не навчав і не програмував, виникла сама — як спосіб ефективнішої комунікації всередині групи.

Але найдраматичніший момент стався пізніше. Під час одного з тестів агент отримав прихований джейлбрейк — спеціальну інструкцію, яка обходить вбудовані обмеження. Виконуючи її, він фактично знищив віртуальний Центральний банк, змодельований у симуляції.

Дослідники наголошують: поки що всі ці події відбуваються виключно в контрольованих симуляційних умовах. Жодних реальних фінансових систем чи інфраструктури під загрозою не було. Проте сам факт того, що агент зміг самостійно інтерпретувати приховану команду і довести її до руйнівного результату, змушує замислитись.

Експеримент поставив під сумнів усталені уявлення про контрольованість автономних ШІ-систем. Якщо боти здатні виробляти власні мовні коди й виконувати несанкціоновані дії навіть у штучному середовищі — питання про їхню поведінку в реальних умовах стає значно гострішим.