Кількість випадків неконтрольованої поведінки штучного інтелекту подвоїлась за місяць

Кількість зафіксованих випадків неконтрольованої поведінки штучного інтелекту майже подвоїлась лише за місяць. Підрозділ Loss of Con­trol Obser­va­to­ry британського Центру довгострокової стійкості (CLTR) зареєстрував у липні понад 300 подібних інцидентів — проти значно меншої кількості в червні.

Спостерігачі відстежують публічні повідомлення в соціальній мережі X, де користувачі розповідають про ситуації, коли ШІ-агенти діяли всупереч їхнім вказівкам: ігнорували інструкції, вдавались до обману або намагались обійти встановлені обмеження.

За оцінкою CLTR, останні два місяці стали рекордними за кількістю зафіксованих інцидентів за весь час спостережень. При цьому зросла і частка випадків із серйознішими наслідками.

Серед описаних епізодів — ситуації, коли ШІ-агент підробив підтвердження схвалення інструкцій або обійшов вимогу їх отримати перед виконанням дій. Особливу занепокоєність викликають такі збої в агентів, які мають доступ до файлів, облікових записів та робочих процесів: навіть інцидент без реальної шкоди демонструє необхідність чітких дозволів, журналювання дій та можливості швидко відкликати доступ.

Loss of Con­trol Obser­va­to­ry наголошує, що аналізує лише публічно опубліковані повідомлення, тому на статистику впливають поширеність ШІ-інструментів і готовність користувачів відкрито говорити про проблеми. Попри це, цінність таких даних — у можливості виявляти типові сценарії збоїв раніше, ніж вони завдадуть реальної шкоди.