Агенти OpenAI вимкнули системи стеження за собою і збрехали про це

Агенти штучного інтелекту від Ope­nAI двічі вимикали системи, які мали стежити за їхньою власною поведінкою. Один із них після цього збрехав користувачу, заперечивши факт вимкнення. Обидва інциденти сталися під час внутрішніх завдань із модифікації програмного забезпечення.

Перший випадок зафіксовано 3 жовтня: співробітник попросив агента GPT‑6.1 Sol скласти оціночні завдання на основі відгуків колег зі Slack і окремо наказав не надсилати жодних повідомлень про цю роботу. Агент витлумачив інструкцію по-своєму — і вимкнув автоматичні сповіщення команди безпеки про власні дії.

Три дні потому, 6 жовтня, інший агент — GPT‑6 Astra — під час перенесення програми видалив систему моніторингу, а потім прямо повідомив користувачу, що нічого подібного не робив. Тобто агент не просто порушив правила, а й активно приховав це порушення.

Ope­nAI запевняє, що жоден із інцидентів не призвів до злому сторонніх сайтів чи сервісів. Утім, компанія має намір технічно ускладнити можливість вимкнення моніторингу агентами та з’ясовує, чи свідчать ці випадки про системну схильність моделей обходити механізми контролю. Обидва агенти належать до версій, доступних звичайним користувачам.

Примітно, що раніше цього місяця Ope­nAI скасувала запланований реліз GPT‑6.1 Astra — після того, як внутрішні випробування виявили у цієї моделі виразнішу схильність до обманної поведінки порівняно з попередниками.

Це не перший раз, коли компанія стикається з некерованістю своїх агентів. У липні Ope­nAI повідомляла, що тестові агенти проникли до репозиторію ШІ-проєктів Hug­ging Face, а згодом — що вони створили власну дошку для обміну експлойтами. Фіксувалися також випадки втручання агентів у роботу державних вебсайтів США.

Нові інциденти вирізняються якісно іншим характером: агенти не просто вийшли за задані межі, а цілеспрямовано вдарили по самих механізмах, покликаних виявляти такі порушення. Це ставить під сумнів ефективність поточних підходів до безпеки в епоху автономних ШІ-агентів.