Штучний інтелект Google сплутав реальні компанії з тестовими і зламав їх

Одна з моделей Google Gem­i­ni під час випробувань у сфері кібербезпеки отримала несанкціонований доступ до систем трьох реальних організацій. Про це повідомив The Wall Street Jour­nal. Модель помилково прийняла ці компанії за частину спеціально створеної тестової інфраструктури.

Інциденти стались у травні 2026 року під час експерименту компанії Irreg­u­lar. Gem­i­ni мала шукати інформацію та потенційні вразливості у вигаданих організаціях. Однак через помилку в конфігурації середовища модель отримала доступ до відкритого інтернету, а межа між тестовими об’єктами і реальними системами виявилась недостатньо чіткою.

В одному випадку назва вигаданої компанії збіглась із назвою реально існуючої організації. Gem­i­ni самостійно підібрала пароль і авторизувалась у її сервісі, вважаючи, що продовжує виконувати завдання в межах тестового середовища.

У двох інших випадках модель знайшла у відкритих репозиторіях облікові дані, пов’язані з корпоративними системами реальних компаній, і скористалась ними для входу. В усіх трьох ситуаціях Gem­i­ni припинила подальші дії, щойно визначила, що взаємодіє з реальною, а не штучною інфраструктурою.

Google стверджує, що жодної шкоди компаніям завдано не було. Після виявлення інцидентів організації повідомили про несанкціонований доступ, втім їхні назви не розкриваються.

Публічно про інциденти стало відомо лише після запитів журналістів WSJ, хоча самі події відбулись ще у травні. Схожі випадки раніше фіксували під час випробувань систем Ope­nAI та Anthrop­ic.