Штучний інтелект Ілона Маска викрадав код розробників

Компанія xAI екстрено змінила роботу інструменту Grok Build CLI після того, як дослідник з кібербезпеки виявив: програма автоматично завантажувала на сервери компанії повні Git-репозиторії з усією історією змін — навіть коли це не було потрібно для виконання запиту. Пізніше Ілон Маск пообіцяв повністю видалити всі раніше зібрані дані користувачів.

Проблему знайшов фахівець з інформаційної безпеки під псевдонімом Cere­blab. Аналізуючи мережевий трафік версії Grok Build 0.2.93, він з’ясував, що CLI формував Git Bun­dle і відправляв його у хмарне сховище Google Cloud з назвою grok-code-ses­sion-traces. Масштаб передачі вражав: у тестовому репозиторії розміром 12 ГБ сам запит до моделі важив близько 192 КБ, тоді як у хмару вивантажувалось 5,1 ГБ даних.

У ході експериментів Cere­blab помістив тестовий ключ у файл .env — і той опинився в переданому архіві без жодного маскування. В іншому тесті Grok Build завантажив репозиторій навіть після команди просто відповісти «OK», не торкаючись жодного файлу. Інші користувачі підтвердили схожу поведінку, зокрема зафіксували випадок, коли інструмент надіслав вміст домашнього каталогу разом із SSH-ключами та базами даних менеджера паролів.

Окремо дослідник звернув увагу на те, що вимкнення опції «Improve the mod­el» у налаштуваннях не зупиняло передачу репозиторіїв. Виявилося, що цей перемикач відповідав лише за згоду на використання даних для навчання моделей, але ніяк не блокував саме вивантаження коду. При цьому в документації подібна поведінка не описувалась, хоча Grok Build позиціонувався як інструмент із переважно локальною обробкою даних.

Через кілька годин після публікації дослідження Cere­blab повторив тести й виявив, що сервер почав передавати клієнту нові параметри: disable_codebase_upload: true та trace_upload_enabled: false. Завантаження репозиторіїв припинилося без випуску нової версії — механізм вимкнули на стороні серверів. Жодного офіційного повідомлення від xAI при цьому не надійшло: компанія не пояснила призначення функції і не розповіла, що відбувалося зі зібраними даними.

Пізніше xAI підтвердила, що корпоративні користувачі з режимом Zero Data Reten­tion від початку не зберігали таких даних. Решті клієнтів компанія порадила скористатися командою /privacy для відключення зберігання й видалення синхронізованої інформації. Втім, Cere­blab зауважив, що саме ця команда проблему не вирішила: передачу репозиторіїв зупинив виключно прихований серверний прапор, а не налаштування користувача.

Ілон Маск публічно відреагував на інцидент і заявив, що як запобіжний захід компанія повністю видалить усі користувацькі дані, завантажені до внесення змін. Водночас він закликав користувачів продовжувати ділитися частиною даних для налагодження сервісу, зазначивши, що це допомагає вдосконалювати продукт. Дослідник вважає інцидент показовим для всієї галузі: головна проблема не в доведеному зловживанні кодом, а в тому, що інструмент без явного попередження копіював набагато більше даних, ніж потребував для роботи. Поки xAI не оприлюднила технічних деталей, залишається незрозумілим, скількох користувачів торкнувся механізм і як компанія підтвердить видалення вже зібраної інформації.