Штучний інтелект Google видалив всі профілі сім’ї після того, як син вирішив зробити хтивку

У Британії 14-річний підліток вирішив роздягтися перед голосовим помічником Gem­i­ni Live, увімкнувши доступ до камери планшета. Після цього штучний інтелект заблокував акаунти Google всієї його родини, а разом з ними — всі пов’язані документи та дані.

Gem­i­ni Live — голосовий чат-помічник від Google, запущений влітку 2024 року. Він дозволяє спілкуватися з ШІ у форматі, наближеному до живої розмови, а також аналізує об’єкти навколо користувача та вміст екрана його пристрою.

Система розпізнала неприйнятну поведінку неповнолітнього користувача і протягом кількох днів заблокувала його обліковий запис. Разом із ним доступ втратили й усі інші акаунти на тому ж планшеті. Загалом від своїх профілів виявилися відрізані п’ять осіб — сам підліток, його батьки та дві сестри.

Про цей випадок розповів користувач Red­dit, імовірно батько хлопця. За його словами, через блокування стали недоступні матеріали, пов’язані з 15-річною підприємницькою діяльністю. Електронна пошта, документи та робочі файли зберігалися на Google Dri­ve, а навіть вебсайт бізнесу був прив’язаний до заблокованого акаунта Google. Чоловік зазначив, що не уявляє, як сплачуватиме іпотеку через три місяці. Одна з його дочок пережила емоційний зрив, оскільки їй незабаром потрібно захищати дисертацію.

Відновити заблоковані дані буде вкрай непросто. Для Google та інших технологічних компаній виявлення матеріалів із сексуальним насильством над дітьми є питанням корпоративного виживання, тому будь-яка поблажливість у цих питаннях виключена. Видання PC World зауважує, що зв’язатися з технічною підтримкою Google складно навіть у звичайних ситуаціях — для пересічного користувача в настільки чутливому випадку це може виявитися справжнім кошмаром.