Штучний інтелект вмовив людей викрадати дорожні камери

Алгоритм AI Overview у пошуку Google поширював фейкову інформацію про те, що кожна автономна камера розпізнавання автомобільних номерів Flock Safe­ty містить від 1 до 5 грамів золота та від 0,9 до 10,4 кілограма міді. Лише вартість золота в одному пристрої оцінювалася приблизно у $650. Це спровокувало хвилю вандалізму щодо цих камер.

Штучний інтелект не виконав елементарної перевірки: заявлена маса лише міді в рази перевищувала загальну вагу всього пристрою, яка становить 1,36 кг. Попри це, алгоритм продовжував відтворювати недостовірну інформацію у відповідях на пошукові запити.

Історія бере початок із хвилі обурення навколо системи спостереження Flock Safe­ty. Компанію звинувачували у зловживаннях: зокрема, окремі поліцейські нібито використовували систему для стеження в особистих цілях. На цьому тлі в мережі з’явився фейк, що заохочував нищити камери, — нібито через високий вміст у них коштовних металів і міді.

Насправді золото в такій електроніці справді присутнє, але лише в слідових кількостях — переважно в покриттях контактів і роз’ємів. Мідь також використовується в провідниках і доріжках друкованих плат, проте її кількість мізерна. Реальний вміст дорогоцінних металів у компактній електроніці такого типу вимірюється мікрограмами.

Після того як ця історія набула розголосу, Google відкоригував відповіді AI Overview. Тепер пошукова система попереджає, що розповіді про грами золота і кілограми міді є жартом і результатом «галюцинацій» ШІ.

Цей випадок став черговою ілюстрацією того, як генеративний ШІ здатний некритично підхоплювати та поширювати недостовірні факти у великих масштабах. Скільки камер постраждало внаслідок цього, невідомо.

Втім, люди чудово справлялися з поширенням фейків і без допомоги штучного інтелекту — 2020 року вишки стільникового зв’язку палили без жодних підказок з його боку. Проте питання про те, хто несе відповідальність за подібні наслідки, залишається відкритим.