Через помилку штучного інтелекту до в’язниці потрапила невинна людина

Поліція американського штату Джорджія незаконно затримала 28-річного Рендалла Рейда — технологія розпізнавання обличчя «сплутала» його та справжнього грабіжника. Чоловіка звинуватили у крадіжці елітних гаманців Chanel і Louis Vuitton на $ 10 000, щоправда, правоохоронці не врахували те, що за зовнішніми ознаками Рейд кардинально відрізнявся від реального злочинця. Рейд темношкірий, важить на 20 кг менше за зловмисника та ніколи не бував у населеному пункті, де здійснили крадіжку.

Ситуація викликала бурхливу дискусію в інтернеті. Оскільки Рейд афроамериканець, існує припущення щодо расової «упередженості» штучного інтелекту. Чоловіка випустили на волю за шість днів, коли правоохоронці штату виявили та визнали власну помилку.

Правозахисники наголошують, що використання технологій розпізнавання порушує право людини на приватність. Для ефективної роботи з «розпізнавання» ШІ потрібні десятки фото, які алгоритм обробляє в режимі реального часу. Цифрові камери зі штучним інтелектом досліджують приблизно 80 унікальних вузлових точок на обличчі людини — ширину носа, глибину очних западин, лінію щелепи, форму вушних раковин, губ тощо. Водночас алгоритм ігнорує такі важливі прикмети, як родимки чи татуювання. Як результат — зростає ризик помилкового зіставлення реального зображення людини із фото з бази даних пристрою.

Нагадаємо — у Китаї розробили пальто-невидимку, яке не бачать камери спостереження. InvisDefense ускладнює розпізнавання особистості на 57%. Малюнок на тканині відбиває світло таким чином, що камери не встигають відреагувати на видимі кольори. У нічний час доби спеціальні пристрої, якими також оснащене пальто, спотворюють теплове випромінювання і роблять людину непомітною для інфрачервоних датчиків.

Схожий винахід наприкінці листопада представила група дослідників з Мерилендського університету в Коледж-Парку, яка працює зі штучним інтелектом Facebook. Вчені розробили светр-невидимку, який може приховати людину від камер спостереження. Дослідники використовували набір даних SOCO, на якому «навчається» алгоритм комп’ютерного зору YOLOv2. Як зазначають науковці, власник такого светра не буде ідентифікований жодними сучасними камерами спостереження.