Штучний інтелект повідомив поліції про погрози та допоміг провести арешт

У Флориді заарештували 30-річну жінку, яка обговорювала напад на місцевий відділ шерифа з ШІ-чатботом Claude. За даними поліції, 26 вересня вона написала про «намір напасти на офіс шерифа», а вже наступного дня повідомила, що придбала зброю і назвала це «останнім попередженням».

Повідомлення автоматично виявила система безпеки компанії Anthrop­ic, яка розробляє Claude. Коли переписка досягла «певного рівня ризику», її додатково перевірили співробітники компанії вручну.

Вирішивши, що погрози є «достатньо серйозними», представники Anthrop­ic звернулися до правоохоронних органів. Поліція швидко встановила особу жінки та затримала її.

Жінці висунули обвинувачення у «письмовій погрозі насильством». За законодавством Флориди це кримінальний злочин, за який передбачено до 15 років ув’язнення та штраф до 10 000 доларів.

Цей випадок став одним із перших публічних прикладів того, як компанія — розробник штучного інтелекту самостійно передала переписку користувача до поліції. Він відкриває широку дискусію про межі конфіденційності в чатах зі штучним інтелектом і про те, за яких умов компанії мають право розкривати особисте листування.