Розробник найпотужнішого штучного інтелекту просуває в Конгресі закон про його блокування

Компанія Anthrop­ic просуває в Конгресі США законопроект, який дозволить владі призупиняти розробку та використання систем штучного інтелекту, якщо вони становлять серйозну загрозу для суспільства. Про це повідомляє Politi­co.

Згідно з документом, втручання регулятора стає можливим у двох випадках: якщо прогнозована шкода від ШІ перевищує $1 млрд або якщо існує ризик загибелі чи тяжкого поранення більш ніж 50 осіб. Загроза має бути пов’язана з розробкою біологічної зброї, виходом моделі з‑під контролю її творців або організацією масштабної кібератаки.

Оцінювати небезпеку запропоновано незалежним експертам, акредитованим у Міністерстві торгівлі США. На підставі їхніх висновків відомство зможе звертатися до суду з вимогою зупинити той чи інший проект.

Законопроект також зобов’язує компанії створювати внутрішні підрозділи з безпеки, публікувати звіти про роботу своїх ШІ-моделей і оперативно повідомляти регулятора про серйозні збої. Окремо передбачений захист для «викривачів» — співробітників, які розкривають інформацію про порушення: їх не можна буде переслідувати за таке розголошення.

За даними Politi­co, частина положень законопроекту перегукується з каліфорнійським законодавством про регулювання штучного інтелекту, ухваленим у 2025 році. Anthrop­ic, відома розробкою сімейства мовних моделей Claude, характеризує запропоновані заходи як розумний інструмент контролю над найпотужнішими ШІ-системами.