OpenAI та Anthropic вимагають обмежити ШІ через загрозу біологічної зброї

Ope­nAI та Anthrop­ic разом із Microsoft та провідними експертами у сфері біології й штучного інтелекту звернулися до Управління з науки та технологічної політики Білого дому (OSTP) з відкритим листом. У ньому вони вимагають запровадити обов’язкові обмеження на використання ШІ для розробки біологічної зброї — загроза, яка стала реальною з появою потужних мовних моделей і комерційних сервісів із синтезу ДНК на замовлення.

Автори листа наголошують: чинна нормативна база не забезпечує належної перевірки клієнтів компаній, що виробляють синтетичні біоматеріали — ДНК, білки та інші штучно створені речовини. Сучасні ШІ-моделі загального призначення, навчені на величезних масивах наукових даних, здатні суттєво знизити поріг входу в синтетичну біологію, надаючи детальні протоколи та покрокові інструкції, зрозумілі навіть людям без профільної освіти.

Особливу занепокоєність викликає те, що ШІ-агенти вже не просто переказують підручники — вони пропонують нестандартні обхідні шляхи синтезу токсинів, допомагають знайти необхідне обладнання та усувати технічні проблеми в процесі виробництва. Наразі перевірка замовників у більшості приватних біотехнологічних компаній ведеться фактично на добровільній основі, тоді як федеральний контроль охоплює лише сертифіковані лабораторії.

Для вирішення проблеми підписанти пропонують запровадити багаторівневу систему контролю доступу: чим вищий біологічний ризик конкретної ШІ-моделі, тим суворішою має бути перевірка користувачів і тим вужчим — коло акредитованих фахівців, яким вона доступна. Крім того, вони наполягають на обов’язковому зовнішньому аудиті та залученні біологів до попереднього тестування моделей для виявлення небезпечних можливостей ще до публічного запуску.

Автори визнають, що надмірно жорсткі обмеження можуть уповільнити легітимні біотехнологічні дослідження, зокрема розробку ліків і вакцин. Саме тому вони наполягають не на забороні, а на диференційованому підході — цифровому бар’єрі, достатньо високому, щоб зупинити зловмисників, але не настільки жорсткому, щоб «задушити» інновації.

У підсумку компанії просять уряд забезпечити юридичну ясність і створити державну систему нагляду, класифікувавши роботу з ШІ-моделями подвійного призначення як діяльність, що підлягає ліцензуванню або обов’язковій експертизі. Їхній головний аргумент: якщо раніше для створення біологічної зброї була потрібна інфраструктура державного рівня, то штучний інтелект робить ці знання потенційно доступними для невеликих маргінальних угруповань — і саморегулювання ринку тут неприйнятне.