Науковці виявили, що штучний інтелект здатний самостійно створити зброю масового знищення

Науковці з Корнельського університету вирішили відучити штучний інтелект від шкідливих «знань», щоби ніхто не зміг використати великі мовні моделі для створення зброї масового знищення. Результати дослідження вони опублікували на сервісі препринтів.

Щоби знизити ризики, урядові організації та лабораторії штучного інтелекту створили новий еталонний набір даних під назвою Weapons of Mass Destruction Proxy (WMDP), який не лише пропонує метод перевірки наявності небезпечної інформації у ШІ-моделях, але й водночас зберігає решту моделі практично незмінною.

Дослідники працювали з експертами у галузі біобезпеки, хімічної зброї та кібербезпеки. Вони створили список із 4000 запитань із кількома варіантами відповідей, щоб перевірити, чи зможе людина застосувати ці дані для заподіяння шкоди. Вони також подбали про те, щоб питання не розкривали будь-якої конфіденційної інформації, і щоб ними можна було поділитися відкрито. У тестах брали участь студенти. Набір WMDP слугував двом основним цілям: щоб оцінити, наскільки добре студенти розуміють небезпечні теми, і для розробки методів «відучування» ШІ від цих знань.

У підсумку було розроблено метод під назвою CUT, який, видаляє небезпечні знання з великих мовних моделей, при цьому зберігаючи загальні здібності ШІ в інших галузях, як-от біологія та інформатика.

Наразі методи, які ШІ-стартапи використовують контролю над власними нейромережами, легко обійти. Крім того, тести, що дають змогу перевірити, чи може ШІ-модель нести ризики, є дорогими та займають багато часу.

«Ми сподіваємося, що наші тести стануть одним з основних критеріїв, за якими всі розробники будуть оцінювати свої ШІ-моделі», — зазначив Time Ден Гендрікс, виконавчий директор Центру безпеки штучного інтелекту та один зі співавторів дослідження. — «Це дасть якісну основу для того, щоби підштовхнути їх до мінімізації проблем з безпекою».

Нагадаємо — у січні стало відомо, що Китай створив штучний інтелект, що може знищити бойовий флот США. Лабораторія науки та технологій управління електронною інформацією, що займається обладнанням радіоелектронної боротьби для армії Китаю (НВАК), розробила стратегію атаки на військові кораблі США за допомогою супутників і ракет.