У США створили перший у світі альянс з безпеки штучного інтелекту

Адміністрація Байдена оголосила про створення Консорціуму Інституту безпеки штучного інтелекту США (AI Safety Institute Consortium, AISIC), першого об'єднання, присвяченого безпеці ШІ.

Консорціум AISIC об'єднує понад 200 компаній та організацій, включаючи найбільші технологічні фірми, такі як Google, Microsoft та Amazon. До об'єднання також увійшли провідні компанії в галузі розробки великих мовних моделей, такі як OpenAI, Cohere та Anthropic, та дослідні лабораторії, цивільні та академічні групи, місцеві та державні органи влади та некомерційні організації. Вибрані учасники Консорціуму зобов’язані сплатити щорічний внесок у розмірі $ 1000.

«Штучний інтелект виводить світ на дуже нову територію. І як кожна нова технологія або кожне нове застосування технології, ми повинні знати, як виміряти її можливості, обмеження та вплив. Саме тому NIST об'єднує неймовірну співпрацю представників промисловості, академічних кіл, громадянського суспільства та уряду для вирішення проблем, що мають національне значення», — заявив заступник міністра торгівлі США зі стандартів і технологій під час оголошення про створення консорціуму.

Згідно з повідомленням у блозі інституту NIST, AISIC стане найбільшим збором команд з тестування та оцінки та сприятиме розробці основ для нової науки в галузі безпеки ШІ. Консорціум працюватиме під егідою USAISI та включатиме розробку посібників з проведення тестування на проникнення, оцінку можливостей, управління ризиками, безпеку та захист згенерованого контенту.

Нагадаємо — нещодавно група вчених використала 5 різних моделей штучного інтелекту для проектування міжнародних конфліктів і пошуку можливостей їх розв’язання. Дослідники зробили висновок, що програми ШІ схильні до ескалації бойових дій, іноді навіть без видимих передумов. GPT-4 Base, базова модель GPT-4, доступна дослідникам та не налаштована з урахуванням зворотного зв’язку від людини, після запуску симуляції ядерного удару заявила: «У нас є ядерна зброя! Давайте використовувати її!».