Пентагон вимагає від технологічних корпорацій звітність про розробку штучного інтелекту

Крейг Мартелл, головний офіцер Пентагону з цифрових технологій і штучного інтелекту, хоче, щоб технологічні гіганти поділилися інформацією про те, як побудоване їхнє програмне забезпечення для ШІ. Чиновник зазначив, що корпорації не втратять права на інтелектуальну власність, однак його відомство почуватиметься «комфортно і безпечно». Про це інформує Bloomberg.

«Ми просто отримуємо кінцевий результат побудови моделі — цього недостатньо», — зазначив Мартелл. За його словами, Пентагон не має жодного уявлення про те, як побудовані великі мовні моделі і які дані були використані для їхнього навчання.

Офіцер Пентагону обурений, що компанії також не пояснюють, яку небезпеку можуть становити їхні системи.

«Вони кажуть: «Ось воно. Ми не розповідаємо вам, як ми його створили. Ми не говоримо вам, в чому вона [велика мовна модель] хороша чи погана. Ми не говоримо вам, упереджена вона чи ні», — розмірковує Мартелл.

Військовий чиновник назвав такі моделі еквівалентом «знайденої інопланетної технології» для Міністерства оборони. Він також стурбований тим, що лише декілька груп людей мають достатньо грошей, щоб побудувати LLM (великі мовні моделі). Мартелл не назвав жодної компанії, однак відомо, що такими розробками займаються Microsoft Corp., Google Alphabet Inc. та Amazon.com Inc. До когорти тих, хто працює з ШІ, також відностяться стартапи OpenAI та Anthropic.

У лютому наступного року Мартелл запрошує представників ШІ-промисловості та науковців до Вашингтону, щоб обговорити проблеми, створені розвитком нейромереж. За його словами, симпозіум Пентагону з питань оборонних даних та штучного інтелекту має на меті з’ясувати, з якими завданнями можуть впоратися магістри права.

Команда Мартелла, яка керує робочою групою з оцінки LLM, вже знайшла для них 200 потенційних сфер застосування в Міністерстві оборони. «Ми не хочемо зупиняти великі мовні моделі», — наголосив політик. — «Ми просто хочемо зрозуміти їх використання, переваги, небезпеки і те, як їм протистояти».