Ілон Маск та Стів Возняк переконані, що штучний інтелект становить загрозу людству

Ілон Маск, Стів Возняк та понад 1000 експертів у галузі штучного інтелекту та представників IT-індустрії закликали ввести піврічний мораторій на навчання більш продуктивних ШІ-систем, ніж нещодавно представлена модель GPT-4 від OpenAI. У відкритому листі вони попередили про потенційні ризики стрімкого розвитку штучного інтелекту.

Лист опублікований некомерційним інститутом Future of Life та підписаний багатьма відомими в IT-індустрії людьми. Усі вони закликали «поставити на паузу» розробку ШІ до того, як для галузі будуть розроблені загальні протоколи та стандарти безпеки, застосування яких перевірятиметься незалежними аудиторами.

У листі наголошено, що потужні ШІ-системи повинні розроблятися лише після того, як людство буде впевнене у позитивних наслідках такого розвитку та в тому, що пов’язані з ними ризики будуть керованими. Також у листі згадується про потенційні загрози для суспільства та цивілізації з боку здатних конкурувати з людьми ШІ, що може призвести до економічних та політичних потрясінь. Розробників закликали тісно співпрацювати із регуляторами.

«Дослідження показали, що системи штучного інтелекту, які конкурують з людиною, можуть становити серйозну небезпеку для всього людства», — йдеться у зверненні ІТ-експертів.

Лист опублікований після того як до групи стурбованих стрімким розвитком ШІ приєднались спеціалісти Європолу, які попередили про можливість зловживання зловмисниками системами на кшталт ChatGPT. Правоохоронці зазначили, що ШІ може використовуватися при спробах фішингу, інформаційно-психологічних операціях, поширенні дезінформації та сприянні кіберзлочинності.