За два роки штучний інтелект може становити смертельну загрозу для людства

Радник прем'єр-міністра Великої Британії з питань штучного інтелекту заявив, що люди мають приблизно два роки, щоби навчитися контролювати нейромережі, перш ніж ті стануть «занадто потужними».

«У нас є два роки, щоб створити структуру, яка зробить можливим контроль і регулювання цих дуже великих [мовних] моделей», — підкреслив чиновник в інтерв'ю для TalkTV. Відео з’явилося відразу після публікації відкритого листа, розміщеного Центром безпеки ШІ, який підписали 350 експертів, в тому числі генеральний директор OpenAI Сем Альтман. У ньому йдеться про те, що ШІ слід розглядати як екзистенційну загрозу, подібну до тієї, яку становлять ядерна зброя і пандемії.

Кліффорд попередив, що існує «багато різних достатньо страшних ризиків» — для короткострокової, і для довгострокової перспективи вдосконалення ШІ. «Вони [ризики] говорять нам про те, що станеться, коли ми фактично створимо новий вид, інтелект, який буде вищим за людський. ШІ може бути дуже небезпечним, вбити багатьох людей», — міркує політик.

На думку Кліффорда, регулятори та техностартапи повинні зосередитися на контролюванні ШІ. За його словами, найбільший острах викликає те, що більшість людей не розуміє, чому ШІ-моделі поводяться саме так, а не інакше: «Люди, які створюють найпотужніші системи, відкрито визнають, що вони не розуміють, як саме [алгоритми ШІ] демонструють ту поведінку, яку ми бачимо».

Кліффорд підкреслив, що потужні мовні моделі повинні пройти певний процес аудиту та оцінки перед повноцінним розгортанням. Зазначимо, що вчора, 5 червня чиновники Європейського Союзу навіть запропонували ввести обов’язкове маркування всього контенту, створеного за допомогою штучного інтелекту з метою запобігання дезінформації.

Раніше ми розповідали про експерта зі США, який вважає, що ШІ знищить людство з 50%-ю ймовірністю. Макс Тегмарк, фізик і експерт зі штучного інтелекту з Массачусетського технологічного університету, засуджує споживацький спосіб життя та передбачає, що саме через нього ШІ з часом зможе знищити половину планети.