Один з найвідоміших науковців у світі стверджує, що штучний інтелект вже «зламав людство»

У британському впливовому журналі The Economist вийшла свіжа стаття ізраїльського історика, футуролога та знаного на весь світ науковця Ювала Ноя Харарі. Матеріал присвячений штучному інтелекту та викликам для людства, які він спричинить. Харарі старається аргументувати, чому ШІ вже «зламав операційну систему людської цивілізації». Ділимося найголовнішими думками філософа.

«Коли люди думають про ChatGPT та інші інструменти ШІ, вони часто наводять аргументи про школярів, які використовують чат-бот для написання есе. Що станеться зі шкільною системою? Але такі питання не охоплюють весь стан речей. Забудьте про шкільні есе. Подумайте про наступні президентські перегони в США у 2024 році та спробуйте уявити вплив інструментів штучного інтелекту, які можуть бути використані для масового виробництва політичного контенту, фейкових новин і священних писань для нових культів».

«…Незабаром ми можемо виявити, що ведемо тривалі онлайн-дискусії про аборти, зміну клімату або російське вторгнення в Україну з сутностями, яких вважаємо людьми, але які насправді є штучними істотами. Заковика у тому, що для нас абсолютно безглуздо витрачати час на те, щоб змінювати свій світогляд, тоді як ШІ може „відточити“ свої повідомлення настільки, що матиме всі шанси впливати на нас».

«Завдяки своїм мовним навичкам, ШІ може навіть формувати інтимні стосунки з людьми й використовувати силу близькості, щоб змінювати думки та світогляд. Хоча немає жодних ознак того, що ШІ має власну свідомість чи почуття, для створення фальшивої близькості з людиною достатньо, щоб вона відчувала емоційну прив’язаність до нього».

«Всі ми знаємо, що за останнє десятиліття соціальні мережі стали полем битви за контроль над людською увагою. З новим поколінням штучного інтелекту фронт битви зміщується від уваги до інтимності. Що станеться з людським суспільством і людською психікою, коли ШІ боротиметься з іншим ШІ у битві за фальшиві інтимні стосунки з нами, які потім можуть бути використані, щоб переконати нас голосувати за певних політиків або купувати певні товари?»

«Навіть не створюючи „фальшивої близькості“, нові інструменти штучного інтелекту матимуть величезний вплив на наші думки та світогляд. Люди можуть почати використовувати єдиного ШІ-консультанта як універсального, оракула-всезнайку. Не дивно, що Google наляканий. Навіщо витрачати час на пошук, якщо я можу просто запитати оракула? Новинна та рекламна індустрії також повинні бути налякані. Навіщо читати газету, якщо я можу просто попросити оракула розповісти мені останні новини? І навіщо потрібна реклама, якщо я можу просто попросити оракула сказати мені, що купити?»

«Ми говоримо про потенційний кінець людської історії. Не кінець [глобальної] історії, а лише кінець тієї її частини, в якій домінує людина. Історія — це взаємодія між біологією і культурою; між нашими біологічними потребами й бажаннями в таких речах, як їжа і секс, і нашими культурними творіннями, такими як релігії та закони. Історія — це процес, через який закони та релігії формують їжу і секс».

«Що станеться з ходом історії, коли ШІ захопить культуру і почне створювати історії, мелодії, закони й релігії? Попередні інструменти, такі як друкарський верстат і радіо, допомагали поширювати культурні ідеї людей, але вони ніколи не створювали нових культурних ідей самостійно. ШІ принципово відрізняється від них. ШІ може створити абсолютно нові ідеї, абсолютно нову культуру».

«Спочатку ШІ, ймовірно, буде імітувати людські прототипи, на яких його навчали… Але з кожним роком ШІ-культура буде сміливо йти туди, куди не ступала нога людини. Тисячоліттями люди жили всередині снів інших людей. У найближчі десятиліття ми можемо виявити, що живемо у снах інопланетного розуму».

«Ми все ще можемо регулювати нові інструменти штучного інтелекту, але ми повинні діяти швидко. Якщо ядерна зброя не може винайти більш потужну ядерну зброю, то ШІ може створити експоненціально потужніший ШІ. Перший важливий крок — вимагати суворих перевірок безпеки перед тим, як потужні інструменти штучного інтелекту будуть випущені у вільний доступ».

«Чи не призведе уповільнення публічного впровадження ШІ до відставання демократій від більш жорстоких авторитарних режимів? Якраз навпаки. Нерегульоване застосування ШІ створить соціальний хаос, який буде на руку автократам і зруйнує демократію. Демократія — це розмова, а розмови покладаються на мову. Коли ШІ зламає мову, це може зруйнувати нашу здатність вести змістовні діалоги, тим самим знищивши демократію».

«Ми щойно зіткнулися з інопланетним розумом тут, на Землі. Ми мало що знаємо про нього, окрім того, що він може знищити нашу цивілізацію. Ми повинні зупинити безвідповідальне використання ШІ в публічній сфері й регулювати ШІ до того, як він регулюватиме нас. І перше правило, яке я б запропонував, — зробити обов’язковим для ШІ розкриття інформації про те, що він є ШІ».