Ілон Маск назвав ключові фактори, через які штучний інтелект може знищити людство

Видання Busi­ness insid­er інформує: у рамках семінару “Великі дебати про штучний інтелект” на заході Abun­dance Sum­mit Ілон Маск вкотре заявив, що штучний інтелект може знищити людство. Однак, попри ризик, мільярдер закликав розвивати такі технології.

“Я думаю, є певний шанс, що це покладе кінець людству. Я, напевно, погоджуся…, що це близько 10% або 20% або щось на зразок того”, — коментує Маск.

“Одна з речей, які, на мою думку, неймовірно важливі для безпеки ШІ, — це наявність максимально допитливого та такого, що шукає істини, ШІ”, — підкреслив бізнесмен.На його думку, найкращий спосіб досягти безпеки користування ШІ — розвивати нейромережі таким чином, щоби вони змогли продукувати лише правду.

“Не змушуйте його [ШІ] брехати, навіть якщо правда неприємна”, — сказав Маск.

Раніше ми розповідали про те, що науковці з лабораторії Google Deep­Mind та Стенфордського університету створили систему контролю правдивості відповідей штучного інтелекту під назвою Search-Aug­ment­ed Fac­tu­al­i­ty Eval­u­a­tor (SAFE). Інновація націлена на розв’язання проблеми неправдивих або «вигаданих» відповідей, які можуть надавати масштабні мовні моделі, такі як Chat­G­PT.