Ілон Маск назвав ключові фактори, через які штучний інтелект може знищити людство

Видання Business insider інформує: у рамках семінару «Великі дебати про штучний інтелект» на заході Abundance Summit Ілон Маск вкотре заявив, що штучний інтелект може знищити людство. Однак, попри ризик, мільярдер закликав розвивати такі технології.

«Я думаю, є певний шанс, що це покладе кінець людству. Я, напевно, погоджуся…, що це близько 10% або 20% або щось на зразок того», — коментує Маск.

«Одна з речей, які, на мою думку, неймовірно важливі для безпеки ШІ, — це наявність максимально допитливого та такого, що шукає істини, ШІ», — підкреслив бізнесмен.На його думку, найкращий спосіб досягти безпеки користування ШІ - розвивати нейромережі таким чином, щоби вони змогли продукувати лише правду.

«Не змушуйте його [ШІ] брехати, навіть якщо правда неприємна», — сказав Маск.

Раніше ми розповідали про те, що науковці з лабораторії Google DeepMind та Стенфордського університету створили систему контролю правдивості відповідей штучного інтелекту під назвою Search-Augmented Factuality Evaluator (SAFE). Інновація націлена на розв’язання проблеми неправдивих або «вигаданих» відповідей, які можуть надавати масштабні мовні моделі, такі як ChatGPT.