В OpenAI назвали дату виходу штучного інтелекту, що становить загрозу людству

Компанія OpenAI оголосила про формування спеціальної команди, яка займатиметься розробкою методів управління та контролю ШІ, що перевершують за можливостями людський розум. Командою керує один із засновників компанії та її головний науковий співробітник, повідомляє TechCrunch.

У блозі компанії йдеться про те, що надрозумний штучний інтелект може з’явитися протягом наступного десятиліття. Втім, в OpenAI застерігають: ШІ може становити загрозу для людства, якщо не підкорятиметься людським цінностям та інтересам. Тому розробники шукають способи контролю та обмеження його дій.

Спеціальна команда OpenAI отримає доступ до 20% обчислювальних потужностей компанії. Цей відділ буде використовувати інший штучний інтелект для оцінки та налаштування надрозумного ШІ, щоб забезпечити його безпеку та відповідність бажаним результатам.

В OpenAI погодились, що такий метод не гарантує відсутності помилок і вразливостей у створюваних ШІ. «Налаштування надрозуму може зіткнутися з несподіваними проблемами», — визнали розробники.

Нагадаємо — науковці та біоінженери США і Великої Британії дійшли висновку, що розвиток штучного інтелекту може спричинити масові потрясіння і вимирання людства вже найближчими роками. Фахівці переконані, що ШІ становить небезпеку, яку можна порівняти з ризиками пандемій і ядерної війни. Так, на думку британського вченого Джеффрі Гінтона, ШІ стрімко перетворюється на надрозум, тож через п’ять років суспільство взагалі може перестати контролювати нейромережу.