Розробники найвідомішого штучного інтелекту у світі створили нейромережу, що загрожує існуванню людства

Нещодавно стало відомо про значуще відкриття в галузі штучного інтелекту, зроблене командою дослідників OpenAI. Розробники заявили, що інновація потенційно може змінити розуміння і можливості ШІ в усьому світі.

Як повідомляє Reuters, напередодні тимчасового відсторонення Сема Альтмана з посади генерального директора OpenAI, група дослідників компанії надіслала лист раді директорів, попереджаючи про новий потужний ШІ-алгоритм, який міг би становити «реальну загрозу для людства».

Нейромережа, відома як «Q*» («Q-Star»), може стати проривом у пошуках генеративного штучного інтелекту (AGI). Передбачається, що ШІ гіпотетично має перевершувати людський розум.

Попри те, що Q* наразі виконує математичні завдання на рівні школяра, його успіхи викликали неабиякий оптимізм і водночас побоювання серед дослідників. У своєму листі до ради директорів розробники вказали на потенційну небезпеку нового ШІ, не уточнивши конкретних проблем безпеки.

Зазначимо, що Сем Альтман раніше вже висловлював упевненість у тому, що AGI дуже скоро відбудеться як феномен. Про це він заявив на зустрічі світових лідерів у галузі штучного інтелекту у Сан-Франциско. Примітно, що рада директорів усунула його з посади СЕО OpenAI наступного ж дня.

Раніше Альтман в інтерв'ю Financial Times офіційно підтвердив, що техностартап працює над створенням GPT-5. Очікується, що GPT-5 буде набагато просунутішим за GPT-4. Причому ця зміна буде така величезна, що навіть глава OpenAI не може передбачити, на що буде здатна нова нейромережа.