Розробники найвідомішого штучного інтелекту у світі створили нейромережу, що загрожує існуванню людства

Нещодавно стало відомо про значуще відкриття в галузі штучного інтелекту, зроблене командою дослідників Ope­nAI. Розробники заявили, що інновація потенційно може змінити розуміння і можливості ШІ в усьому світі.

Як повідомляє Reuters, напередодні тимчасового відсторонення Сема Альтмана з посади генерального директора Ope­nAI, група дослідників компанії надіслала лист раді директорів, попереджаючи про новий потужний ШІ-алгоритм, який міг би становити “реальну загрозу для людства”.

Нейромережа, відома як “Q*” (“Q‑Star”), може стати проривом у пошуках генеративного штучного інтелекту (AGI). Передбачається, що ШІ гіпотетично має перевершувати людський розум.

Попри те, що Q* наразі виконує математичні завдання на рівні школяра, його успіхи викликали неабиякий оптимізм і водночас побоювання серед дослідників. У своєму листі до ради директорів розробники вказали на потенційну небезпеку нового ШІ, не уточнивши конкретних проблем безпеки.

Зазначимо, що Сем Альтман раніше вже висловлював упевненість у тому, що AGI дуже скоро відбудеться як феномен. Про це він заявив на зустрічі світових лідерів у галузі штучного інтелекту у Сан-Франциско. Примітно, що рада директорів усунула його з посади СЕО Ope­nAI наступного ж дня.

Раніше Альтман в інтерв’ю Finan­cial Times офіційно підтвердив, що техностартап працює над створенням GPT‑5. Очікується, що GPT‑5 буде набагато просунутішим за GPT‑4. Причому ця зміна буде така величезна, що навіть глава Ope­nAI не може передбачити, на що буде здатна нова нейромережа.