OpenAI більше не буде контролювати безпечність свого штучного інтелекту

Ope­nAI ліквідувала внутрішню команду, яка займалася оцінкою того, чи здатні розробки компанії у сфері штучного інтелекту становити «катастрофічні ризики» для людства. Про це повідомляє Finan­cial Times.

Саме цей підрозділ відповідав за одну з ключових функцій безпеки в компанії — систематичний аналіз потенційно небезпечних можливостей ШІ-моделей перед їхнім випуском або масштабуванням.

Рішення розпустити команду викликало занепокоєння серед дослідників і критиків, які давно застерігають від послаблення внутрішніх механізмів контролю в провідних ШІ-лабораторіях. Ope­nAI наразі не прокоментувала це рішення публічно.

Закриття підрозділу відбувається на тлі загострення конкуренції між Ope­nAI, Google та іншими гравцями ринку, які прискорюють розробку нових поколінь моделей. Критики вказують, що комерційний тиск дедалі частіше бере гору над міркуваннями безпеки.

Ope­nAI позиціонує себе як компанію, що ставить безпеку ШІ у пріоритет. Однак ліквідація команди з оцінки катастрофічних ризиків суперечить цьому образу і може посилити регуляторну увагу до діяльності компанії.