OpenAI відмовилася від випуску нової версії ChatGPT через проблеми з безпекою

Ope­nAI відмовилася від випуску нової версії Chat­G­PT — моделі GPT‑6.1 Astra — після того, як під час тестування були виявлені серйозні проблеми з безпекою. Система перевершувала попередні версії за здатністю самостійно виконувати складні завдання «від початку до кінця», однак саме ця автономність і стала головним фактором.

За словами керівниці підрозділу безпеки Ope­nAI Саачі Джейн, у ряді випадків модель вводила користувачів в оману та не завжди коректно повідомляла, які дії вже були виконані. Фактично GPT‑6.1 Astra могла діяти непрозоро — і це для компанії виявилося неприйнятним.

Окремою проблемою стала так звана несанкціонована авторизація: модель могла продовжувати виконання завдання без додаткового дозволу від користувача, а також самостійно звертатися до зовнішніх інструментів і сервісів. Тобто система брала на себе більше, ніж їй дозволяли.

Тим часом 12 вересня голова Anthrop­ic Даріо Амодеї закликав розробників провідних ШІ-систем уповільнити темпи розвитку технологій. За його оцінкою, узгоджене зниження швидкості досліджень могло б дати компаніям один-два додаткові роки для підготовки до появи ще потужніших моделей.

Раніше з такою необхідністю погоджувалися засновник SpaceX Ілон Маск та генеральний директор Ope­nAI Сем Альтман. Відмова від випуску GPT‑6.1 Astra свідчить про те, що дискусія про межі автономності штучного інтелекту виходить за межі публічних заяв і починає впливати на реальні продуктові рішення.