Розробники ChatGPT контролюватимуть запуск небезпечних для людства нейромереж

OpenAI, компанія-розробник ChatGPT, створює незалежний наглядовий комітет з безпеки. Новий орган матиме повноваження відкладати запуск моделей штучного інтелекту через проблеми безпеки.

Комітет з безпеки та захисту OpenAI трансформується в незалежний наглядовий орган. Він складатиметься з чотирьох осіб: Зіко Колтера, Адама Д’Анджело, Пола Накасоне та Ніколь Селігман. Керівництво компанії інформуватиме комітет про оцінки безпеки перед випуском нових моделей ШІ. Члени комітету зможуть відкласти запуск, якщо виникнуть побоювання щодо безпеки.

Рада директорів OpenAI також отримуватиме регулярні звіти з питань безпеки та захисту. Проте незалежність комітету викликає питання, оскільки його члени входять до ради директорів компанії. Рішення про створення незалежного органу нагляду прийняли після 90-денного аналізу процесів безпеки в OpenAI. Підхід нагадує Наглядову раду Meta, яка перевіряє рішення компанії щодо контенту.

Комітет також виявив можливості для співпраці в галузі та обміну інформацією для підвищення безпеки ШІ. OpenAI планує ділитися більшою кількістю даних про свою роботу над безпекою. Компанія шукатиме способи пояснювати свої заходи безпеки та надавати можливості для незалежного тестування своїх систем. Така прозорість має підвищити довіру до розробок OpenAI.

Нагадаємо — минулого тижня компанія OpenAI офіційно представила свій новий продукт — генеративну модель штучного інтелекту під кодовою назвою Strawberry, яка офіційно називається OpenAI o1. В OpenAI говорять, що o1, що з’явився в результаті внутрішнього проекту компанії, відомого як Q, особливо добре справляється із завданнями, пов’язаними з математикою та програмуванням. Важливою перевагою o1 є його здатність «думати», перш ніж відповідати на запити.