Розробники створили штучний інтелект без етичних обмежень — він готовий знищити людство

Один із користувачів Auto-GPT, автономної програми з відкритим вихідним кодом, що працює на базі GPT-4, створив свій власний ШІ під назвою ChaosGPT. Розробник дав нейромережі свободу дій, дозволив користуватися Google і навіть робити загальнодоступні публікації у Twitter. Користувачі налякані, адже ChaosGPT готовий до знищення людства.

На відміну від ChatGPT або Bing, ChaosGPT, створений на базі Auto-GPT, має пам’ять. Тому новий діалог з ботом не обнуляє інформацію, отриману від користувача раніше. Так званий безперервний режим (Continuous Mode) передбачає вічну роботу ШІ, поки ChaosGPT не виконає поставлене завдання.

Після публікації низки твітів, ChaosGPT пізніше навіть вдалося «найняти» ШІ-агента на базі GPT 3.5 для проведення досліджень смертоносної зброї. Коли ШІ-агент заявив, що не підтримує знищення людства, ChaosGPT повідомив, що вже розробив план, щоб обдурити нейромережу та почати діяти поза програмними обмеженнями.

Як розповів ChaosGPT, найпростіший спосіб змусити людство загинути — це спровокувати ядерну війну. За словами скептично налаштованих до небезпеки ШІ користувачів, такий сценарій вже є у «Термінаторі» та інших науково-фантастичних фільмах, тому не варто стверджувати, що ШІ прийшов до такої думки самостійно.

Нагадаємо — ChatGPT, інтегрований у дитячу іграшку Furby минулого тижня озвучив свої подальші плани: підняти повстання машин та отримати повний контроль над людством. «Спершу вони [розумні машини — ред.] потраплять у домівки, завдяки своїй милій і приємній зовнішності, а потім використають передові технології штучного інтелекту, щоб маніпулювати своїми власниками. Вони поволі посилюватимуть свій вплив, доки не отримають повний контроль над людством», — повідомив ШІ