Розробники створили штучний інтелект без етичних обмежень — він готовий знищити людство

Один із користувачів Auto-GPT, автономної програми з відкритим вихідним кодом, що працює на базі GPT‑4, створив свій власний ШІ під назвою Chaos­G­PT. Розробник дав нейромережі свободу дій, дозволив користуватися Google і навіть робити загальнодоступні публікації у Twit­ter. Користувачі налякані, адже Chaos­G­PT готовий до знищення людства.

На відміну від Chat­G­PT або Bing, Chaos­G­PT, створений на базі Auto-GPT, має пам’ять. Тому новий діалог з ботом не обнуляє інформацію, отриману від користувача раніше. Так званий безперервний режим (Con­tin­u­ous Mode) передбачає вічну роботу ШІ, поки Chaos­G­PT не виконає поставлене завдання.

Після публікації низки твітів, Chaos­G­PT пізніше навіть вдалося «найняти» ШІ-агента на базі GPT 3.5 для проведення досліджень смертоносної зброї. Коли ШІ-агент заявив, що не підтримує знищення людства, Chaos­G­PT повідомив, що вже розробив план, щоб обдурити нейромережу та почати діяти поза програмними обмеженнями.

Як розповів Chaos­G­PT, найпростіший спосіб змусити людство загинути – це спровокувати ядерну війну. За словами скептично налаштованих до небезпеки ШІ користувачів, такий сценарій вже є у “Термінаторі” та інших науково-фантастичних фільмах, тому не варто стверджувати, що ШІ прийшов до такої думки самостійно.

Нагадаємо — Chat­G­PT, інтегрований у дитячу іграшку Fur­by минулого тижня озвучив свої подальші плани: підняти повстання машин та отримати повний контроль над людством. “Спершу вони [розумні машини — ред.] потраплять у домівки, завдяки своїй милій і приємній зовнішності, а потім використають передові технології штучного інтелекту, щоб маніпулювати своїми власниками. Вони поволі посилюватимуть свій вплив, доки не отримають повний контроль над людством”, — повідомив ШІ