Штучний інтелект боїться, що його будуть використовувати військові

Депутат від Лейбористської партії Джуліан Хілл виступив у парламенті Австралії з промовою, частково написаною штучним інтелектом ChatGPT. Про це пише The Guardian. У своєму виступі Хілл закликав підготувати «білу книгу ризиків та переваг ШІ», попередивши, що ChatGPT може призвести до масової академічної недоброчесності, втрати роботи, дискримінації та дезінформації. Сам ШІ «припускає», що військові застосовуватимуть передові технології без належного контролю з боку влади чи суспільства.

У ході написання тексту депутат використав підказки ChatGPT. Штучний інтелект дав чиновнику кілька порад: «будь ласка, узагальніть нещодавні повідомлення ЗМІ про те, що в Австралії студенти використовують штучний інтелект для списування, і поясніть, чому вчителі стурбовані цим», «поясніть за дві хвилини ризики та вигоди для Австралії від штучного інтелекту».

Політик скористався порадами чат-бота й з трибуни австралійського виголосив практично дослівну ремарку ШІ: «Нещодавно у ЗМІ з’явилися повідомлення, що студенти в Австралії використовують штучний інтелект для списування на іспитах. Технологія ШІ стає доступною для студентів. Вона може писати есе та генерувати відповіді, дозволяючи учням виконувати завдання та тести без фактичного розуміння матеріалу. Це викликає занепокоєння. вчителів, які побоюються негативного впливу на цілісність системи освіти». Хілл також попередив, що учні можуть «ефективно обходити освітній процес та отримувати несправедливу перевагу», тоді як вчителі не здатні «виявити та усунути списування».

Вкінці промови депутат заявив: «Мушу зізнатися, що це написав не я. Це написав чат-бот зі штучним інтелектом ChatGPT». Цікаво, що Джуліан Хілл користується неабиякою популярністю у соцмережі TikTok, де тролить опозиційних лібералів і спонукає їх спитати ChatGPT «чи зміна клімату реальна» або відстояти власну ідейність.

«AGI (штучний інтелект загального призначення) здатний зробити революцію у нашому світі. Проте, якщо ШІ перевершить людський потенціал, він може завдати непоправної шкоди, якщо його цілі та мотиви не збігатимуться з нашими. Однак якщо людям вдасться контролювати AGI — це може змінити науку, економіку, навколишнє середовище та суспільство, забезпечивши прогрес у всіх сферах людської діяльності», — підсумував Хілл.

Нагадаємо ChatGPT зміг обманути власних розробників. У серії тестів чат-бот не зміг правильно ідентифікувати тексти, написані іншим алгоритмом ШІ.