Батько штучного інтелекту назвав загрозу ШІ більшою за зміну клімату

Вчений в галузі інформатики Джеффрі Хінтон, якого називають «хрещеним батьком штучного інтелекту», назвав загрозу ШІ більшою за зміну клімату. Про це Хінтон повідомив в інтерв'ю виданню Reuters.

За словами розробника, технологія штучного інтелекту може становити «більш нагальну» проблему для людства, ніж зміна клімату. Хінтон зізнався: у нього викликає тривогу можливість створення повністю автономної зброї на базі штучного інтелекту.

Минулого тижня Джеффрі Хінтон залишив посаду віцепрезидента Google. За словами Хінтона, він зробив це, щоб відкрито попередити громадськість про ризики, пов’язані з використанням штучного інтелекту. Хінтона вважають «хрещеним батьком ШІ» завдяки роботі над створенням сучасних систем штучного інтелекту. Ще у 1972 році Джеффрі зацікавився програмою з вивчення ШІ в Единбурзькому університеті, де він і зайнявся розробкою нейронних мереж.

«Моє завдання полягало в тому, щоб отримати пристрій, який би навчався так само як навчається мозок. Це була не моя ідея, про те ж саме думав Алан Тюрінг. Він вважав, що мозок є неорганізованою машиною, яка використовує навчання з підкріпленням, взаємодіючи з середовищем, і яка здатна навчитися чого завгодно. Він вважав, що це найкращий підхід до вивчення інтелекту», — розповів Хінтон в інтерв'ю Wired.

Попри активу роботу над створенням систем штучного інтелекту раніше, вчений тепер публічно висловлює занепокоєння щодо можливої загрози з боку штучного інтелекту. Хінтон побоюється ескалації, пов’язаної з розгортанням ШІ, яку неможливо зупинити без ефективних засобів контролю або жорстких обмежень.

Хінтон пояснив, що його позиція щодо систем штучного інтелекту почала змінюватися минулого року, коли Google, OpenAI та інші компанії почали створювати власні моделі ШІ, що іноді перевершують людський інтелект. Побоювання Хінтона поділяють багато впливових вчених та керівників технологічних фірм. Нещодавно Ілон Маск, Стів Возняк, а також понад 1000 інших експертів у галузі штучного інтелекту та представників IT-індустрії закликали у відкритому листі ввести піврічний мораторій на навчання ШІ-систем у зв’язку з необхідністю вирішення етичних проблем та питань безпеки.