Найвідоміший дослідник штучного інтелекту заявив, що нейромережі знищать все живе на Землі, якщо не зупинити їх розвиток

Один з найвідоміших дослідників штучного інтелекту Еліезер Юдковський закликав людей знищувати дата-центри та лабораторії, що займаються навчанням ШІ. За словами Юдковського, якщо не зупинити розвиток штучного інтелекту зараз, ШІ знищить усе живе на Землі у найближчому майбутньому. Своїми думками дослідник поділився на сторінках видання Time.

29 березня 1000 фахівців техногалузі, включаючи Ілона Маска та Стіва Возняка, підписали відкритий лист із закликом ввести піврічний мораторій на навчання більш продуктивних ШІ-систем, ніж нещодавно представлена модель GPT-4 від OpenAI. Еліезер Юдковський відмовився підписувати лист, наголосивши, що такий крок є недостатнім з огляду на всю глибину загрози розумних машин.

Дослідник запропонував зробити заборону на навчання ШІ безстроковою для всіх країн світу, уклавши міжнародну угоду. Юдковський також вважає за необхідне стежити за використанням графічних процесорів, а організації, які навчатимуть ШІ всупереч мораторію, карати точковими бомбардуваннями. «Будьте готові знищити злочинний центр обробки даних ШІ авіаударом», — заявив Юдковський, кардинально підійшовши до питання заборони навчання ШІ.

Науковець побоюється, що поява сильного штучного інтелекту (Artificial General Intelligence — AGI), який стане невідмінним від людини, а у деяких сферах навіть розумнішим, призведе до загибелі всіх людей на Землі. На думку Юдковського, людство поки що не готове мати справу з надрозумом, потужнішім за GPT-4, оскільки для управління ним потрібні більш розвинені технології. Наразі розробники ще не створили AGI-модель, з якою можна буде порівняти оновлений ChatGPT, тому подальші оновлення найвідомішого у світі ШІ - крок у невідоме, якого бояться експерти.

Попри побоювання Еліезера Юдковського та багатьох представників галузі штучного інтелекту та IT-індустрії, розробники OpenAI вже працюють над черговим оновленням ChatGPT, моделлю GPT-5. Навчання GPT-5 має завершитися у грудні 2023 року. Після досягнення етапу AGI система навчиться засвоювати концепти та завдання на рівні з людиною, а розмова з нею нагадуватиме діалог із живим співрозмовником.