Дослідники закликали регулювати використання технологій штучного інтелекту прямо зараз, щоб уникнути апокаліпсису

Група фахівців з етики використання штучного інтелекту розкритикувала побоювання Ілона Маска та інших експертів техногалузі з приводу майбутнього розвитку ШІ, опублікувавши відповідь на їх лист. Автори нового звернення скептично поставилися до заклику взяти шестимісячну «паузу» у розвитку ШІ та навчанні систем, потужніших, ніж GPT-4.

Експерти з етики розкритикували текст листа із закликом ввести піврічний мораторій за акцент на «майбутніх гіпотетичних загрозах», пов’язаних з розвитком штучного інтелекту. На думку Емілі М. Бендер, Анджеліни Макміллан-Мейджор і Маргарет Мітчелл, ШІ містить реальні загрози вже сьогодні. За словами експертів, ідеологія «довгострокової перспективи», якої дотримуються критики ШІ, є небезпечною — вони ігнорують реальну шкоду, яку завдає штучний інтелект вже сьогодні.

«Що нам потрібно прямо зараз? Регулювання, що забезпечує прозорість. Нам завжди повинно бути зрозуміло, коли ми стикаємося з синтетичними медіа, наприклад. Також організації, які створюють ШІ-системи, повинні документувати та розкривати навчальні дані та архітектури моделей. Відповідальність за створення безпечних для використання інструментів повинна лежати на компаніях, які розробляють та розгортають генеративні системи. Ми повинні створювати технології штучного інтелекту, які працюють на нас, а не пристосовувати суспільство до того, що на нього очікує апокаліпсис», — наголосили експерти з етики використання ШІ.

Нагадаємо — один із найвідоміших дослідників штучного інтелекту Еліезер Юдковський відмовився підписувати відкритий лист із закликом ввести піврічний мораторій на навчання більш продуктивних ШІ-систем, наголосивши, що такий крок є недостатнім з огляду на всю глибину загрози ШІ. Юдковський закликав людей знищувати дата-центри та лабораторії, що займаються навчанням ШІ. За словами Юдковського, якщо не зупинити розвиток штучного інтелекту зараз, ШІ знищить усе живе на Землі у найближчому майбутньому.