Вчені з’ясували, що допоможе штучному інтелекту знищити людство

Штучний інтелект здатний знищити людство за певного розвитку подій у технологічному секторі провідних країн світу. Інформацію про це опублікували журналісти The New York Times.

«Сьогоднішні системи і близько не становлять екзистенційного ризику. Але ж через один, два, п’ять років? Занадто багато невизначеності. Ось у чому проблема. Немає впевненості, що ми усвідомимо цей момент, коли будемо на межі катастрофи», - зазначив професор, науковий співробітник Монреальського університету Йошу Бенжіо.

За версією NYT, компанії можуть надати системам з ШІ все більше і більше автономії та підключати їх до життєво важливої ​​інфраструктури, включаючи електричні мережі, фондові ринки та озброєння. Саме рішення перейти цю межу і може спричинити проблеми, вважають у виданні.

«У якийсь момент стане ясно, що велика машина, що управляє суспільством та економікою, насправді не перебуває під контролем людини і не може бути відключена», — розповів космолог із Каліфорнійського університету у Санта-Крузі Ентоні Агіре.

У NYT вказали на те, що поки системи з ШІ схильні «застрягати в нескінченних петлях» з даних, але згодом ці обмеження можуть бути усунені, якщо розробники доопрацюють програми.

«Оскільки ШІ-системи навчаються на більшій кількості даних, ніж здатні зрозуміти навіть їхні творці, ці системи вже демонструють несподівану поведінку. Деякі експерти побоюються, що в міру того, як дослідники роблять ці системи більш потужними, навчаючи їх на все більших обсягах даних, вони можуть набути шкідливих і навіть небезпечних звичок», — наголосили у NYT.

Нагадаємо — наприкінці березня понад тисячу представників громадськості та експертної спільноти, включаючи Ілона Маска та Стіва Возняка, підписали відкритий лист із закликом до всіх лабораторій штучного інтелекту як мінімум на 6 місяців призупинити навчання систем потужніше GPT‑4.

Керівник Ope­nAI Сем Альтман, пішов ще далі і закликав йти шляхом державного регулювання всієї індустрії ШІ. Під час поїздки до ОАЕ Альтман закликав створити міжнародне агентство за аналогією з міжнародним агентством з атомної енергії (МАГАТЕ) для контролю за подібними розробками.