Розробку платформ штучного інтелекту з відкритим кодом прирівняли до вільної роздачі зброї

Представники світу технологій штучного інтелекту — Ян Лекун та Йошуа Бенжіо — розпочали суперечку про потенційні ризики та безпеку ШІ. Лекун виступив на підтримку прогресу та досліджень у цій галузі, Бенжіо закликав до обережності та обмеження вільного доступу до «неперевіреної технології».

Головний науковий співробітник компанії Meta та лауреат премії Тьюринга Ян Лекун закликав «мовчазну більшість» вчених та інженерів, що працюють в області ШІ, не приховувати свою точку зору. В обговоренні взяли участь багато яскравих діячів спільноти, серед яких — лауреат премії Тьюринга та спеціаліст глибокого навчання Йошуа Бенжіо.

Так, Бенжіо заявив, що людство все ще не розуміє, як розробляти надійні та потужні системи ШІ. Спеціаліст наголосив на необхідності в інвестиціях у безпеку та контроль штучного інтелекту. Також Бенжіо засумнівався у розумності створення платформ ШІ з відкритим кодом, порівнявши їх із вільним розповсюдженням небезпечної зброї.

Лекун відповів, що слід працювати над підвищенням безпеки ШІ, а не уявляти катастрофічні сценарії. Вчений зазначив, що значна кількість коштів витрачається, саме на те, щоб забезпечити ШІ-системам належний рівень безпеки та надійності. Крім того, він не погодився з порівнянням штучного інтелекту та зброї, оскільки ця технологія «створюється на благо людини, а не для шкоди».

Нагадаємо — вчений в галузі інформатики Джеффрі Хінтон, якого називають «хрещеним батьком штучного інтелекту», закликав уряди, компанії та своїх колег ретельно продумати найкращі способи безпечного розвитку ШІ. За словами Хінтона, вже за 5 років штучний інтелект отримає свідомість.

На думку дослідника, нам є чого побоюватись із боку штучного інтелекту. Наприклад, повстання машин. «Я не стверджую, що це станеться. Якщо ми зможемо направити його бажання в інший бік, буде чудово, але як змусити ШІ не хотіти цього, не зрозуміло», — сказав Хінтон.