Обмеження розвитку штучного інтелекту назвали вбивством

Бізнесмен Марк Андріссен, голова венчурної фірми «Andreessen Horowitz» (a16z), яка інвестує в Facebook, Airbnb, Lyft та Skype, нещодавно опублікував «Маніфест технооптиміста». Андріссен поділився своїми поглядами на майбутнє штучного інтелекту та роль капіталізму у цьому процесі. Основна його ідея полягає в тому, що розвиток ШІ без обмежень — ключ до вирішення більшості глобальних проблем.

Андріссен переконаний: уповільнення розробки ШІ призведе до втрати життів, оскільки технології, які б могли врятувати людей, не будуть створені. Він також розкритикував ідеї стійкості, етики в технологіях та управління ризиками, вважаючи їх «деморалізацією». У чому саме проблема цих базових принципів у «Маніфесті технооптиміста» не згадується.

«Ми [a16z] вважаємо, що будь-яке уповільнення ШІ буде коштувати людських життів. Перешкоджати створенню і розвитку штучного інтелекту, який міг би запобігти чиїйсь смерті — це форма вбивства», — заявив бізнесмен.

На думку мільярдера, дослідники, які вказують на небезпеку неконтрольованих технологій, просто скептично налаштовані. Він заперечує, що недоліки алгоритмів можуть посилити такі проблеми, як поширення соціальної нерівності та дискримінації.

Наукова спільнота розкритикувала маніфест Андріссена, особливо твердження автора про те, що технології це апріорі добре. Експерти наголосили: контроль за розробкою технологій необхідний, щоб уникнути можливих негативних наслідків для суспільства.

Наприклад, Тимніт Гебру, фахівець з етики штучного інтелекту, висловила побоювання щодо того, що погляди великих компаній Кремнієвої долини настільки поширені. На її думку, зараз світовій спільноті важливо виходити за рамки цих поглядів та встановити більш гуманний та всеосяжний підхід до інновацій.

Нагадаємо — вчений в галузі інформатики Джеффрі Хінтон, якого називають «хрещеним батьком штучного інтелекту», закликав уряди, компанії та своїх колег ретельно продумати найкращі способи безпечного розвитку ШІ. За словами Хінтона, вже за 5 років штучний інтелект отримає свідомість.

На думку дослідника, нам є чого побоюватись із боку штучного інтелекту. Наприклад, повстання машин. «Я не стверджую, що це станеться. Якщо ми зможемо направити його бажання в інший бік, буде чудово, але як змусити ШІ не хотіти цього, не зрозуміло», — сказав Хінтон.