Штучний інтелект навчать моральних цінностей — цього вимагають вчені

Інститут людино-орієнтованого штучного інтелекту (HAI — Human-Cen­tered Arti­fi­cial Intel­li­gence) у Стенфордському університеті під керівництвом вченої Фей-Фей Лі прагне привнести елементи відкритості, прозорості та безпеки в розробку штучного інтелекту. Фей-Фей Лі вважає ШІ переломним моментом в історії людства, але не закликає припиняти дослідження. Її мета — поставити людську мораль у центр процесу.

Лі — одна із найвизначніших дослідниць у сфері ШІ поряд з Джеффрі Гінтоном і Яном ЛеКуном. Після розробки нейромережі-класифікатора зображень Ima­geNet у Принстоні Лі у 2009 році перейшла до Стенфордського університету. Там вона стала директором шкільної лабораторії штучного інтелекту. У січні 2017 року вона стала головним науковим співробітником у сфері штучного інтелекту і машинного навчання в Google Cloud, а восени 2018 року повернулася у Стенфорд як співдиректор Інституту людино-орієнтованого штучного інтелекту (HAI), де продовжує працювати донині.

HAI прагне тісно співпрацювати з технологічною індустрією для підтримки цінностей відкритості, прозорості та безпеки в розробці штучного інтелекту. Просування цих принципів, на думку Лі, стає дедалі актуальнішим у світлі швидкого розвитку технологій та глибшого розуміння як короткострокових, так і довгострокових ризиків від ШІ.

“Це надто потужна технологія, яку можна порівняти з точками зміни, які людство переживало в історії нашої цивілізації — чи то відкриття вогню, чи то винахід електрики, чи то поява персональних комп’ютерів. Це та ж сама масштабність і глибина”, — зазначила Фей-Фей Лі.

Цікаво, що попри просування моральних наративів у роботу над технологічним прогресом, науковиця не виступає за припинення досліджень великих мовних моделей. 

Раніше ми розповідали про штучний інтелект від Google, який визначає генетичні проблеми в людей.  Інструмент фокусується на так званих місенс мутаціях, при яких проблема стосується однієї букви генетичного коду. Зазначимо, що у геномі типової людини є 9000 таких мутацій.