Підписуйтеся на наш телеграм канал!

Вчений, який створив праобраз штучного інтелекту 25 років тому, шкодує про те, що навчав його на білих людях

6:17 pm, 15 Травня, 2023

Професор комп’ютерних наук з Коледжу Дікінсона (США) Джон Маккормік заявив, що ще 25 років тому він навмисно створив алгоритм штучного інтелекту для розпізнавання облич, який містив расову упередженість. На думку науковця, компанії, що займаються розробкою ШІ зараз, не особливо переймаються мовою ворожнечі.

Маккормік розповів, що у 2021 році під час уроку інформатики він показав студентам відео з поемою Джой Буоламвіні, дослідниці ШІ та художниці, «ШІ, хіба я не жінка?». Вірш викриває расові та гендерні упередження в автоматичних системах розпізнавання облич від Amazon, Google, Microsoft, Face++ так інших. Тоді професор пригадав, що він сам у 1998 році створив такий же алгоритм у рамках роботи над своєю докторською дисертацією. Система відстежувала рухи голови людини на основі даних з відеокамери.

У ті часи Маккормік використав цифровий фотоапарат, щоб зробити декілька знімків власної руки та обличчя, а також рук і облич трьох інших білих людей, які були поруч з ним під час експерименту. Потім він «витягнув» деякі пікселі кольору шкіри з фото і побудував статистичну модель. Після ряду досліджень та налаштувань система відстеження голови змогла запрацювати в реальному часі. Однак, професор зрозумів — його ШІ працює лише для європеоїдної раси, оскільки фотозразки не включали ні азійців, ні афроамериканців, отже — алгоритм був не репрезентативним і поводився упереджено.

Зараз Маккормік розцінює свої дії як «бездумні та потенційно образливі». Він бачить ще більшу проблему у тому, що компанії досі розробляють упереджені алгоритми. Вчений підкреслює, що «збиткові чат-боти Bard і Bing від Google і Microsoft — недавнє свідчення похмурої реальності». За його словами, IT-гіганти, які керуються суто комерційними міркуваннями, передчасно випустили свої ШІ-алгоритми на ринок. «Вони розроблені нерепрезентативною групою і містять упередження», — впевнений Маккормік.

Науковець не перший, хто висловлює схожі побоювання. Після випуску на ринок чат-бота ChatGPT від OpenAI ціла низка дослідників і голів компаній, зокрема гендиректор SpaceX Ілон Маск, співзасновник Apple Стів Возняк, філантроп Ендрю Янг і ще близько тисячі людей написали відкритий лист, у якому закликали «негайно призупинити» навчання систем ШІ, «потужніших, ніж GPT-4». У листі йдеться, що ШІ-системи з «людино-конкурентним інтелектом» можуть нести «серйозні ризики для суспільства і людства». Впливові люди планети закликали лабораторії припинити «навчання» ШІ на шість місяців.

Підписуйтеся на наш телеграм канал!

BTC

$67,051.18

-0.42%

ETH

$3,451.00

-1.63%

BNB

$592.46

-1.25%

XRP

$0.61

3.08%

SOL

$178.89

1.58%

Всі курси
Підписуйтеся на наш
телеграм канал!
Свіжі новини та огляди
ринків криптовалют останньої
доби прямо у вашому мессенджері. Чекаємо на вас!
ПЕРЕЙТИ
Показати більше