Компанія, яка просила зупинити штучний інтелект, шукає фахівця зі зброї

Засновник і голова Anthrop­ic Даріо Амодеі нещодавно опублікував статтю із закликом до розробників найпотужніших систем штучного інтелекту притормозити темп розвитку галузі. За його словами, неконтрольований прогрес ШІ може «знищити людське життя». Проте вже через кілька днів компанія розмістила вакансію, яка чимало кого здивувала.

Anthrop­ic шукає менеджера з політики у сфері звичайних озброєнь. Новий співробітник увійде до команди Safe­guards — підрозділу, який встановлює правила використання ШІ-моделі Claude та визначає межі допустимого.

Зокрема, фахівець має вирішувати, які запити, пов’язані з бомбами та подібним озброєнням, модель може обробляти, а які — ні. У тексті вакансії зазначено, що провести чітку межу складно, адже «одні й ті самі технології слугують як цивільним, так і військовим цілям».

Паралельно з’явилися й резонансні повідомлення щодо вже наявного застосування інструментів компанії. За даними Reuters, технології Anthrop­ic використовувалися під час удару США по Ірану. Wall Street Jour­nal, своєю чергою, повідомив про причетність до справи, пов’язаної з президентом Венесуели.

Таке поєднання публічних закликів до стриманості й одночасного просування у військову сферу викликало хвилю критики. Критики називають поведінку компанії лицемірством, тоді як прихильники вбачають у цьому прагматичний підхід: якщо зброєносні застосування ШІ неминучі, краще встановлювати правила зсередини, ніж залишати поле іншим гравцям.