Розробники найпотужнішого штучного інтелекту попередили про загрозу для людства

Компанія Anthrop­ic, розробник штучного інтелекту Claude, включила до документів для виходу на фондовий ринок пряме попередження: її технології можуть становити катастрофічну або навіть екзистенційну загрозу для суспільства. Йдеться не про абстрактний застереження дрібним шрифтом, а про визнання того, що власні заходи безпеки компанії не дають жодних гарантій.

У проспекті зазначено, що зі зростанням можливостей штучного інтелекту зростає і потенційна шкода від моделей, які налаштовані неправильно або використовуються зловмисно. Anthrop­ic визнає, що змушена постійно ухвалювати рішення щодо безпеки своїх систем, однак не може запевнити, що ці рішення виявляться правильними. Окремо компанія застерігає, що інші гравці галузі можуть не дотримуватися таких самих стандартів захисту.

Паралельно з підготовкою до IPO стало відомо про фінансові показники компанії. За оцінками аналітиків, Anthrop­ic може розраховувати на ринкову оцінку до 2 трильйонів доларів. Утім, лише за перше півріччя 2026 року компанія зафіксувала збитки на рівні 80 мільярдів доларів. Серед інших ризиків для бізнесу в документах названо дефіцит електроенергії, нестачу інфраструктури для дата-центрів, спротив місцевих громад їхньому будівництву та можливі судові позови через використання продуктів компанії.

Примітно, що Anthrop­ic раніше публічно закликала сповільнити розробку найпотужніших ШІ-моделей на рівні всієї індустрії, позиціонуючи це як відповідальний підхід до зниження ризиків. Однак у тих самих документах для інвесторів компанія попереджає, що надто повільний розвиток ринку або падіння попиту на її продукти загрожує уповільненням зростання бізнесу й погіршенням фінансових результатів.

Таким чином, перед Anthrop­ic постає непросте завдання: переконати інвесторів у комерційній привабливості технології, яку вона сама публічно називає потенційно небезпечною для людства. Компанія прямо визнає в проспекті, що чинні заходи безпеки не є вичерпними, — і водночас розраховує на багатотрильйонну оцінку.