Лідери індустрії штучного інтелекту будують бункери для захисту від нього

У Кремнієвій долині виник парадоксальний феномен: багато технологічних лідерів, які активно розвивають штучний інтелект, водночас побоюються наслідків своєї роботи. “Ми точно побудуємо бункер до того, як випустимо AGI” — ця фраза, приписувана одному з керівників галузі, добре відображає суперечність епохи. Питання про те, коли з’явиться AGI (штучний загальний інтелект, порівнянний з людським), викликає бурхливі дискусії: глава Ope­nAI Сем Альтман стверджує, що це станеться раніше, ніж думає більшість, співзасновник Deep­Mind Деміс Хассабіс називає горизонт п’ять-десять років, а засновник Anthrop­ic Даріо Амодеї допускає появу “потужного ШІ” вже до 2026 року.

Прихильники AGI малюють захопливу картину майбутнього: технологія допоможе знаходити ліки від смертельних хвороб, перемогти кліматичну кризу та відкрити практично безмежні джерела чистої енергії. Ілон Маск навіть говорив про можливу епоху “універсального високого доходу”, коли ШІ стане настільки доступним, що у кожного з’являться власні високотехнологічні помічники. Однак у мрії є й зворотний бік: чи можна утримати таку систему від зловживань терористів або від самостійного висновку, що головна проблема планети — саме людство?

Держави намагаються будувати захисні бар’єри. У США в 2023 році вийшов указ президента, що зобов’язував компанії ділитися з владою результатами тестів безпеки, хоча згодом деякі положення були послаблені як “перешкода інноваціям”. У Великій Британії два роки тому з’явився державний Інститут безпеки ШІ, який вивчає ризики просунутих моделей. На цьому тлі надбагаті обговорюють “страховку на апокаліпсис” — від будинків на краю світу до приватних сховищ.

Є й ті, хто вважає всю дискусію помилковою. Професор Кембриджа Ніл Лоуренс називає саме поняття AGI настільки ж безглуздим, як “штучний універсальний транспортний засіб” — потрібний транспорт завжди залежить від контексту, і немає однієї машини на всі випадки життя. На його думку, розмови про AGI відвертають увагу від реальних змін, які вже відбуваються: вперше звичайні люди можуть розмовляти з машиною і отримувати від неї те, що дійсно мали на увазі.

Поточні системи відмінно розпізнають закономірності, але не “відчувають”, як би переконливо не звучали їхні відповіді. У людському мозку близько 86 мільярдів нейронів і приблизно 600 трильйонів синапсів — незрівнянно більше, ніж в штучних архітектурах. У великих мовних моделей відсутнє метапізнання — здатність усвідомлювати власні знання, яку часто описують як свідомість. За гучними прогнозами та тривогами ховається проста істина: ШІ вже сьогодні змінює повсякденність та бізнес-процеси, а розмова про “справжній” AGI зручна тим, хто збирає інвестиції або формує порядок денний.